El Islam, que surgió en la Península Arábiga a principios del siglo VII, consiguió cubrir la mayor parte del mundo en poco tiempo. Los habitantes del territorio del actual Azerbaiyán se convirtieron al Islam en los primeros años de la era musulmana (639). Marzban de Azerbaiyán Isfandiyar bin Farrukhzad fue derrotado por los árabes y concluyó el contrato en el mismo año. Los árabes ocuparon Ardabil, Tabriz, Nakhchivan, Beylagan, Barda, Shirvan, Mugan y Arran, llegando así a Derbend a orillas del mar Caspio. Las fortificaciones de la ciudad resistieron a los árabes, que le dieron el nombre de «Bab al-Abvab». El historiador Belaruzi informó de que la mayor parte de la población de Azerbaiyán aceptó el Islam en el período de gobierno del jalif Ali bin Abu Talib (656-661). Este proceso duró un poco más en el norte. Los árabes impusieron impuestos a la población de las tierras ocupadas, continuaron con las invasiones después de alcanzar el acuerdo de paz, y más tarde regresaron. Reanudaron las invasiones cuando la población local se negó a pagar impuestos.

Algunas regiones se convirtieron al Islam de forma pacífica, mientras que a otras se les hizo aceptar la religión por la fuerza. A los idólatras se les sugirió que aceptaran el Islam, los que lo hicieron tuvieron que pagar zekat y kharaj y no participaron en las batallas junto a los musulmanes; a los que participaron se les concedió parte del material capturado; mientras que los que no aceptaron la religión tuvieron que pagar la jizya y estuvieron bajo la protección de los musulmanes, y los que se negaron a aceptar la religión o a pagar la jizya tuvieron que luchar contra los musulmanes. Los asentamientos fronterizos-ribads estaban habitados únicamente por musulmanes. Los musulmanes eran trasladados a estas regiones desde diferentes provincias del Califato para consolidarlas, mientras que los que no habían aceptado el Islam eran expulsados a lugares remotos llamados `rebed`. Los acuerdos de paz celebrados por comandantes árabes como Huzeyfe ibn al-Yeman, Utbe ibn Ferged, Velid ibn Ugbe, Selman ibn ar-Rabia al-Bahili, Bukeyr ibn Abdullah, Surage ibn Emr, Mesleme estipulaban la inviolabilidad de la vida, la propiedad y la religión de la población.

Es difícil especular sobre las formas específicas de islamización en Azerbaiyán, ya que esta cuestión sigue sin explorarse. Sin embargo, pueden señalarse algunas etapas de este complejo proceso.

La primera etapa, que duró desde mediados del siglo VII hasta principios del siglo VIII, fue el periodo de progreso del Islam. Esta etapa terminó con el derrocamiento de Albania y la pérdida de la independencia de la iglesia albanesa en el año 705. Según el académico Z.Bunyadov, el Islam dominó Azerbaiyán al final de esta etapa, y los funcionarios del Estado aceptaron esta religión incondicionalmente para preservar sus privilegios. La nueva religión se extendió entre los comerciantes y los artesanos, ya que los árabes concedieron privilegios a estos estratos. En esa época no se construyeron mezquitas. Además, los antiguos templos e iglesias, que quedaron inservibles debido a la expansión del Islam, se convirtieron en mezquitas. Se mantuvo el predominio de la conciencia tribal sobre la religiosa.

La segunda etapa abarca desde el siglo VIII hasta el reinado de los buveyhiles en el oeste de Irán e Irak. En Azerbaiyán se establecieron los estados independientes de Shirvanshah Mazyadis y Sajids. La idolatría y el zoroastrismo perdieron su actualidad, el judaísmo consiguió sobrevivir, se restauró la independencia de la iglesia albanesa, aunque debido a su débil influencia, las ceremonias de oración se celebraban en lengua armenia. La conciencia de pertenecer al Islam se fortaleció en ese período, pero las ideas relacionadas con las raíces étnicas aún no se habían perdido por completo. Esto se puede observar en el movimiento del shuubismo, que se puso en marcha en los primeros años del gobierno de Abbasies. La rebelión de Babak (816-838) es el ejemplo más brillante de ese proceso. La teosofía [tasavvuf] del Islam se desarrolló en las regiones fronterizas. El chiismo radical se intensificó en las regiones montañosas.

La tercera etapa abarca el periodo de gobierno de los Buveyhiv (935-1055). El chiismo neutral se formó en Azerbaiyán y llegó a Derbend en esa época. El chiismo y el sunismo eran las principales tendencias religiosas. El sufismo también estaba bastante extendido entre ciertos grupos de personas. Uno de los más bellos monumentos del sufismo era el claustro de derviches en el río Pirsaat de Shirvan.

La cuarta etapa coincide con la época de los selyúcidas (mediados del siglo XI y mediados del XIII). El sunismo se fortaleció mientras que la posición del chiismo se debilitó. El shafismo se convirtió en la tendencia principal de esa época y las sectas del sufismo se extendieron ampliamente. Los Atabeys y los Shirvanshahs consiguieron proteger el Islam de la presión del cristianismo.

La quinta etapa abarca el periodo de las invasiones mongolas (entre mediados del siglo XIII y mediados del siglo XV). El sufismo estaba muy extendido en esa época y el hurufismo reforzó su posición, fundado por Fazlullah Naimi (fallecido en 1394). Abulhasan Aliyyul-Ala y el poeta Nasimi (fallecido en 1417) fueron los representantes más influyentes de esta corriente. Durante este periodo, el segundo «pir» de la secta sufí, Seyyid Yahya Shirvani Bakuvi Khalvati (fallecido en 1464), se hizo muy popular. Uno de los hermanos del gobernante de Aggoyunlu, Uzun Gasan, era seguidor del jeque de la secta Dede Omar Rovsheni (fallecido en 1487). Ibrahim bin Mohamed Gulsheni (fallecido en 1534) fundó la tendencia de Gulshaniyye como una de las ramas de la secta Khalvati en la segunda mitad del siglo XV. Más tarde, varias tendencias del sufismo como Negshbendiyye se extendieron a Azerbaiyán y al Cáucaso Norte a través de Azerbaiyán.

La sexta etapa está relacionada con el gobierno de los safávidas (1501-1736) y los otomanos desde el siglo XVI (1299-1922). Los safávidas propagaron el chiismo y se pusieron turbantes con doce franjas rojas para glorificar a los 12 imanes del chiismo. Por ello se les llamó Gizilbashs. Osmanli, que derrotó a los safavíes en la batalla de Chaldiran, difundió el sunismo en Azerbaiyán.

El período de la anexión de Azerbaiyán al Imperio Ruso también puede considerarse como una nueva etapa en la vida religiosa del país. Este periodo destaca por los intentos del gobierno de someter a los sacerdotes musulmanes mediante la política de establecer una estructura religiosa del Islam similar a la de la iglesia cristiana. En este sentido, el 29 de noviembre de 1832 el zar ruso envió una carta al Senado en la que se proponía elaborar el estatuto del Departamento de Asuntos Religiosos de los musulmanes transcaucásicos. Sin embargo, ninguno de los proyectos preparados fue aprobado. Por instrucción del knyaz Volontsov, M.Khanykov, el funcionario del Ministerio de Asuntos Exteriores, elaboró el proyecto de estatuto sobre la organización de los clérigos mahometanos en 1849. Aunque el proyecto fue aprobado en su totalidad, no se aplicó debido al comienzo de la guerra de Crimea. En 1864 se creó una nueva comisión para continuar este trabajo. También participaron en el proceso representantes locales del chiismo y del sunismo. Los reglamentos preparados controlaban las posiciones de los clérigos musulmanes, los derechos y privilegios, y las relaciones con el gobierno secular. Sólo el «Sheikh-ul-Islam» y el muftí recibían salarios del gobierno hasta 1867, mientras que los demás clérigos musulmanes empezaron a cobrar a partir de ese año. El reglamento sobre el departamento para los clérigos islámicos suníes y chiíes de Transcaucasia, introducido por el Consejo de Estado, fue ratificado por el zar de Rusia el 5 de abril de 1872.

El departamento se basaba principalmente en la estructura de la Iglesia Ortodoxa. En el Cáucaso se crearon dos órganos administrativos musulmanes: el departamento religioso suní, dirigido por el muftí, y el departamento religioso chií, presidido por el «Jeque-ul-Islam». Cada uno de estos dos departamentos ubicados en Tiflis estaba compuesto por el presidente, tres miembros del presidium, dos asistentes, y el secretario, el dragomán, el oficinista y el registrador. Ambos departamentos incluían cuatro Asambleas en las provincias de Tiflis, Ereván, Yelizavetpol (Ganja) y Bakú. El departamento suní contaba con 16 confesores y el chiíta con 20, que actuaban bajo el Ministerio de Asuntos Exteriores y dependían directamente del gobernador. Los órganos de gobierno locales controlaban a los clérigos provinciales.

Estos dos departamentos habían regulado los asuntos religiosos de los musulmanes del Cáucaso hasta la creación de la República Democrática de Azerbaiyán (1918-1920). «Sheikh-ul-Islam» Muhammad Pishnamazzade fue enviado a dimitir el 11 de diciembre de 1918. Akhund Agha Alizade fue nombrado «Sheikh-ul-Islam» por Musa Rafibeyov, Ministro de Seguridad Social y Convicciones Religiosas de la República Democrática de Azerbaiyán. Este periodo se caracterizó por el fortalecimiento de las tendencias de racionamiento y modernización del Islam.

Tras el establecimiento del gobierno soviético en Azerbaiyán en 1920, el Ministerio de Convicciones Religiosas y «Sheikh-ul-Islamismo» fue destituido el 15 de mayo, los clérigos musulmanes fueron perseguidos y la mayoría de las mezquitas fueron cerradas. La creación de la estructura religiosa de los musulmanes transcaucásicos se consideró conveniente para el uso de la religión en la lucha contra el fascismo alemán en 1943.

El primer congreso de los musulmanes transcaucásicos se celebró en Bakú del 25 al 28 de mayo de 1944, y en esta ciudad se creó el Departamento Religioso de los Musulmanes Transcaucásicos. Akhund Agha Alizade fue nombrado «Sheikh-ul-Islam». Es el primer Sheikh-ul-Islam» elegido, a diferencia de los que le precedieron y que fueron nombrados por el gobierno. Además, el dualismo fue abolido en las organizaciones religiosas de los musulmanes del Cáucaso en 1944. El Departamento Religioso de los Musulmanes Transcaucásicos se convirtió en un centro conjunto controlado por el «Sheikh-ul-Islam». Mifli fue considerado el primer vicepresidente del Departamento y reguló los problemas de los suníes. Actualmente, este departamento actúa como la Junta de Musulmanes del Cáucaso y es el centro de todas las demás comunidades religiosas del Islam.