Construida en 1895, la mezquita de Baylar es un importante monumento histórico y arquitectónico de Icherisheher. Destaca por su gran vestíbulo y su construcción única, que incorpora principios arquitectónicos europeos, orientales y locales. La parte superior de su minarete presenta elementos decorativos típicos de Europa Occidental, y el interior exhibe un exquisito arte en el tallado de la piedra.

Los trabajos de restauración y conservación de la mezquita de Baylar fueron dirigidos por el renombrado experto austriaco en restauración Erich Pummer, invitado por la Administración de la Reserva Histórico-Arquitectónica del Estado de Icherisheher. El Centro de Arte Tradicional de Icherisheher también participó en la restauración en 2014–2015, decorando las puertas y ventanas de la mezquita con elementos arquitectónicos.

Como resultado de la restauración, la mezquita se convirtió en museo con la exposición “Reliquias sagradas”. Esta exposición incluye 73 coranes, 7 libros religiosos, 19 artefactos religiosos y un total de 99 objetos. La colección presenta coranes antiguos de varias épocas, incluidas páginas protegidas del fuego y coranes conservados en los muros de la mezquita de Derbent.

En diciembre de 2016, el presidente Ilham Aliyev y la primera dama Mehriban Aliyeva asistieron a la ceremonia de inauguración de la mezquita de Baylar.