В Азербайджане иудаизм исторически представлен горскими евреями. Моисей Каланкатуйский относит их появление на Кавказе к I веку до нашей эры, однако исследователи зачастую не сходятся в суждениях по этому поводу.

Согласно мнению некоторых из них, горские евреи, будучи одним из древнейших иудейских этносов, берут свое начало от поколения сынов Израиля, изгнанных в свое время ассирийскими и вавилонскими правителями из Палестины и поселившихся в Мидии. Их предки первыми стали исповедовать иудаизм и жили вне пределов Палестины; они не были в числе преследователей христиан, когда христианство, ведущее свои корни от иудаизма, стало распространяться. В Мидии они смешались с татами, и в силу чего они говорят на татском языке, одном из наречий персидского языка, включающего древние арамейские и еврейские слова.

С точки зрения других исследователей, горские евреи были переселены на Восточный Кавказ Сасанидским правителем Хосровом I Ануширваном (531-579 гг.), который возводил на Кавказе крепости и города, заселяя их персами и евреями, выселенными им же из Месопотамии. Татский язык, на котором говорят горские евреи, является наследием того периода.

Во всяком случае, можно сказать, что горские евреи появились в Азербайджане 15 веков назад, что было связано с политикой Сасанидов, направленной на обеспечение безопасности своей империи. Несмотря на то, что «пришельцы», размещенные на приграничных территориях, находились в тесном контакте с местным населением, они все же сохранили свои религию, обычаи, традиции, а также образ жизни и мышления.