По лингвистическим и историческим данным, евреи начинают проникать из Ирана и Месопотамии в Восточное Закавказье не позже середины VI века н. э., где они селились (в его восточных и северо-восточных районах) среди населения, говорящего по-татски, и переходили на этот язык, вероятно, в связи с подавлением восстания Мар Зутры II в Иране (одновременно с движением маздакитов) и поселением его участников в новых укреплениях в районе Дербента. Еврейские поселения Кавказа были одним из источников иудаизма в Хазарском каганате. В состав горских евреев вошли также более поздние переселенцы из Ирана, Ирака и Византии.[2]
Наиболее ранние материальные памятники горских евреев (надгробные стелы в районе города Маджалис в Дагестане) относятся к XVI веку. Существовала сплошная полоса поселений горских евреев между Кайтагом и районом Шемахи. В 1742 году горские евреи были вынуждены спасаться от Надир-шаха, в 1797—1799 — от Казикумухского хана. Вхождение Кавказа в состав России спасло их от погромов в результате феодальных междоусобиц и насильственного обращения в ислам. В середине XIX века горские евреи поселяются за пределами первоначальной этнической территории — при русских крепостях и административных центрах на Северном Кавказе: Буйнакске (Темир-Хан-Шуре), Махачкале (Петровск-Порт), Андрей-ауле, Хасавюрте, Грозном, Моздоке, Нальчике, Джегонасе и др.
В 1820-е годы отмечены первые контакты горских евреев с российскими евреями-ашкеназами, упрочившиеся в конце XIX века в процессе развития Бакинского нефтедобывающего района. В конце XIX века началась эмиграция горских евреев в Палестину. Впервые учтены как отдельная общность в переписи 1926 года (25,9 тыс. чел.).
В 1920—30-е годы развивались профессиональная литература, театральное и хореографическое искусство, пресса. В середине 20-х годов XX века в Дагестане горские евреи проживали в селах — Ашага-араг, Мамраш (теперь Советское), Хаджал-кала, Хошмензиль (теперь Рубас), Аглоби, Нюгди, Джараг и Маджалис (в еврейской слободе). В это же время была предпринята попытка переселения части горского еврейского населения в Кизлярский район. Там были образованы два переселенчиских поселка имени Ларина и имени Калинина, но большая часть жителей этих поселков покинула их[3]. Татский язык в 1938 году провозглашён одним из 10 официальных языков Дагестана. С 1930 года создаются горско-еврейские колхозы в Крыму и Курском районе Ставропольского края. Все их жители погибли во время холокоста в конце 1942 года. В послевоенное время преподавание и издательская деятельность на еврейско-татском языке прекращается, в 1956 году в Дагестане возобновляется издание ежегодника «Ватан советиму». Тогда же начинается поддержанная государством политика «татизации» горских евреев. Представители советской элиты, главным образом в Дагестане, отрицали связь горских евреев с евреями, регистрировались в официальной статистике как таты, составив подавляющее большинство этой общности в РСФСР.