Алибек Тахо-Годи родился в селении Урахи (ныне Сергокалинского района Дагестана), в семье обедневшего узденя, даргинец по национальности. Рано лишился отца и был взят родственниками — Магомедом и Баширом Далгатами — во Владикавказ. В 1912 окончил с серебряной медалью Владикавказскую классическую гимназию и поступил в Московский университет на юридический факультет. Окончив университет в 1916, служил помощником присяжного поверенного во Владикавказе. После Февральской революции — член Дагестанской социалистической группы. В 1918—1920 член ВРК Дагестана. В 1920—1922 народный комиссар юстиции, народный комиссар продовольствия Дагестанской АССР, член Дагестанского обкома РКП(б); был членом ВЦИК и председателем комиссии ВЦИК по снабжению Дагестанской АССР. В 1922—1929 наркомпрос, заместитель председателя СНК Дагестанской АССР. Основатель и директор Дагестанского института национальной культуры. Основал в Махачкале Дагестанский музей и Русский драматический театр. Содействовал художнику Е. Е. Лансере в работе над циклом иллюстраций к «Хаджи-Мурату» Л.Тостого. С 1929 года работал в Наркомпросе РСФСР; один из организаторов и директор Центрального НИИ национальностей. С 1935 года в аппарате ЦК ВКП (б); одновременно вёл преподавательскую работу в вузах Москвы, в том числе и как профессор Московского университета. Возобновил издание серии «Сборник материалов для описания местностей и племен Кавказа» (т. 45-46) и привлек к участию в ней видных лингвистов и историков.
22 июня 1937 арестован, как участник пантюркистской организации. На допросах виновным себя не признал. 9 октября 1937 на закрытом судебном заседании Военной коллегии Верховного суда СССР приговорен к расстрелу. Приговор приведен в исполнение в тот же день. Захоронен в общей могиле № 1 на Донском кладбище.
Посмертно реабилитирован в 1956 году.
Жена — Нина Петровна Семенова (1896—1982) — также была арестована и провела 5 лет в мордовских лагерях.
Сыновья — Махач (1924 — умер в детском доме в г. Рыбинске во время войны), Хаджи-Мурат (1919—2002) — заслуженный юрист России, криминалист, специалист по проблемам трасологии и баллистики; дочери — Аза Алибековна Тахо-Годи (1922 г.р.), заслуженный профессор МГУ им. Ломоносова, филолог-классик; Тахо-Годи Муминат Алибековна (1931 г.р.), профессор Северо-Осетинского госуниверситета, специалист по французской литературе. Внучка — профессор МГУ им. Ломоносова, специалист по русской литературе Елена Аркадьевна Тахо-Годи (1967 г.р.).
Именем А. А. Тахо-Годи названы:
Улицы в Махачкале, Избербаше, Буйнакске, Челябинске.