Будучи студентом физико-математического факультета Петербургского университета, а потом юридического факультета Новороссийского университета, Л. Я. Штернберг работал в революционных кружках. За активное участие в работе партии народовольческих организациях он был арестован в 1886 году и весной 1889 года, после трехлетней «отсидки» в одесской центральной тюрьме, сослан на Сахалин (1889—1897 гг.). Во время многолетней ссылки он подробно исследовал общественный строй, религиозные воззрения и обычное право нивхов (гиляков), сахалинских и амурских, айнов и различных тунгусо-манчжурских племен. Во время пребывания в ссылке Л. Я. Штернбергу удалось открыть и подробно описать классификаторскую систему родства и реально еще бытующие пережитки группового брака у гиляков, а также у орочей. С 1901 работал в Музее этнографии и антропологии в Санкт-Петербурге. Преподавал на этнографическом отделении Государственного географического института, а позже Ленинградского института истории и литературы.
Л. Я. Штернберг принимал участие в радикальных журналах и газетах. Известно, что статья Л. Я. Штернберга в газете «Наши дни» была причиной закрытия этой газеты. В 1883 году заканчивает свое образование в Новороссийском университете. В Европейской России его потеряли и долгое время не знали, где он находится. Потом только стало известно, что он сослан на о. Сахалин. Свой диплом об окончании университета Л. Я. Штернберг получил лишь в 1902 г. На о. Сахалин он тоже попал в немилость: за смелое слово, сказанное военному губернатору генерал-лейтенанту М. Н. Ляпунову в защиту товарища, он подвергся вторичной ссылке в более отдаленные места, в соседство с гиляками, изучением которых он тогда же и занялся.
В 1894 году Лев Яковлевич совершил путешествие на крайний север о. Сахалин, частью на лодке вдоль западного берега, частью пешком. Выехал он 8 июля и возвратился в порт Александровский 20 сентября. Всего он преодолел 840 верст. Л. Я. Штернберг дал физико-географическое описание пройденного им пути и собрал богатый материал по этнографии. Во время раскопок на Тыковской косе он впервые сделал находки каменных орудий на территории гиляцкой оседлости.
Посвятив себя этнографическим и лингвистическим работам, Лев Яковлевич в течение семи лет изучал фольклор, археологию, быт и язык туземного населения о. Сахалин. Его работы о гиляках впервые были напечатаны в «Этнографическом обозрении» 1893, 1894, 1901 и 1903 гг. Они обратили на себя внимание всего ученого мира, и тогда Академия наук в 1897 г. возбудила ходатайство о возвращении его из ссылки, тогда же ему было предложено место штатного этнографа в Музее антропологии и этнографии при Всероссийской Академии наук.
В 1897 г. он досрочно вернулся на родину и уже через год, в 1898 вступил в сношения с Академией Наук и представил через академиков К. Г. Залемана и В. В. Радлова для напечатания свою работу: «Образцы материалов по изучению гиляцкого языка и Фольклора». В 1901 г. директором Музея Антропологии и Этнографии В. В. Радловым, он был приглашен на должность старшего этнографа Музея. Л. Я. Штернберг и В. В. Радлов к 1910 приводят в порядок коллекции, доставшиеся в наследие от Петровской Кунсткамеры. Но для получения права жительства в Петербурге он должен был в спешном порядке сдать экстерном экзамен при Петербургском Университете, от которого и получил в 1902 г. диплом первой степени (по юридическому факультету).
С 1904 по 1914 гг. Лев Яковлевич читал в Музее ряд курсов по этнографии как отдельным группам студентов, так и педагогам, а в 1915 принял участие, совместно с различными учеными географами, в организации Высших Географических Курсов, которые были потом преобразованы в Географический Институт с особым этнографическим факультетом. Профессором и деканом этого этнографического факультета он состоял все время.
По преобразовании Географического Института в 1925 году в географический факультет Ленинградского государственного университета, Лев Яковлевич был председателем этнографического отделения этого факультета и профессором его до последних дней жизни. Он также читал в 1917 лекции на Восточном Факультете Ленинградского университета. В течение многих лет он был одним из двух секретарей Русского Комитета для изучения Средней и Восточной Азии.
В 1910он отправился в экспедицию на Амур и Сахалин для дополнительного обследования изученных им раньше народностей. В 1917 Лев Яковлевич состоял также председателем Сибирской подкомиссии по Составлению Этнографической Карты России при Географическом Обществе, а с 1920 — председателем Сибирского Отдела Комиссии по Изучению Племенного Состава Населения СССР.
Он был также председателем Еврейского Историко-ЭтнограФического Общества, при котором, по его инициативе и при его активном участии, был организован Еврейский Музей. Он участвовал вместе с В. Г. Богоразом в основании Ленинградского Рабфака Северных Народностей, ныне Северного Факультета при Ленинградском восточном институте, а также был профессором этого Института.
Брат — фтизиатр Абрам Яковлевич Штернберг (1873—1927), профессор, основатель и директор туберкулёзного института в Санкт-Петербурге.
Доказывал единство человечества с позиций эволюционизма. Этнографию понимал как науку о культуре первобытных народов и её пережитках. Л. Я. Штернберг внёс значительный вклад в изучение первобытной религии (представления о сверхъестественных «хозяевах», «избранничестве», схема этапов эволюции верований и др.).
Арестован советской властью в феврале 1921. Освобожден по ходатайству Максима Горького.
Научные воспитанники: Н. П. Дыренкова, Е. П. Крейнович, Г. Н. Прокофьев, Г. М. Василевич, С. В. Иванов, Л. Э. Каруновская, С. М. Абрамзон, Л. П. Потапов, А. А. Попов и другие.
Похоронен на Преображенском еврейском кладбище в Санкт-Петербурге.