По данным, сообщенным ЧК в 1918 году самим Блюмкиным, он родился 8 октября 1900 года в Одессе, на Молдаванке, по другим, сообщенным им же после ареста в 1929 году, родился он в местечке Сосница, близ Чернигова, в 1898 году. В соответствии с первой версией, Яков Блюмкин происходил из одесской пролетарской семьи. В 1913 закончил еврейскую начальную школу, которой руководил известный писатель — «дедушка еврейской литературы» Менделе Мойхер-Сфорим. Обучение в школе было бесплатным, за счёт иудейской общины. Там получил начатки в древнееврейском и русском языках.
Однако существуют сведения, что Блюмкин со своей семьей до июля 1915 года жил в Лемберге (ныне — Львов), где учился в немецкой гимназии. После взятия Лемберга русскими войсками в сентябре 1914 года его отец Григорий Исаевич поступил на русскую службу, а после ухода русских из Львова в июле 1915 ушёл вместе с ними.
В 1914 году работал электромонтёром, в трамвайном депо, театре, на консервной фабрике братьев Аврич и Израильсона. Брат Лев был анархистом, а сестра Роза социал-демократкой. Старшие братья Якова — Исай и Лев были журналистами одесских газет, а брат Натан получил признание как драматург (псевдоним «Базилевский»). Участвовал в отрядах еврейской самообороны против погромов в Одессе. Блюмкин вступил в партию социалистов-революционеров. Как агитатор «по выборам в Учредительное собрание» он в августе — октябре 1917 года побывал в Поволжье.
В Одессе Блюмкин знакомится ещё с поэтом А. Эрдманом, членом «Союза защиты родины и свободы» и английским шпионом. Возможно, Эрдман и устроил дальнейшую карьеру Блюмкина в ЧК. Уже в апреле 1918-го Эрдман под видом лидера литовских анархистов Бирзе ставит под свой контроль часть вооружённых анархистских отрядов Москвы и одновременно работает для ЧК, собирая информацию о немецком влиянии в России для стран Антанты.
В мае 1918 приехал из Одессы в Москву. Руководство Партии левых эсеров направило Блюмкина в ВЧК заведующим отдела по борьбе с международным шпионажем. С июня 1918 года— заведующий отделением контрразведывательного отдела по наблюдению за охраной посольств и их возможной преступной деятельностью. В основном Блюмкин занимался «немецкими шпионами».
Находясь в должности начальника «германского» отдела ВЧК, Блюмкин 6 июля 1918 явился в посольство Германии якобы для обсуждения судьбы дальнего родственника посла графа фон Мирбаха, которого арестовала ЧК. Его сопровождал сотрудник того же отдела ЧК, Николай Андреев. Около 14:40 Блюмкин несколько раз выстрелил в посла, а Андреев, убегая, кинул в гостиную две бомбы. Посол погиб на месте. Преступники скрылись. Убийство Мирбаха послужило сигналом для вооружённого выступления левых эсеров против Советского правительства во главе с большевиками. В советской историографии эти события было принято называть «восстанием левых эсеров».
В беседе с женой Луначарского — Натальей Луначарской-Розенель и с её двоюродной сестрой Татьяной Сац, Блюмкин признался, что о плане покушения на Мирбаха знали и Дзержинский, и Ленин, никаких других исторических свидетельств этому «признанию» нет.
За убийство Мирбаха Блюмкин был приговорен военным трибуналом к расстрелу. Но Троцкий добился, чтобы смертную казнь заменили на «искупление вины в боях по защите революции», взял его к себе в штаб, где Блюмкин провёл всю гражданскую войну начальником личной охраны наркомвоенмора. Затем своим шефом он был направлен на учёбу, после которой вновь был переведен в органы ГПУ.
С сентября 1918 Блюмкин на Украине. Без ведома руководства левых эсеров он пробирается в Москву, а оттуда в Белгород — на границу с Украиной. В ноябре того же года, в момент всеобщего восстания против украинского гетмана Павла Скоропадского и австро-немецких оккупантов, Блюмкин находит своих партийных товарищей в Киеве и включается в эсеровскую подпольную работу. Он участвует в подготовке террористического акта против гетмана Скоропадского, и покушении на фельдмаршала немецких оккупационных войск на Украине Эйхгорна.
По заданию ВЦИК был задействован в подготовке (силами украинских анархистов-махновцев) покушения на адмирала Колчака. Необходимость в этом отпала из-за ареста Колчака левыми эсерами в Иркутске.
В апреле 1919 Блюмкин явился с повинной в ВЧК в Киеве. Особая следственная комиссия, по согласованию с Президиумом ВЦИК и с одобрения Ф. Дзержинского, приняла решение об амнистии Блюмкина. Он выдал многих своих прежних товарищей и был приговорён левыми эсерами к смерти. На него совершили 3 покушения, Блюмкин был ранен и скрылся из Киева.
В мае 1920 года Волжско-Каспийская военная флотилия под командованием Федора Раскольникова и Серго Орджоникидзе направляется в Энзели (Персия), с целью возвращения российских кораблей, которые увели в Персию эвакуировавшиеся из российских портов белогвардейцы. В результате последовавших боевых действий белогвардейцы и занимавшие Энзели английские войска отступили. Воспользовавшись этой ситуацией, в начале июня вооружённые отряды революционного движения дженгалийцев под командованием Мирзы Кучек-хана захватывают город Решт — центр остана Гилян, после чего здесь провозглашается Гилянская Советская Республика.
В Персии Блюмкин, в частности, знакомится с Яковом Серебрянским, содействует устройству его сотрудником Особого отдела Иранской Красной Армии.
В сентябре 1920 г. правительство РСФСР принимает решение о сворачивании своей военной операции в Персии и приступает к переговорам с шахским правительством. К началу сентября 1921 года, в соответствии с подписанным в феврале советско-иранским договором, советские войска полностью выводятся из Гиляна. Через два месяца в результате внутренней борьбы за власть и наступления шахских войск Гилянская Советская Республика (к тому времени — Персидская Советская Социалистическая Республика) терпит поражение.
В 1920-21 годах Блюмкин — начальник штаба 79-й бригады, а позже — комбриг, планировал и осуществлял карательные акции против восставших крестьян Нижнего Поволжья в подавлении Еланского восстания. Осенью того же года Блюмкин командует 61-й бригадой, направленной на борьбу против войск барона Унгерна.
Вернувшись в Москву Блюмкин издал книжку о Дзержинском и стал его фаворитом в ЧК. По личной рекомендации Дзержинского в 1920 вступил в РКП(б). Направлен на учёбу в Академию Генерального штаба РККА на факультет Востока, где готовили работников посольств и агентуру разведки. В Академии Блюмкин к знанию иврита добавил знание турецкого, арабского, китайского, монгольского языков, обширные военные, экономические, политические знания.
Природная смекалка и умение разбираться в драгоценных камнях, обретенное им во время одесских экспроприаций, позволили Блюмкину осенью 1921 года быстро раскрутить дело с хищениями в Гохране. В октябре 1921 года Блюмкин под псевдонимом Исаев (взят им по имени деда) едет в Ревель (Таллин) под видом ювелира и, выступая в качестве провокатора, выявляет заграничные связи работников Гохрана. Именно этот эпизод в деятельности Блюмкина был положен Юлианом Семеновым в основу сюжета книги «Бриллианты для диктатуры пролетариата».
Николай Гумилёв писал о Блюмкине в стихотворении «Мои читатели»:
Человек, среди толпы народа
Застреливший императорского посла,
Подошёл пожать мне руку,
Поблагодарить за свои стихи.
В ряде воспоминаний об Осипе Мандельштаме сообщается, что поэт вырвал у Блюмкина пачку ордеров на расстрелы, которые тот, похваляясь своим всемогуществом, подписывал в пьяном виде на глазах у компании собутыльников, и разорвал их. Возникший скандал привёл к кратковременным неприятностям у Блюмкина с ВЧК и лично с Дзержинским, после чего Мандельштам, опасаясь мести Блюмкина, уехал на Кавказ. Независимо от того, имел ли место такой эпизод, известно, что из-за какого-то серьёзного конфликта с Блюмкиным Мандельштам был вынужден на время покинуть Москву.
По воспоминаниям Владислава Ходасевича, Есенин как-то привёл в круг богемы Блюмкина в чекистской кожаной куртке. Как всегда, поэт Сергей Есенин стремился поразить окружающих дам… Кивая на Блюмкина, Есенин предложил понравившейся ему девушке: «А хотите поглядеть, как расстреливают в ЧК? Я это вам через Блюмкина в одну минуту устрою». В 1920 году, когда Есенин и братья Кусиковы арестовывались ЧК, Блюмкин оказал помощь поэту, обратившись с ходатайством отпустить его на поруки. За год до гибели поэта, находясь в Закавказье, Блюмкин, приревновав свою жену к Сергею Есенину, стал угрожать поэту пистолетом.
Ряд сторонников появившейся в 1970—1980-е годы версии об убийстве С. А. Есенина связывает со смертью поэта и Блюмкина; некоторые из них приписывают ему подделку предсмертных стихов Есенина («До свиданья, друг мой, до свиданья…»), что опровергается проведённой экспертизой автографа.
В 1922 году после окончания Академии Блюмкин становится официальным адъютантом наркома по военным и морским делам Л. Д. Троцкого. Выполнял особо важные поручения и тесно сошёлся с наркомом. Блюмкин редактировал первый том программной книги Троцкого «Как вооружалась революция» (издание 1923 года). Троцкий писал о Блюмкине «Революция предпочитает молодых любовников».
Осенью 1923 года по предложению Дзержинского Блюмкин становится сотрудником Иностранного отдела (ИНО) ОГПУ.
В ноябре 1923 года решением руководства ИНО ОГПУ Блюмкин назначается резидентом нелегальной разведки в Палестине. Он предлагает Якову Серебрянскому поехать вместе с ним в качестве заместителя. В декабре 1923 года они выезжают в Яффо, получив задание В. Менжинского собирать информацию о планах Англии и Франции на Ближнем Востоке. В июне 1924 года Блюмкин был отозван в Москву, и резидентом стал Серебрянский.
Одновременно Блюмкина вводят для конспиративной работы в Коминтерн.
В 1924 году работал в Закавказье политическим представителем ОГПУ и членом коллегии Закавказского ЧК. Одновременно он являлся помощником командующего войсками ОГПУ в Закавказье и уполномоченным Наркомвнешторга по борьбе с контрабандой. Блюмкин участвовал в подавлении крестьянского восстания в Грузии. Командовал штурмом города Баграм-Тепе, захваченнного персидскими войсками в 1922 году. Участвовал в пограничных комиссиях по урегулированию спорных вопросов между СССР, Турцией, Персией.
Блюмкин, знавший восточные языки, тайно выехал в Афганистан, где пытался найти связь на Памире с сектой исмаилитов, почитавших в качестве живого бога своего лидера Ага-хана, который жил в ту пору в Пуне (Индия). С исмаилитским караваном «дервиш» Блюмкин проник в Индию. Однако там он был арестован английской полицией. Из тюрьмы Блюмкин благополучно бежал, прихватив с собой секретные карты и документы английского агента.
В книге Олега Шишкина «Битва за Гималаи», в которой содержатся более 150 ссылок на документы различных архивов, утверждается, что Яков Блюмкин под видом буддийского монаха принимал участие в Центрально-Азиатской экспедиции Н. Рериха. ОГПУ использовало Блюмкина в качестве одного из главных координаторов Тибетской миссии по свержению Далай-ламы XIII. Попав в Лхасу, участники экспедиции должны были попытаться спровоцировать противостояние между Далай-ламой и Таши-ламой, чтобы вызвать беспорядки в Тибете и сместить неугодного СССР Далай-ламу XIII. По мнению Шишкина, главная роль в этой затее отводилась Николаю Рериху. Яков Блюмкин присоединился к экспедиции Н. К. Рериха, продвигавшейся в то время по Индии, осенью 1925-го года под видом монгольского ламы. Николай Рерих восхищался эрудицией «ламы» Блюмкина, делал неоднократные записи о нём в своем дневнике. Согласно версии Шишкина, Блюмкин прошёл с экспедицией Рериха Западный Китай, а затем в июне 1926 года прибыл в Москву и вместе с ним Рерих. Также совместным был дальнейший путь по Тибету, где миссия по свержению Далай-ламы потерпела фиаско.
Шишкин указывает, что, по воспоминаниям Розонель Луначарской, именно Блюмкин привёл Рериха, «этого недоброго колдуна с длинной седой бородой», в гости к наркому просвещения А. В. Луначарскому.
Одним из доказательств участия Блюмкина в Центрально-Азиатской экспедиции Рериха Олег Шишкин считает фотографию с экспедиционного паспорта до Пекина, выданного китайским губернатором в Урумчи в 1926 году. В документальной повести Шишкина на этой фотографии первый слева лама с галстуком — Яков Блюмкин. По мнению А. В. Стеценко, представителя одной из рериховских организаций, заместителя генерального директора Музея имени Н. К. Рериха, на фотографии изображен ладакец Рамзана, а не Блюмкин.
Представители различных рериховских организаций критично отнеслись к книге Олега Шишкина. В качестве одной из основ для критики используется заявление заведующего пресс-центром Службы внешней разведки Российской Федерации Ю. Кобаладзе. Он заявил: «Известного учёного перепутали с агентом Буддистом, и отсюда пошла вся путаница. … <> c нашей политической разведкой Рерих связан не был. Я заявляю это официально». В 2000 году заместитель директора Международного центра Рерихов А. В. Стеценко встречался с Б. Лабусовым, сменившим Ю. Кобаладзе на его посту, и сообщил, что «в отличие от своего предшественника Лабусов не проявил ни малейшего желания опровергнуть измышления Шишкина, сославшись на все тот же Закон о Службе внешней разведки, который в 1993 году, когда материалы о Рерихе и его экспедиции были переданы из архива внешней разведки в МЦР, обязывал их рассекретить и сделать общедоступными». Кроме того, по его утверждению, Стеценко проверил архивы, на которые ссылается Шишкин в своих публикациях, и нашёл некоторые несоответствия.
На основании книги Олега Шишкина был написан целый ряд статей в СМИ и книг, в том числе документально-историческая книга «Оккультные тайны НКВД и СС» Антона Первушина, а также сняты передачи и документальные фильмы, показанные по телеканалу «Культура» и «НТВ». Версия Шишкина получила широкое распространение, и результаты его исследований цитируются не только в книгах российских ученых, но и в зарубежных исследованиях по истории Тибета.
Историк Максим Дубаев в своей книге «Рерих», изданной в 2003 году в рамках серии «