В 1852 окончил курс кандидатом в Дерптском университете.
Первоначально занимался ботаникой и в 1855 получил степень магистра этой науки, но скоро обратился к другой отрасли естествознания, и посвятил свою научную деятельность геологическому и палеонтологическому изучению силурийских образований Прибалтийского края, лучшим знатоком которых он считался в то время.
С 1856 по 1859 Шмидт служил помощником директора Дерптского ботанического сада.
В 1859, зарекомендовав себя целым рядом научных работ, он был приглашён Императорским русским географическим обществом принять участие в качестве геолога и ботаника, руководителя физического отдела Амурско-Сахалинской экспедиции в Амурский край и на остров Сахалин, где и работал в 1859—1862. В результате экспедиции найдена ископаемая юрская флора Амурской области и открыты меловые и третичные отложения на Сахалине. Вместе с П. П. Гленом и А. Д. Брылкиным изучал флору Сахалина, дал первое описание растительного и геологического строения острова. Шмидт предложил разделение Сахалина на две физико-географические и растительные области: северо-восточную и юго-западную. Составил первую геологическую карту залива Петра Великого. За работу на Дальнем Востоке Русское географическое общество наградило Шмидта золотой медалью.
В 1866 был отправлен Академией наук в новую экспедицию в низовья реки Енисей для исследования найденного там трупа мамонта.
В 1872 избран адъюнктом, а в 1874 академиком Императорской академии наук, непрерывно продолжая работать по изучению фауны силурийской системы, особенно трилобитов, по исследованию ледниковых образований Прибалтийского края и по разработке сибирских коллекций, доставляемых русскими научными экспедициями, и принимая живое участие в деятельности петербургских учёных обществ и таковых же Прибалтийского края, в большинстве которых он состоял почётным членом.
В 1873—1900 был директором Минералогического музея Петербургской Академии наук.
Ф. Б. Шмидт похоронен в Санкт-Петербурге на Смоленском лютеранском кладбище.
Именем Шмидта названы полуостров на Сахалине, гора около Норильска в Красноярском крае и вулкан на Камчатке.
Эдуард Людвигович Регель назвал в его честь один из видов берёзы, найденный им в Приморье, — Берёза Шмидта (Betula schmidtii).
Из многочисленных работ Шмидта по геологии, палеонтологии, ботанике и зоологии наиболее крупное научное значение имеют следующие: