Сын грацского магистрата, со стороны матери — родственник швейцарского поэта Филиппа Бриделя. Изучал классическую и романскую филологию в Йене у А. Шлейхера, затем с 1861 г. в Бонне у Ф. Дица. Защитил в 1864 г. докторскую диссертацию на латыни «О вокализме вульгарной латыни», которую в переработанном виде опубликовал в 1866 году. В этой работе Шухардт заложил основы исследования протороманских языков при помощи методики лингвистической генеалогии, разработанной Шлейхером.
Провёл несколько лет во франкоязычной Швейцарии. 30 апреля 1870 г. защитил в Лейпцигском университете диссертацию по ретороманскому языку на степень doctor habilis. Затем был профессором романской филологии в Грацском университете (Австро-Венгрия) вплоть до ухода в отставку в 1900 году.
Шухардт исследовал не только романские, но и другие языки, в особенности баскский и креольские языки (в том числе такие жаргоны Европы XIX века, как «славяно-немецкий», «славяно-итальянский», влияние румынского языка на албанский и романских — на кельтские). Его исследования на эти темы хранятся в библиотеке Грацского университета.
Работы Шухардта были построены на основе традиций сравнительной лингвистики и этимологии. При этом Шухардт выступал критиком младограмматизма, законы которого он рассматривал как чрезмерно жёсткие. Его подход оказал влияние на последующее развитие лингвистической географии и структурализма Ф. де Соссюра.
Шухардт оказал большое влияние на испанскую лингвистику. В 1875 г. он предпринял поездку в Испанию, где провёл исследование андалузского диалекта и его фонетики, общался со многими видными интеллектуалами Испании.
Также Шухардт был авторитетным исследователем баскского языка, написал работы, посвящённые его истории и фонетической эволюции, возможным связям с другими языками мира (прежде всего афразийскими — гипотеза, ныне отвергнутая специалистами).
Шухардт был одним из активном сторонников баско-иберской гипотезы, согласно которой исчезнувший иберский язык находился в близком родстве с баскским. К сожалению, большинство доводов Шухардта в пользу данной теории были основаны на ошибочных прочтениях иберских надписей, утративших смысл после дешифровки М. Гомеса-Морено. Исключение составляет сохраняющая актуальность и в настоящее время работа по иберским личным именам.