Еще в 1938 году после аншлюса Австрии Антон Шмид помог нескольким знакомым евреям бежать за границу. Впоследствии Шмид был призван в вермахт и служил в тыловых частях сначала в Польше, а потом в Вильнюсе. Был назначен руководителем пункта распределения отставших от своих воинских частей солдат. Его распределительный пункт был расположен на Вильнюсском вокзале.
Шмид спас много евреев вильнюсского гетто, прятал евреев в подвале распределительного пункта, организовал мастерские, в которых работали евреи и получали продуктовый паёк. Кроме того, Шмид фактически работал связным между подпольным группами в разных еврейских гетто Литвы, Белоруссии и Польши. Сотрудничал с одним из руководителей подполья в вильнюсском гетто Аббой Ковнером.
Шмид на служебном грузовике перевозил евреев из Вильнюса в те места, где уничтожение ещё не начиналось — в частности в лидское и варшавское гетто. Он попытался спасти из рижского гетто известного еврейского историка Семёна Дубнова, но опоздал на несколько дней — Дубнов был уже расстрелян.
В январе 1942 года немцы обнаружили в лидском гетто большую группу евреев из Вильнюса. Некоторые, не выдержав пыток, рассказали кто их доставил в Лиду. Антон Шмид был арестован. 25 февраля 1942 года трибунал полевой комендатуры приговорил Антона Шмида к смертной казни. Приговор был приведён в исполнение 13 апреля 1942 года.
На судебном процессе над нацистским преступником Адольфом Эйхманом в 1960 году в Иерусалиме один из подпольщиков вильнюсского гетто Абба Ковнер сослался на свой разговор с Антоном Шмидом, который впервые назвал Эйхмана как ответственного за уничтожение евреев в Европе.