Поступил на военную службу в апреле 1913 года фанен-юнкером (кандидат в офицеры) в 10-й егерский батальон. С августа 1914 — лейтенант, и. о. адъютанта 10-го егерского батальона. Награждён Железным крестом 2-й степени. В конце октября 1914 ранен, в госпитале до февраля 1915. Награждён Железным крестом 1-й степени и баварским орденом. В июне 1915 ранен вторично. В сентябре-декабре 1915 — командир роты 22-го егерского батальона, затем — командир «охотничьей команды» 5-й кавалерийской дивизии. Награждён австро-венгерским орденом. С марта 1916 — командир пулемётной роты в 22-м, затем в 10-м егерском батальоне. В декабре 1917 награждён Рыцарским крестом Гогенцоллерна.
Продолжил службу в рейхсвере. С февраля 1938 — подполковник, с ноября 1938 — в инспекции моторизованных войск Верховного командования сухопутных сил.
С октября 1939 — командир 1-го стрелкового полка 1-й танковой дивизии. За Французскую кампанию в мае 1940 года получил планки к Железным крестам обеих степеней (повторное награждение), в июне 1940 года награждён Рыцарским крестом (№ 53). С августа 1940 — полковник.
С декабря 1940 — командир 3-го танкового полка 2-й танковой дивизии, с мая 1941 — командир 2-й танковой бригады той же дивизии. Участвовал в Греческой кампании 1941 года.
С конца июня 1941 — в штабе Верховного командования сухопутных сил.
С мая 1942 — командир 11-й танковой дивизии (бои в районе Донбасса, затем Харькова). С августа 1942 — генерал-майор. В декабре 1942 награждён Дубовыми Листьями (№ 155) к Рыцарскому кресту, с января 1943 — генерал-лейтенант, в марте 1943 года награждён Мечами (№ 25) к Рыцарскому кресту с Дубовыми Листьями. С марта 1943 — в командном резерве.
С ноября 1943 — произведён в генералы танковых войск, назначен командующим 48-м танковым корпусом. Бои в районе Житомира, Винницы, Тернополя, Бродов.
С августа 1944 — командующий 4-й танковой армией. 31 августа 1944 года награждён Бриллиантами (№ 19) к Рыцарскому кресту с Дубовыми Листьями и Мечами.
С 21 сентября 1944 — командующий группой армий «Г» (на Западном фронте).
С 23 декабря 1944 — командующий 6-й армией (бои в районе Будапешта), одновременно — командующий группой армий «Бальк» (6-я армия, 1-я и 3-я венгерские армии). В конце войны Бальк отвёл 6-ю армию в Австрию и 8 мая 1945 сдался там американским войскам.
В 1947 году Бальк был отпущен из плена, однако в 1948 году немецкий суд в Штутгарте приговорил его к трём годам тюремного заключения — за то, что в ноябре 1944 года Бальк лично, без приговора суда, приказал расстрелять подполковника Шоттке, обнаружив того в крайней степени опьянения и не способного выполнять служебные обязанности.