В июле 1910 года поступил на военную службу фанен-юнкером (кандидат в офицеры), в артиллерийский полк. С октября 1912 — лейтенант.
Командовал батареей. С января 1916 — старший лейтенант. За время войны награждён Железными крестами обеих степеней и ещё двумя орденами. Был ранен.
Продолжил службу в рейхсвере. К началу Второй мировой войны — начальник штаба 18-го армейского корпуса, генерал-майор.
В сентябре-октябре 1939 года — участвовал в Польской кампании. Награждён планками к Железным крестам обеих степеней (повторное награждение).
С февраля 1940 года — начальник штаба 2-й армии.
В мае-июне 1940 года — участвовал во Французской кампании. С февраля 1941 — генерал-лейтенант.
С декабря 1941 года — участвовал в германо-советской войне, командующий 49-м горным корпусом, бои на реке Миус.
С марта 1942 года — в звании генерал горных войск. Бои на Кавказском направлении. 1 августа 1942 — награждён Рыцарским крестом.
В 1943 году — 49-й горный корпус отступил на Кубань, затем в Крым.
В феврале 1944 года — генерал горных войск Конрад награждён Золотым немецким крестом. С мая по декабрь 1944 — в командном резерве.
С января 1945 года — командующий 68-м армейским корпусом (в Венгрии). Отступление в Австрию. После капитуляции Германии 8 мая 1945 года — взят в американский плен.