Родился в Городе Минерва, штат Огайо. Поступил в технологический институт Карнеги, четырехлетний курс которого окончил за три года с отличной успеваемостью. В 1909 поступил на работу в Westinghouse Electric Company, где занимался производством электрического оборудования для автомобилей. Занимался производством умформеров и радиогенераторов для арми и флота. В 1919 году перешел на работу главным инженером в компанию Remy electric, дочернее предприятие General Motors, производившую системы зажигания для автомобилей. Стал президентом компании и руководил её слиянием в 1926 году с Delco. Был переведён в штаб-квартиру General Motors в Детройт и, поднимаясь по карьерной лестнице, в 1941 году стал президентом этой гигантской компании. Во время второй мировой войны она произвела примерно четверть американских танков, бронеавтомобилей и авиадвигателей и половину пулемётов и карабинов. Также показал себя хорошим руководителем в отношениях с рабочими. Путём переговоров пришел к миру с профсоюзами, договорившись о повышении зарплаты с инфляцией, премиях за повышение производительности труда и создании особого пенсионного фонда для работников компании.
В конце 1952 года Дуайт Эйзенхауэр предложил Уилсону занять пост Министра обороны США. Его назначение не прошло гладко. Перед утверждением в должности ему пришлось выступать перед специальной комиссией Сената США, который опасался, что он будет использовать свою должность на пользу компании. Под давлением комиссии Уилсону пришлось продать принадлежавшие ему акции General Motors на сумму 2.5 миллиона долларов. Когда на слушаниях ему задали вопрос, смог бы он принять решение, идущее против интересов General Motors, Уилсон ответил утвердительно, хотя сказал, что «многие годы я думал, что то, что хорошо для General Motors, хорошо и для США, и наоборот». Впоследствии эта фраза стала широко известна в сокращенном виде, несколько искажающим её смысл: То, что хорошо для General Motors — хорошо для всей страны. На посту министра обороны проводил политику усиления стратегических ядерных сил при сокращении армии. Продолжал реорганизацию министерства обороны, уточнение распределения полномочий между родами войск. Ушел в отставку в 1957 году.
Умер в 1961 году.