Родился в еврейской семье 25 декабря 1913 года в городе Су-сити (Айова, США). Его родители эмигрировали в США из города Телеханы в Белоруссии. Школьное образование и два курса химического колледжа получил в США. В 1932 году из-за экономического кризиса в США семья Ковалей решила вернуться в Россию — к тому времени — Советский Союз. Семья Коваль была членом организации Ассоциация еврейской колонизации в Советском Союзе (ICOR идиш Idishe Kolonizatsie Organizatsie). Вся семья прибыла на пароходе «Левитан» во Владивосток, и затем на постоянное жительство в Биробиджан.
В 1939 году Коваль привлёк внимание Главного разведывательного управления Красной Армии, и в 1940 году, после подготовки в ГРУ, начал разведывательную работу в США. Когда в США развернулись работы над Манхэттенским проектом по созданию атомной бомбы, Коваль был принят на работу в атомный центр в Окридже (штат Теннесси) под своим настоящим именем. В Окридже в качестве химика-технолога Коваль поднимался по служебной лестнице и получал доступ ко всё более ценной информации. Им была собрана информация о технологических процессах и объёмах производства плутония, полония и других материалов. В декабре 1945 года — феврале 1946 года Коваль передал в Москву особо важную информацию, которая подсказала группе Игоря Курчатова идею решения проблемы нейтронного запала атомной бомбы. В последующем серийном производстве нейтронные запалы советских атомных бомб изготовлялись из других материалов, чем в США, но в первой атомной бомбе, взорванной на полигоне под Семипалатинском 29 августа 1949 года, использовался инициатор, изготовленный точно по описанию Жоржа Коваля.
В конце 1948 года Коваль возвратился в СССР и поселился с семьёй в Москве. Он восстановился в аспирантуре и начал заниматься научной работой, а спустя два года защитил диссертацию и стал кандидатом технических наук. С 1953 года Ж. А. Коваль - на преподавательской работе в Московском химико-технологическом институте (МХТИ), в котором проработал около сорока лет.