Яо окончил государственный университет Тайваня с титулом бакалавра по физике в 1967 году. Затем получил два титула доктора философии — по физике в Гарвардском университете (1972), и по информатике в университете Иллинойса в Урбане-Шампэйн (1975). Затем работал год в MIT, с 1976 по 1981 в Стэнфорде, еще год в Бёркли. В 1982 году Эндрю Яо получил полную профессуру в Стэнфорде и остался там до 1986 года, затем преподавал до 2004 года в Принстонском университете, где продолжил исследования алгоритмов и теории сложности вычислений. С 2004 года Яо является профессором в центре перспективных исследований (англ. Center for Advanced Study) при университете Цинхуа в Пекине.
В качестве приглашённого учёного работал в исследовательских центрах корпораций IBM и DEC, в Bell Labs, Xerox и Microsoft.
Эндрю Яо состоит во многих профессиональных организациях:
В 2000 году Яо был награждён престижной премией Тьюринга в дань его фундаментальному вкладу в теорию вычислений, включающему, основанную на понятии сложности вычисления, теорию генерации псевдо-случайных чисел, криптографии, и коммуникационной сложности.