Баррозу окончил в 1978 юридический факультет Лиссабонского университета, позже продолжил своё образование в Женевском университете, где в 1981 получил степень магистра политических наук. Некоторое время состоял ассистентом профессора в Лиссабонском университете. Позже получил степень доктора философии в крупнейшем американском католическом Джорджтаунском университете. После возвращения на родину являлся административным сотрудником частного Лузитанского университета в Лиссабоне. Также Баррозу является почетным доктором английского Ливерпульского университета и немецкого Технологического университета в Хемнице.
Баррозу всерьёз увлёкся политикой в студенческие годы. Во время событий 25 апреля 1974 года, в ходе которых в Португалии был свергнут фашистский режим, Баррозу состоял в руководстве Федерации студентов марксистов-ленинцев. Затем Баррозу присоединился к маоистскому Движению за реорганизацию партии пролетариата (ныне Коммунистическая партия португальских трудящихся) и принимал участие в студенческих забастовках и митингах.
В 1980 Баррозу вступил в право-центристскую Социал-демократическую партию, одну из наиболее влиятельных политических сил в стране. В 1985 году Баррозу впервые занял ответственный пост в правительстве социал-демократов, став заместителем статс-секретаря в министерстве внутренних дел. В 1987 он получил должность статс-секретаря по иностранным делам и сотрудничеству при министерстве иностранных дел. На этом посту он принял деятельное участие в организации переговоров враждующих сторон в бывшей португальской колонии Анголе, а также в процессе урегулирования ситуации вокруг ещё одной бывшей колонии Португалии, Восточного Тимора. В 1992 Баррозу получил пост министра иностранных дел, который занимал до 1995 года, когда социал-демократы потерпели поражение на выборах.
В то время, как социал-демократы находились в оппозиции, Баррозу был деятельным депутатом парламента, занимая пост председателя комиссии по внешним отношениям. В 1999 он был избран председателем Социал-демократической партии, став таким образом лидером оппозиции.
Под руководством Баррозу партия по результатам парламентских выборов 2002 года смогла вновь прийти к власти. 6 апреля 2002 Баррозу возглавил коалиционное правительство, в которое, помимо социал-демократов, вошли также представители Народной партии. Внутрення политика кабинета заключалась прежде всего в решении вопроса снижения дефицита государственного бюджета. Согласно нормативам ЕС, дефицит не может превышать 3 %, и правительство Баррозу поставило себе целью достичь этого показателя. Однако, Баррозу проработал на посту главы правительства Португалии только лишь два года.
5 июля 2004 года его кандидатура была предложена на вакантный пост председателя Европейской комиссии и вскоре оставил пост премьер-министра Португалии. 23 ноября 2004 года Баррозу был утверждён Европейским парламентом в должности главы Европейской комиссии.
16 сентября 2009 года кандидатура Баррозу на пост председателя Европейской комиссии была повторно одобрена Европейским парламентом прежде всего голосами европейских консерваторов. Голосование проходило на безальтернативной основе. В поддержку Баррозу проголосовали 382 депутата, против — 219, воздержались — 117.
Женат на Маргариде Соуза Ува, в браке с ней имеет троих детей: Луиш, Гильерми и Франсишку.
Помимо родного португальского владеет английским и испанским, свободно разговаривает на французском языке.