Отец — Мухаммед Хасан. По национальности — пуштун.
Окончил лицей Неджат в Кабуле (с обучением на немецком языке), получил высшее образование Мюнхенском и Геттингенском университетах (Германия). Имел докторскую степень в области физики. Профессор (1944).
В марте 1963 — ноябре 1965 — премьер-министр и министр иностранных дел. Первый премьер-министр Афганистана, не принадлежавший к королевской семье. В период пребывания Мухаммеда Юсуфа на посту главы правительства были предприняты шаги по либерализации политической жизни: принята Конституция 1964, прошли выборы в парламент в 1965. Однако деятельность правительства вызывала недовольство как левых радикалов из основанной в 1965 Народно-демократической партии Афганистана, так и активистов нарождавшегося исламистского движения.
24 октября 1965 полиция разогнала студенческую демонстрацию в Кабуле, участники которой обвиняли ряд министров в коррупции и требовали изменения состава правительства. Во время разгона при стрельбе в толпу погибли четыре студента. Это событие и продолжавшиеся антиправительственные демонстрации привели к отставке кабинета министров Мухаммеда Юсуфа.
После 1978 жил в эмиграции, был сторонником свергнутого короля Захир Шаха. Публиковался в эмигрантской прессе. В 1994 участвовал в Гератской конференции, организованной правительством Бурхануддина Раббани.