Филипп Малявин родился 10 (22) октября 1869 г. в селе Казанка (ныне Оренбургская область), в многодетной крестьянской семье. В 1885 г. отправился в афонский православный монастырь Святого Пантелеймона на Айон-Оросе и до 1891 г. был там послушником — учился и работал в монастырской иконописной мастерской. Затем его работы увидел скульптор В. А. Беклемишев, посещавший Афонский монастырский комплекс. Беклемишев пригласил Малявина в Петербург и поселил у себя.
В 1892 г. Малявин поступил вольнослушателем на живописное отделение Петербургской Академии художеств. В 1894 г., когда в Академии открылась мастерская И. Е. Репина, Малявин стал учиться там вместе с такими художниками, как И. Э. Грабарь, К. А. Сомов, А. П. Остроумова. В 1900 г. Малявин совершает поездку во Францию — его картина «Смех» выставлена на всемирной выставке в Париже и удостоена золотой медали (затем картина была выставлена в Венеции и куплена итальянским правительством для Венецианской Академии).
Вернувшись в Россию, художник поселяется в усадьбе близ деревни Аксиньино под Рязанью и живет преимущественно там.
В 1900-х Малявин участвует в выставках Товарищества передвижников, в 1906 г. показывает на выставке объединения «Мир искусства» свою картину «Вихрь». Впоследствии он также был членом «Союза русских художников».
После октябрьской революции живописец в 1920 г. переезжает в Москву. В 1922 г. он уезжает во Францию, чтобы устроить там свою выставку. Он поселяется в Париже и в Россию больше не возвращается. В 1924 г. в парижской галерее Шарпантье с успехом проходит выставка Малявина. Многие его произведения, написанные за границей, по-прежнему создаются на русские темы. В 1930-х Малявин неоднократно организовывал собственные выставки в разных европейских странах. Из Парижа он переселился в Ниццу.
Во время Второй мировой войны Малявин оказывается в Брюсселе в тот момент, когда Бельгию захватывают гитлеровцы. Оккупационные власти задерживают художника и обвиняют в шпионаже, однако впоследствии выпускают. Малявин пешком добирается до Ниццы. Этот эпизод подорвал его силы. Художник скончался 23 декабря 1940 года в Ницце.