Родился 23 февраля 1908 года в Одессе. В 1916 году поступил в гимназию, где проучился 3 класса, после этого 1 год — в трудовой школе. После трудовой школы в течение двух лет занимался самостоятельно, закончил среднее образование. Занимался изучением языков: немецкого, франзуского и английского.
C 1923 по 1925 год прослушал (в качестве вольнослушателя) полный курс математического отделения Одесского Института Народного Образования. В 1925-26 учебном году работал в Высшем семинаре по теоретической механике при Одесском Политехническом Институте, в научно-исследовательских математических семинарах под руководством Г. К. Суслова, С. О. Шатуновского и Н. Г. Чеботарёва. Свою первую научную работу — «Об основных дифференциальных формах в аффинной теории поверхностей» — написал летом 1926 года. Позже эта работа была перепечатана в трудах Украинской Академии Наук. В 1927 году был зачислен в аспирантуру по теоретической механике при Одесском Институте Народного Образования и закончил её в 1930 году. После этого работал сначала в качестве доцента, а после и профессора математики в Одесском Институте Народного Образования и в Институте Водного Транспорта до ноября 1934 года.
Переехал в Москву в декабре 1934 года, где сначала учился в докторантуре, а затем работал в Математическом институте АН СССР. В 1942—46 руководил отделом центрального аэрогидродинамического института, занимался усовершествованием «Катюши». За данную работу в 1944 году был награжден орденом Красной Звезды, а в 1948 году получил Сталинскую премию I степени по военным наукам.
С 1947 работал в Московском физико-техническом институте. Феликс Рувимович читал курсы лекций по математическому анализу, теоретической механике, теории устойчивости, теории матриц. С 1954 года возглавлял кафедру теоретической механики.
Классическая монография Ф. Р. Гантмахера, «Теория Матриц», выделяется среди аналогичных работ широтой охвата и ясностью изложения, переведена на иностранные языки и успешно служит настольной книгой уже нескольким поколениям математиков во всем мире.
Умер 16 мая 1964 года. В день похорон Феликса Рувимовича прозвучало пожелание о том, чтобы одна из улиц города Долгопрудный носила бы имя профессора Гантмахера.