Е. И. Рябинин родился в 1892 году в селе Маргуша Нижегородской губернии. В 1915—1917 — в русской армии, участник Первой мировой войны. Член РСДРП (б) с марта 1917 года.
В 1917—1920 был членом Нижегородского губернского Совета, входил в состав его исполнительного комитета, а в 1919—1920 был его секретарём.
В 1920—1921 находился на руководящей работе в Рязанской губернии. С 1921 по 1924 работал в организационно-инструкторском отделе ЦК РКП (б).
В 1924—1925 годах Е. И. Рябинин был слушателем Курсов марксизма-ленинизма при Коммунистической академии.
С 1925 — ответственный секретарь Тамбовского губернского комитета ВКП (б), а в 1928 году назначен заведующим отделом областного комитета ВКП (б) вновь образованной Центрально-Чернозёмной области.
В 1930 году Е. И. Рябинин был избран председателем Исполнительного Комитета Центрально-Чернозёмного областного Совета, а после разделения в 1934 Центрально-Чернозёмной области на Воронежскую и Курскую занял пост председателя Исполкома вновь образованной Воронежской области.
Е. И. Рябинин был делегатом ряда съездов ВКП (б): XV (в 1927), XVI (в 1930) и XVII (в 1934). В 1927—1937 избирался членом Центральной Ревизионной Комиссии ВКП (б).
В марте 1935 года назначен первым секретарём Воронежского областного комитета ВКП (б). 10 июля 1937 был снят с этой должности, а 14 августа того же года арестован. 21 апреля 1938 года Е. И. Рябинин был расстрелян.
15 марта 1935 года Е. И. Рябинин был награждён орденом Ленина за выдающиеся успехи в развитии сельского хозяйства и промышленности Центрально-Чернозёмной и Воронежской областей, в частности за вклад в строительство Новолипецкого металлургического завода.