Предположительно, родом из Брянска. До пострижения в монахи — боярин и профессиональный военный. Возможно, командовал московской тысячей в Пьянском побоище.
По Сказанию о Мамаевом побоище, сопровождал вместе с иноком Пересветом великого князя Димитрия в походе против татар по повелению святого Сергия, и принимал участие в Куликовской битве.
По наиболее распространённой версии, Родион Ослябя, как и Пересвет, погиб в Куликовской битве. Однако некоторые источники позволяют предположить, что не позднее 1389 года Ослябя ездил в Царьград в составе посольства московского Дмитрия Донского для оказания помощи Византии, пережившей опустошительные набеги турок.
Похоронен Ослябя вместе с Пересветом рядом с деревянным храмом Рождества Пресвятой Богородицы в Старом Симонове в «каменной палатке».
В его честь был назван броненосец Российского флота, погибший в Цусимском сражении. В настоящее время в боевом составе КТОФ находится большой десантный корабль «Ослябя».
Возможно, имел сына Якова, также участника Куликовской битвы.
Есть история, что в ходе битвы Дмитрий Донской получил ранение и упал с коня. Ослябя перенёс его в безопасное место, переоделся в его доспехи, и вновь повёл войско вперёд, таким образом, повлияв на ход битвы.
Другое имя в крещении, часто приписываемое Ослябе — Родион. По мнению РПЦ, это возникло вследствие различных недоразумений.
В 2010 году вышел в свет 30-минутный анимационный фильм «Пересвет и Ослябя».
Александр Пересвет и Родион Ослябя причислены Русской православной церковью к лику святых. День памяти отмечается 7 сентября, а также на Неделе Всех Святых, в земле Российской просиявших (2-е воскресенье после Святой Троицы), в день Всех Московских святых (воскресенье перед 8 сентября), Всех Тульских святых (22 сентября), Всех Брянских святых (3 октября), Всех Радонежских святых (6 июля) и 24 августа.