С юных лет, будучи назначен правителем Таш-Кургана, принимал участие в нескольких походах, предпринимавшихся для подавления восстаний отдельных афганских племён.
После вступления в 1864 году на престол Шир-Али-хана участвовал в составе войск своего отца Афзул-хана и дяди Азим-хана в борьбе с могущественным эмиром Шир-Али. Завоевал в 1866 году Кабул, где утвердился его отец. После смерти отца в 1867 году и изгнания Азим-хана Шир-Али-ханом бежал в Бухару, но не встретил особого сочувствия от бухарского эмира и вернулся в Балх, продолжая войну против Шир-Али. Будучи разбит наголову под Газни, бежал на границу Индии, но затем, не доверяя англичанам, вскоре через Персию прибыл в Мешед, оттуда в Хиву и далее, через Бухару, явился в Самарканд к генералу Абрамову. В своей автобиографии он с особым удовольствием вспоминает время, проведенное у русских (с 1870 г. по 1880 г.), оттеняя встреченную им сердечность со стороны русских властей. В 1878 году началась 2-я англо-афганская война. Живя в изгнании в Самарканде, Абдур-Рахман внимательно следил за всеми перипетиями этой войны, поджидая удобного случая для того, чтобы заявить свои права на престол.
В 1878 году началась вторая англо-афганская война. Якуб-хан был свергнут британо-индийским правительством и отправлен в Индию. Страна не имевшая эмира, занятая иностранными войсками, раздираемая междоусобицами, стала погружаться в анархию. С другой стороны, положение англо-индийских войск было тяжёлым — началась народная партизанская война против них, угрожавшая затянуть войну на продолжительное время. В такой обстановке Абдур-Рахман решил снова попытать счастья в борьбе за престол.
Весной 1880 г. он покидает Самарканд и появляется в Афганском Туркестане, где в течение нескольких недель собирает вокруг себя значительное количество сторонников. Весть о возвращении А. в Афганистан быстро облетает страну и во многих местах принимается населением с нескрываемой радостью. В таких обстоятельствах англичане решают использовать появление А. с целью выйти из затруднительного положения, в котором они оказались. По распоряжению вице-короля Индии, навстречу А., для переговоров с ним, посылается дипломатический чиновник Лепель Гриффин. При этом, пользуясь обособленностью западных областей Афганистана и нахождением в Герате сердаря Эюб-хана, брата и сторонника низложенного Якуб-хана, враждебного А., англичане предлагают последнему в управлении лишь В. Афганистан, предполагая образовать из Гератской и Кандагарской областей особое ханство. Этим расчленением страны на 2 самостоятельные части, англичане надеялись ослабить Афганистан. Однако А. не пошел на эти условия: он заявил, что должен управлять страной в тех же границах, в которых она была оставлена его дедом Дост-Магометом. После продолжительных переговоров с А., видя его упорство, его возраставшую популярность в стране и опасаясь волнений среди афганцев, англичане уступили, и А., избранный в мае 1880 г. на Кабульском дурбаре (собрание афганских старшин) эмиром Афганистана, был признан в этом звании англичанами.
22 июля 1880 князья Восточного и Среднего Афганистана провозгласили Абдур-Рахмана эмиром. После поражения британского экспедиционного корпуса в Афганистане, Абдуррахман добился пересмотра условий Гандамакского договора, но согласился на ограничение суверенитета страны.
Вскоре по вступлению на престол и после эвакуации англо-индийских войск, Абдурахману пришлось выдержать борьбу с Эюб-ханом Гератским, причем первоначально победа была на стороне последнего. Но в сентябре 1881 г. Эюб-хан был, наконец, разбит и бежал в Герат, но так как эта крепость оказалась уже занятой Абдурахманом, убежал в Персию, а затем — в Индию. Подчинив своей власти Герат и Кандагар, Абдурахман возвратился в Кабул, энергично принявшись за укрепление своей власти.
Вожди, которые представлялись опасными, были усмирены, изгнаны из страны или назначены на такие должности, где они были под постоянным надзором эмира. По отношению к упорствующим были приняты весьма решительные мера. С 1883 г. Абдурахман стал получать от англо-индийского правительства годовую субсидию в размере 1.200 тыс. рупий (впоследствии увеличена до 1.800 тыс.) с определенным назначением на оборонительные меры на с.-з. границы. Несколько раз Абдурахману пришлось усмирять восстания различных афганских племен. Так в 1886 г. восстали гильзайские племена, но эти плохо вооруженные и недисциплинированные дикари были скоро усмирены. Восстание повторилось в 1887 г., но с ещё меньшим успехом.
В 1888 г. Абдурахману пришлось иметь дело с возмущением, доставившим наибольшее испытание его власти. Его двоюродный брат Мухаммед-Исхак-хан, управляющий полунезависимо Афганским Туркестаном, объявив себя эмиром, поднял восстание. Абдурахман в это время был болен. Узнав о восстании, он отправил против Исхак-хана отряд из 13 бат. пехот, 4 полка кавалерии и 26 орудий под общим началом Гулям-Хайдар-хана. Войска двинулись через Бамиан; одновременно приказано было двигаться против мятежников правителю Катагана и Бадахшана. 23 сентября эти отряды соединились, а 29-го произошел упорный, кровопролитный бой в долине Газни-гак, в 3-х милях к югу от Таш-Кургана. Численность войск Исхак-хана простиралась до 24 тыс. чел. Бой продолжался с раннего утра до поздней ночи. Сначала все шансы были на стороне противника: на левом фланге колонна правителя Катагана была отрезана от главных сил и потерпела жестокое поражение. Многие из солдат Абдурахманa начали перебегать к Исхак-хану. Но последний, не принимавший личного участия в сражении, видя бегущих к нему солдат эмира, вообразил, что войска его разбиты, и обратился в бегство, что вызвало панику в его отряде и дало возможность Гулям-Хайдару одержать победу.
В 1890—1892 гг. Абдурахману вновь пришлось иметь дело с серьёзными восстаниями хазарейцев, населяющих горную часть Афганистана между Кабулом, Газни, Келати-Гильзаем и Гератом. Лишь после упорной горной войны, продолжавшейся более 2-х лет, эмиру удалось подчинить их своей власти.
В 1893 г. А. был заключен с Англией новый договор относительно разграничения сферы влияния в некоторых пограничных областях. Согласно этому договору, в состав Афганистана был включен Кафиристан. Жители этой страны не пожелали терять свою самостоятельность, что побудило эмира заставит из подчиниться вооруженной силой. Войска эмира вторглись в Кафиристан в конце 1895 г. 4-мя колоннами с разных сторон и в течение 40 дней страна была занята.
С русскими у А. было 2 столкновения. Первое, известный бой в 1885 г. при Таш-Кепри или Кушке, когда эмир находился в Индии, куда ездил для свидания с вице-королем. Второе — в 1892 г. на Намирах.
Абдурахманa следует отнести к числу наиболее талантливых правителей Афганистана. Обладая недюжинным умом и неутомимой энергией, он много сделал для своей страны как её устроитель и как военачальник. Упорными усилиями и подчас мерами жестокости, ему удалось достигнуть объединения и успокоения страны, создать сносный административный строй и улучшить финансовое положение. Организовал афганские войска наподобие регулярных, устроил мастерские для выделки оружия и боевых припасов и других предметов снаряжения, усилил оборонительные средства на границе, провел стратегические дороги и проч. Как искусный политик, сознавая всю трудность положения Афганистана между 2-мя сильнейшими государствами — Россией и Англией, сумел создать сравнительно независимое положение для страны. Много обязанный России, где в трудный период жизни пользовался широким гостеприимством и связанный с англичанами, от которых получал пособие, Абдурахман с одинаковым недоверием относился к обоим соседям, хотя, судя по записям его, симпатии его лежали на стороне России.
Абдурахман держался своеобразного взгляда на доступ в Афганистан иностранцев и на разрешение им предприятий. Он всеми мерами препятствовал въезду чужеземцев и категорически отклонял всякие попытки получить какие бы ни было концессии, считая свою страну слишком мало развитой, чтобы устоять против влияния иностранцев. Этого правила держался и его приемник.
Абдур-Рахман в 1900 году написал свою автобиографию на персидском языке, переведённую на английский и русский языки, очень ценную для истории Афганистана, хотя полную самовосхваления.
Умер в 1901 году. Ему наследовал его сын Хабибулла-хан.