В 16-летнем возрасте Армен оказался в «Арарате», цвета которого защищал на протяжении шести лет. В составе «Арарата» дважды становился чемпионом, трижды обладателем кубка Армении, а также признавался лучшим игроком года в чемпионате 1993.
В 1996 году состоялся переход в стан соперника тех времён, коим была «Киликия», называвшаяся тогда «Пюником». Здесь Армен провёл лишь один сезон, за который стал чемпионом и финалистом кубка Армении.
Последующие два сезона провёл за границей, попробовав свои силы в чемпионатах украинском и израильском, но ни в первом, ни во втором себя проявить не смог. После последовало первое возвращение на родину. В 1998 году выступал за ФК «Ереван», в составе которого стал бронзовым призёром чемпионата и финалистом кубка. По окончании чемпионата поступает предложение от одного швейцарского клуба, с которым заключает контракт. За 3 сезона, проведённых за клуб, Шахгельдян появился в 26-ти матчах и забил 6 голов. Аналогичная ситуация была в московском «Динамо», где за полтора сезона Шахгельдян появился на поле всего два раза.
В 2001 году второе возвращение домой. Домом для Армена стала «Мика». Спустя полтора сезона состоялся переезд на Кипр.
В 2004 году вновь в составе «Мики», за который проводит полноценный сезон, сыграв в 21 матче и забив в них 12 мячей (5-место в сезоне). В конце года состоялся последний выезд в зарубежный клуб («Аль Ахед»), за который провёл начало чемпионата и вновь перешёл в «Мику». Последние два с половиной сезона своей игровой карьеры провёл в аштаракском клубе, в составе которого завоевал два кубка Армении, один суперкубок Армении, признавался лучшим игроком чемпионата 2006 и лучшим нападающим в 2005 году.
Армен дебютировал в составе главной команды страны в 1992 году. Это был первый матч сборной с момента обретения независимости Армении. Матч был товарищеским, против сборной Молдовы, и закончился с нулевым счётом. С этого момента и до окончания своей игровой карьеры в 2007 году, Армен постоянно получал вызовы в национальную команду. За это время он сыграл в 53 матчах (7-е место) и забил 6 голов (3-е место).
Окончил Высшую школу тренеров в Москве. С 2008 года возглавляет «Мику-2». В первенстве Первой лиги сезона 2010 года клуб был оштрафован на 50 000 драм с пометкой «За постоянное вмешательство в работу судьи матча со стороны главного тренера „Мики-2“ во время игры его подопечных с командой „Ширак-2“». В связи с неудовлетворительными результатами «Мику» покинул Армен Адамян. Место главного тренера занял Армен Шахгельдян. С приходом Шахгельдяна результаты изменились, команда чаще стала добиваться цели, но этого не хватило для завоевания медалей. Новый сезон вновь доверили Шахгельдяну. Команду периодически кидало в стороны. Ввиду этого команде удалось завоевать Кубок после долгого периода. Однако результаты чемпионата перевесили кубковые достижения и Шахгельдяну пришлось уйти. По случаю отстранения главного тренера «Мики» от занимаемой должности, данная вакансия была предложена Маркарову.
Имеет сына — Андраника, который также является футболистом. Воспитанник «Мики», выступает в главной команде на позиции нападающего.