Александр Ханжонков родился в семье обедневшего помещика. В 1896 году окончил Новочеркасское казачье юнкерское училище и был принят в чине подхорунжего в привилегированный Донской 1-й казачий полк, расквартированный в Москве. В 1905 году в чине подъесаула уволился в запас по состоянию здоровья, получив причитающиюся в таких случаях по закону выплату в 5 тысяч рублей. Эту сумму Ханжонков вкладывает в кинопромышленность: видимо, поначалу он становится пайщиком московской компании «Гомон и Сиверсен», которая вскоре вливается в его собственное предприятие и на её основе Ханжонков организует на новом оборудовании фабрику по производству кинолент в доме Саввинского подворья. Весной 1906 года создаётся на паях Торговый дом «Э. Ош и А.Ханжонков», целью которого был прокат в России зарубежных кинофильмов и создание российских кинолент.
9 (22) декабря 1906 года Ханжонков обращается в Московскую купеческую управу с заявлением «об учреждении им совместно с тремя вкладчиками Торгового дома в образе товарищества на веру под фирмою „А. Ханжонков и Ко“ с целью производства торговли кинематографическими лентами, волшебными фонарями, туманными картинами, различными машинами и приборами и другими товарами для фабрикации всех этих предметов». Одним из поручителей компании был известный банкир Иван Озеров, будущий член Государственного Совета.
Поначалу Ханжонков занимается только кинодокументалистикой и прокатом в России зарубежных фильмов, но уже летом 1907 года он начинает съёмки собственной постановочной картины «Палочкин и Галочкин», которая, впрочем, закончена не была.
2 января 1909 года (20 декабря 1908 года по старому стилю) выходит на экраны первая художественная продукция ателье Ханжонкова — фильм «Драма в таборе подмосковных цыган», о котором журнал «Сине-фоно» написал: «…хотелось бы указать на тот факт, что эта лента явилась первой, выпущенной А.Ханжонковым в виде драмы, разыгранной собственной труппой, ибо до сих пор упомянутое ателье производило лишь съёмки с натуры». К этому времени в работе в ателье Ханжонкова находятся одновременно несколько художественных и множество документальных фильмов, которые выходят в 1909 году — в том числе «Песнь про купца Калашникова», «Русская свадьба XVI столетия», «Ванька-ключник» и другие. Для работы над ними он привлекает начинающего режиссёра Василия Гончарова и театральную труппу Введенского народного дома, в которой состояли тогда Александра Гончарова, Андрей Громов, Пётр Чардынин и в которую тремя годами позже поступил Иван Мозжухин. Тематикой картин, выпускавшихся Ханжонковым, были экранизации русской классики, народных сказок, песен и романсов.
С конца 1910 года компания Ханжонкова начинает издавать журнал «Вестник кинематографии». С 1915 года начинает также выходить финансируемый им журнал «Пегас», где, помимо материалов о кино, печатались также материалы о театральной жизни, музыке, литературе и современной культуре вообще.
На счету киноателье Ханжонкова множество важнейших достижений в развитии российского кино. В 1911 году на экраны выходит первый в России полнометражный фильм «Оборона Севастополя», совместно поставленный Ханжонковым и Гончаровым. В 1912 году компания выпускает в прокат первый в мире мультфильм, снятый в технике объёмной анимации — «Прекрасная Люканида, или Война усачей с рогачами» в постановке Владислава Старевича. С начала 1910-х годов компания Ханжонкова становится бесспорным лидером российского кинопроизводства. В начале 1912 года его компания была преобразована в акционерное общество «Ханжонков и К°», с уставным капиталом в 500 000 рублей.
Ханжонков был единственным из крупных российских кинопроизводителей, кто создал в своём ателье специальный Научный отдел для съёмок образовательных, видовых и этнографических фильмов, выпускавший ленты по сельскому хозяйству, географии, зоологии, ботанике, медицине с привлечением ведущих российских специалистов. Для создания некоторых из этих фильмов привлекались лучшие силы компании: например, в фильме «Пьянство и его последствия», помимо документальных кадров, на которых показывались ужасные отклонения в развитии у детей алкоголиков, были и игровые сцены — Иван Мозжухин изображал допившегося до белой горячки, который видит вылезающего из бутылки чёртика (ещё один редкий по тем временам спецэффект, осуществлённый Владиславом Старевичем).
Весной 1917 года Ханжонков вместе с большинством сотрудников своей компании выезжает в Крым, где организует полноценное кинопроизводство в Ялте и в течение нескольких лет продолжает выпускать фильмы. После разгрома армии Врангеля он в ноябре 1920 года уезжает в Константинополь, затем в Милан и Вену, где пытается восстановить кинопроизводство. В 1922 году на арендованной вилле в Бадене он организует исследования по созданию звуковых фильмов, однако вынужден прекратить их из-за нехватки средств.
В 1923 году к Ханжонкову обращаются представители акционерного общества «Русфильм» с предложением вернуться на родину. Ханжонков предложение принимает, однако «Русфильм» закрывается, так и не начав работать. Ханжонков некоторое время работает консультантом «Госкино», а затем заведующим производством «Пролеткино».
В 1926 году Ханжонков вместе с группой руководителей «Пролеткино» был арестован по уголовному делу о финансовых злоупотреблениях в этой организации. В итоге он был ввиду отсутствия доказательств его вины освобождён, однако получил запрет на работу в области кинематографа и был лишён политических прав. Из-за этого, а также из-за резкого ухудшения здоровья, Ханжонков вынужден был переехать из Москвы в Ялту.
В 1934 году Ханжонков обращается к председателю кинофотоуправления (фактическому министру кинематографии СССР) Борису Шумяцкому с письмом, в котором пишет: «…Моё положение и в моральном и в материальном отношении стало настолько невыносимо, что я решился обратиться <…> с просьбой помочь мне найти выход из такового… Прошу своим авторитетным словом поддержать мой труд и помочь мне войти в рабочую семью Советской кинематографии полноправным её членом. Вне этого предо мною остаются лишь перспективы на дальнейшее ухудшение моего здоровья, вызываемого постоянной нуждою, и в конечном итоге — смерть от недоедания, на которую я здесь оказался обречённым вместе со своею женою.» Письмо возымело действие — Ханжонков был реабилитирован и получил правительственную персональную пенсию. В последние годы жизни он занимался написанием мемуаров. Его воспоминания частично опубликованы в книге «Первые годы русской кинематографии» (1937).
Во время немецкой оккупации Крыма в 1941—1944 годах прикованный к инвалидной коляске Ханжонков оставался в Ялте.
Александр Алексеевич Ханжонков скончался 26 сентября 1945 года. Похоронен в Ялте (Крым), Поликуровский мемориал.