Родился в селе Чуди в семье дьякона Антипа Григорьева и Акулины Макаровой, дочери дьякона. Фамилию Орнатский получил первым в роду (до конца XVIII века российское православное духовенство оставалось бесфамильным) при окончании семинарии или академии. Впоследствии он «передаст» свою фамилию ставшим священниками двоюродным племянникам (по матери): Платону Иосифовичу (деду Философа и Иоанна Орнатских), Иоанну Михайловичу (деду епископа Семиреченского Пимена и Василия Белоликова) и их братьям.
В 1792 окончил Кирилловское духовное училище, затем — Санкт-Петербургскую духовную семинарию, Санкт-Петербургскую духовную академию (1800), после чего стал преподавателем Новгородской духовной семинарии.
16 июля 1805 Андрей постригся в монашество, приняв имя Амвросия. Он переводит с латыни неопубликованный труд, сочинённый ещё в 1730-e гг. Амвросий исправляет рукопись, вооружившись летописями, документами из портфеля Н. Н. Бантыш-Каменского. В марте 1812 о. Амвросия назначают настоятелем московского Новоспасского монастыря и одновременно председателем комитета духовной цензуры. В начале 1813 Синод возложил на о. Амвросия ответственную работу по «возобновлению московских монастырей, поврежденных французами».
Между всеми этими важными делами о. Амвросий продолжал работу — писал и публиковал «Историю российской иерархии». Последняя, седьмая книга вышла в 1815.
9 ноября 1819 года был назначен епископом Пензенским и Саратовским, но 11 января 1825 подал прошение об отставке «с дозволением иметь […] пребывание в Кирилло-Белозерском […] монастыре». По увольнении ему была назначена пенсия «для безбедного содержания и в пособие к изданию возложенной на него Св. Синодом книги» по 2000 рублей в год.
26 декабря 1827 (7 января 1828) преосвященный Амвросий скончался и погребён в Успенском соборе Кирилло-Белозерского монастыря.