Алексей Иванович родился 28 февраля 1742 в Санкт-Петербурге. Он происходил из дворянской семьи. Дед — обер-секретарь Адмиралтейств-коллегии, отец — сенатский секретарь. У Алексея была сестра Анна (1741—1816), в замужестве Голубцова, её сын Ф.А.Голубцов, и два брата: Андрей (1743—1788) и Фёдор (1750—1798).
Получил образование в коллегии юнкеров при канцелярии Сената. Служил протоколистом в канцелярии Сената, с 1762 — секретарь генерал-прокурора (вначале А. И. Глебова, затем А. А. Вяземского), с 1764 — правитель дел канцелярии генерал-прокурора А. А. Вяземского.
С 1770 — обер-секретарь 3-го департамента Сената, работал в комиссии по составлению общегосударственной окладной книги, устройству казённых палат и преобразованию Экспедиции о государственных доходах. В результате принятых мер податное дело в России было приведено в порядок.
С 1773 — обер-секретарь Экспедиции о государственных доходах, составил сборник законов по финансовому управлению до 1775 для Уложенной комиссии. Написал также наставление вновь учрежденным в губерниях казенным палатам.
С 1781 — действительный статский советник, управляющий вновь учреждённой Экспедицией для ревизии государственных счетов, к которой вскоре было присоединено винное, соляное и горное управление. В случае болезни генерал-прокурора А. А. Вяземского Васильев докладывал императрице дела государственного казначея. С 1791 — тайный советник.
С 1793 — главный директор Медицинский коллегии. Одновременно, с 1793 — сенатор. Ему удалось расширить деятельность коллегии без увеличения расходов, преобразовать административное устройство и улучшить материальную базу медицинской части в России. Существовавшие со времени Петра I в Москве и Петербурге медико-хирургические училища были при нём преобразованы в медико-хирургические академии.
В ноябре 1796, после того, как императором стал Павел I, Васильев был назначен государственным казначеем. С 1797 — действительный тайный советник. Значительно улучшил счетоводство, оказавшееся в крайне неудовлетворительном положении при его предшественниках. После конфликта с одним из ближайших к императору вельмож, Кутайсовым, был в ноябре 1800 уволен от всех должностей, но с восшествием на престол Александра I опять назначен государственным казначеем и восстановлен в других должностях (март 1801).
После создания министерств был в 1802 назначен министром финансов. Провёл две важные законодательные меры. В 1802 был утверждён устав о государственных лесах, внесший значительные улучшения в порядок заведования лесными имуществами. В 1806 получило силу закона разработанное под его непосредственным руководством горное положение, которое частично восстановило принцип горной свободы (в течение многих десятилетий этот документ был с небольшими изменениями основой российского горного законодательства).
Умер Алексей Иванович Васильев 15 августа 1807 в Санкт-Петербурге. Похоронен на Лазаревском кладбище Александро-Невской лавры.
Жена — Варвара Сергеевна, урождённая княжна Урусова (1751—1831). В семье было две дочери — Екатерина (1781—1860; замужем за генералом от инфантерии князем Сергеем Николаевичем Долгоруковым) и Мария (1784—1829; замужем за генералом от кавалерии графом Василием Васильевичем Орловым-Денисовым).
Варвара Сергеевна Васильева
Екатерина Долгорукая
Мария Орлова-Денисова