По окончании курса в юнкерской школе при Сенате, служил при генерал-прокурорах, сначала А.И. Глебове, затем князе А.А. Вяземском . В 1770 г. Васильев был назначен обер-секретарем Сената и занимался в комиссии по составлению Уложения, при чем составил сборник законов по финансовому управлению до 1775 г.
Вообще ему были поручаемы крупные работы, например, составление государственной окладной книги, так как штатс-контора (финансовое управление) не имела точных сведений о доходах и расходах. С этого времени в податное дело впервые был внесен больший порядок. Васильев написал также наставление вновь учрежденным в губерниях казенным палатам.
С уничтожением штатс-конторы, Васильев был назначен, в 1781 г., во вновь учрежденную экспедицию для ревизии государственного счетоводства, к которой вскоре было присоединено винное, соляное и горное управление.
В случае болезни генерал-прокурора Васильев докладывал императрице Екатерине II дела государственного казначея. С назначением на должность генерал-прокурора Самойлова , Васильев получил место директора медицинской коллегии; ему удалось расширить ее деятельность без увеличения расходов.
Существовавшие со времени Петра I в Москве и Петербурге медико-хирургические училища были преобразованы в медико-хирургические академии (из них сохранилась только петербургская, нынешняя военно-медицинская).
При Павле I Васильев, уже раньше заседавший в Сенате, был назначен государственным казначеем (финанс-министром); в этой должности он заведовал поступлением и распределением казенных налогов и составлял смету.
В 1800 г. он был уволен по наветам Кутайсова , но с восшествием на престол Александра I опять назначен государственным казначеем, а при образовании в 1802 году министерств — министром финансов. Еще при Павле I Васильев ввел значительные улучшения в счетоводство, которое при его предшественниках, особенно при князе Вяземском, находилось в крайне неудовлетворительном положении.
С его именем связаны две важные меры. В 1802 г. получил утверждение устав о государственных лесах, внесший значительные улучшения в порядок заведования лесными имуществами; в 1806 г. получило силу закона выработанное под непосредственным руководством Васильева горное положение, которое с небольшими изменениями служило до последнего времени основанием нашего горного законодательства. Этим положением вновь введен был в законодательство, но только отчасти, принцип горной свободы. Заслугой Васильева стало заметное сокращение государственного долга.
В 1802 финансовое ведомство смогло погасить облигации на 3,5 млн гульденов, а в 1804-08 гг. был закрыт генуэзский заем (3 млн пиастров). Также упорядочил взимания гербового сбора (закон от 28 ноября 1806 года).
Что же касается до мер экономической и финансовой политики, то при нем в этом отношении ничего сколько-нибудь выдающегося сделано не было, за исключением подчинения министру финансов кредитных учреждений (не всех). Для покрытия ежегодных дефицитов брали деньги из казенных банков и выпускали ассигнации, общая сумма которых возросла за период его управления с 210 мил. до 319 миллион. руб. ассигнациями.
Умер Алексей Иванович Васильев 15 августа 1807 в Санкт-Петербурге. Похоронен на Лазаревском кладбище Александро-Невской лавры. Награждён орденами Святого Александра Невского (1796), Святого Андрея Первозванного (1799), Святого Владимира 1-й степени (1806), а также Командорским крестом ордена Святого Иоанна Иерусалимского (1799).
На посту министра его сменил племянник Фёдор Голубцов. В семье Васильева было две дочери — Екатерина (1781—1860; замужем за генералом от инфантерии князем Сергеем Николаевичем Долгоруковым) и Мария (1784—1829; замужем за генералом от кавалерии графом Василием Васильевичем Орловым-Денисовым). Не имея мужского потомства, первый министр финансов передал графский титул племяннику В. Ф. Васильеву.