Состоял в драгунском полку. Участник Азовских походов Петра I. Был пожалован в есаулы. После взятия Азова участвовал в торжественном въезде Петра I в Москву. Участвовал во всех важнейших сражениях Северной войны 1700-1721. В сражении при Лесной был тяжело ранен, однако участвовал в Полтавской битве. В 1707 пожалован в чин майора лейб-гвардии Преображенского полка. В 1711 находился по поручению царя в Польше, в Познани, где заведовал сбором и заготовлением провианта для действующей армии. В том же году произведен в бригадиры. В 1715 под наблюдением Юсупова производилась постройка рекрутами плотов и судов. В 1717 участвовал в деятельности розыскной комиссии, созданной для расследования злоупотреблений по соляному сбору в Бахмуте; в следующем году ему поручено рассмотрение дела Петра Апраксина и князя Долгорукого. В 1718 подписал приговор цесаревичу Алексею Петровичу.
В 1719 произведен в генерал-майоры и назначен членом Военной коллегии; в том же году ему было поручено возглавить канцелярию розыскных дел. По воцарении Екатерины I, в день учреждения ордена Св. Александра Невского, Юсупов стал одним из первых кавалеров этого ордена. В 1726 назначен к присутствию в Правительствующем Сенате. После смерти Екатерины I пользовался особенным благоволением юного Петра II. В 1727 пожалован в подполковники Преображенского полка и сделан первым членом Государственной Военной коллегии.
Юсупов выступил против действий Верховного тайного совета и после вступления на престол императрицы Анны Ивановны был назначен присутствующим в Правительствующий Сенат. В день коронования Анны Ивановны был пожалован в генерал-аншефы. По отзывам современников, Юсупов «был человек весьма честных правил; хорошо служил; ведал свое ремесло; неустрашим на бранном поле, что свидетельствовали полученные им раны; любил иностранцев; чрезвычайно был предан своему государю и шел всегда прямою дорогою». В конце 1694 женился на вдове стольника князя Ивана Семеновича Львова, княгине Анне Никитичне Львовой; от этого брака имел сыновей Бориса, Григория и Сергея и дочерей Прасковью и Марфу.