Во время Второй турецкой войны в чине контр-адмирала командовал Лиманской флотилией, возглавлял осаду с моря, бомбардировку и штурм крепости Очаков (1788), за что был награжден орденом Св. Анны 1-й степени и обширными населенными имениями. В 1790 году, вследствие размолвки с начальствовавшими в краю лицами, главным образом с Потемкиным, оставил службу. В 1792 году он занял место председателя Черноморского адмиралтейского правления. На этом посту он вступил в борьбу с другим известным администратором Новороссии, Дерибасом И.М., продолжавшуюся и в следующее царствование. При вступлении на престол Павла I Мордвинову было пожаловано имение с 1000 душ крестьян, но затем он был предан суду и уволен еще до приговора в отставку. Вскоре, однако, он был назначен членом Адмиралтейской коллегии и произведен в чин адмирала. Но большую часть царствования Павла I он оставался не у дел, лишь под конец был назначен членом Адмиралтейской коллегии и произведен в чин адмирала.
Воцарение Александра I открыло широкое поприще для кипучей государственной деятельности Мордвинова, обратившего на себя внимание либерализмом своих взглядов. Мордвинов привлекался в эту пору к обсуждению важнейших государственных вопросов в Совещательном комитете, а с образованием в 1802 году министерств занял пост министра морских сил, на котором оставался только три месяца, так как, убедившись в преобладающем влиянии на императора своего помощника Чичагова П.В., отказался от управления министерством (остался членом комитета для улучшения флота).
Популярность его в обществе наглядно сказалась в выборе его московским дворянством в 1806 году предводителем московского ополчения, хотя он не был в то время даже дворянином Московской губернии. Авторитет адмирала в правительственных сферах вновь вырос с возвышением Сперанского М.М., с которым его сблизила общность взглядов по многим вопросам и для которого он сделался помощником в составлении плана новой системы финансов. С учреждением Государственного совета Мордвинов был назначен его членом и председателем департамента государственной экономии, но последовавшая вскоре ссылка Сперанского М.М. (воспитатель наследника-цесаревича Александра Николаевича) на время пошатнула и его положение. Он вышел в отставку и уехал в Пензенскую губернию, в село Столыпино, и хотя уже в 1813 году вернулся в Петербург, но прежнее место занял только в 1816 году. Выйдя через два года вновь в отставку, он два года пробыл за границей, по возвращении же вскоре был назначен председателем департамента гражданских и духовных дел Государственного совета; вместе с тем он был членом Финансового комитета и комитета министров, и эти же должности сохранял за собою и в царствование императора Николая. В 1823 награжден высшим российским орденом Св. Андрея Первозванного.