В 1702 году Голицын прославился при штурме Нотебурга, где он командовал отрядом Семеновского полка. Шведы отчаянно сопротивлялись, и Петр, сомневаясь в возможности взятия крепости, уже послал Голицыну приказ отступить «Скажи Государю, – отвечал тот посланному, – что теперь я принадлежу одному Богу». Пристав на лодках к островной части крепости, в том месте, где в стене был пролом, семеновцы пошли в атаку, но были встречены яростным огнем противника. Атака захлебнулась, и тогда, чтобы отрезать путь к отступлению, Голицын приказал оттолкнуть от берега пустые лодки. Солдаты снова ринулись в бой, и… победили, сломив сопротивление врага. Затем отряд Голицына продолжил штурм крепости, который увенчался успехом. За этот подвиг Голицын был награжден золотой медалью, деревнями и произведен в полковники.
К чести Михаила Михайловича следует сказать, что все боевые награды он добывал в сражениях. В 1703 году Голицын находился при взятии Ниеншанца, в 1704 году брал Нарву, в 1705 году – Митаву.
На следующий год он был произведен в генерал-майоры. Голицын одержал 30 августа 1708 года блестящую победу при селе Добром над отрядом шведского генерала Росса и на поле сражения был награжден Петром орденом Св. Андрея Первозванного.
28 сентября 1708 года в сражении при Лесной Голицын участвовал в разгроме корпуса генерала Левенгаупта, сделав многое для победы над шведами. Петр I, ставший свидетелем его храбрости на поле боя, произвел его в генерал-поручики, пожаловал ему свой портрет, усыпанный бриллиантами, и предоставил Голицыну право просить все, что он пожелает. Голицын воспользовался этим случаем и попросил царя простить князя А.И. Репнина, который был разжалован в рядовые за поражение при Головчине. Репнин был прощен.
В 1709 году в Полтавском сражении Голицын командовал гвардией и, преследуя с Меншиковым бежавших шведов, принудил их под Переволочной положить оружие.
В 1710 году он сражается за взятие Выборга, в 1711 году защищает Украину от крымских татар и бунтующих запорожцев, а затем участвует в Прутском походе.
С 1714 по 1721 год Голицын становится главнокомандующим войсками в Финляндии. В феврале 1714 года он разбил шведов при Лапио, за что был произведен в генерал-аншефы «за мужество и стойкость».
Затем Голицын участвовал в морском сражении при Гангуте, а 27 июля 1720 года одержал блестящую победу над шведским флотом в Гренгамском сражении.
Особое расположение Петра в отношении Голицына проявлялось и в том, что только ему и Шереметеву разрешалось не пить во время праздников огромный кубок «Большого орла».