Там он исполнял самые трудные послушания: рубил дрова, копал землю, работал на мельнице. После полутора лет испытания игумен постриг Федора, дав монашеское имя Филипп. Под руководством опытных старцев инок Филипп возрос духовно и через несколько лет, по общему желанию братии, стал соловецким игуменом.
В этом сане святитель Филипп много потрудился для улучшения духовной и материальной жизни северной обители. На Соловках он соединил озера каналами и осушил болотные места для сенокосов, провел дороги, воздвиг два величественных собора – Успенский и Преображенский, устроил больницу и скиты для желающих безмолвия и сам по временам удалялся в одно уединенное место. Братию приучил он к трудолюбивой жизни без праздности. Но в Москве о соловецком отшельнике вспомнил воцарившийся Иоанн Грозный, который надеялся в друге своего отрочества найти верного сподвижника, духовника и советника. Со слезами отказывался игумен Филипп принять митрополичий сан, но царь был непреклонен. Тогда святой согласился стать митрополитом, желая уменьшить ужасы введенной Грозным опричнины. Но казни, пытки и прочие злодеяния, вредившие и людям, и государству Российскому, продолжались. Митрополит Филипп несколько раз в уединенных беседах с царем старался вразумить его. Убеждения не помогали, и весной 1568 года на богослужении в Успенском соборе святитель Филипп отказался благословить Ивана Грозного и стал открыто порицать беззакония. Нашлись клеветники с ложными обвинениями против святителя.
И уже через полгода по решению струсившей Боярской думы святитель был арестован. Во время службы в Успенский собор ворвались опричники в черных одеяниях, сорвали с митрополита церковные облачения и своими метлами вытолкали из храма, посадили на простые дровни и увезли в московский Богоявленский монастырь. В то же время царь казнил многих родственников Филиппа. Голову особенно любимого митрополитом племянника Грозный послал ему в его келью. Потом по указу царя к нему пустили голодного медведя, но зверь не тронул святителя. Народ с утра до вечера толпился вокруг обители и рассказывал о нем чудеса. Тогда царь велел перевести опального митрополита в Тверской Отрочь монастырь, где через год он погиб от руки Малюты Скуратова – главный опричник задушил его подушкой.
Спустя двадцать лет монахи Соловецкой обители испросили позволения нетленные мощи своего бывшего игумена перенести в свой монастырь. Впоследствии мощи святителя Филиппа были перенесены в Москву и поставлены в Успенском соборе Кремля на том месте, где опричники схватили митрополита-мученика.