А Иван Васильевич начал большую войну против Казани, лично возглавил походы. Первые из них были неудачными. Сказывалось и незнание местных условий, и плохая дисциплина, разболтанность армии. Но царь набирался опыта, укреплял войска. Наращивал артиллерию, создал полки постоянной пехоты – стрельцов, реорганизовал поместную конницу. В этих походах царь познакомился и с казаками. Высоко оценил их и начал широко привлекать на службу. В 1550 г. он обратил внимание на Круглую гору возле впадения в Волгу реки Свияги. Повелел устроить здесь передовую базу для наступления на Казань. Предание об основании Свияжска рассказывает, что царю явился во сне св. Сергий Радонежский и повелел возвести на горе крепость. Иван Васильевич при этом сказал: «Стесним Казань; Бог даст нам ее в руки».
Следующей весной Свияжск был построен. В нем разместили гарнизон царских воинов и отряды казаков. Они тут же начали нападать на неприятельские владения, перехватили все дороги. Местные племена черемисы, мордвы, чувашей стали переходить под власть России. Казанцы очутились в блокаде, их хозяйства разорялись. Они взмолились о мире, согласились признать себя вассалами царя, освободить всех русских невольников – их насчитали более 60 тысяч. Правда, успех оказался непрочным. В Казань примчался царевич Ядигер с подмогой астраханцев и ногайцев. Поступили известия, что крымский хан не оставит казанцев в беде, поддержит их, и настроения резко переменились. Ядигера возвели на трон и не только расторгли мир, а зверски умертвили находившихся в Казани русских чиновников, военных, захваченных в плен казаков.
В 1552 г. царь организовал новый поход. Сперва отразили удар крымцев и турецких янычар, подступивших к Туле и пытавшихся отвлечь русских от Казани. Но не отвлекли. Отбив натиск с юга, армия повернула на восток. При этом Иван Васильевич разослал грамоту казакам, призывая их в свое войско. Прибыли казаки с Дона, Волги, Яика, Терека. Они объединились под общим командованием атамана Сусара Федорова. Осада Казани была очень трудной. Невзирая на бомбардировку, казанцы отказывались сдаваться. Но после праздника Покрова Пресвятой Богородицы, 4 октября, были взорваны мины, подведенные под валы и стены. Летопись сообщает, как пошли на штурм «многие атаманы и казаки, и стрельцы, и многие дети боярские, и охотники». В жесточайших уличных рубках Казань пала. Казаки ворвались в город первыми, и Иван Васильевич, по преданию, наградил их – пожаловал в вечное владение Тихий Дон со всеми притоками.
После многократно нарушенных клятв и морей пролитой крови царь решил совсем упразднить Казанское ханство, присоединил его к своим владениям. Но оно было связано с другими ханствами, с Османской империей. В казанских селениях появились агенты Крыма и Турции с мешками денег. Заполыхали восстания. А через Астрахань к ним пошла подмога. Становилось ясно: чтобы достичь мира в Поволжье, надо взять под контроль и второе ханство. Астраханский властитель Ямгурчей двурушничал и лгал. Объявлял себя союзником России, а на самом деле укреплял связи с Крымом, сносился со Стамбулом. Когда султан пообещал ему покровительство, Ямгурчей сбросил маску, заточил в тюрьму царского посла.