Настоящий успех пришел к нашему герою годом спустя - в 1964 году. Произошло это при следующих обстоятельствах. В начале 60-х годов на спектакле Театра сатиры "Дамоклов меч" побывал писатель Константин Симонов. Игра Папанова в нем настолько поразила его, что он предложил кинорежиссеру А. Столперу, который в 1963 году решил экранизировать его роман "Живые и мертвые", взять этого актера на роль генерала Федора Серпилина. Поначалу Столпер сомневался, так как знал Папанова как исполнителя в основном отрицательных, комедийных ролей (тот же Боксер был ролью резко отрицательной). Здесь же предстояло сыграть роль положительную, даже героическую. Однако К. Симонов настаивал на своем выборе, и режиссер в конце концов согласился.
Между тем долго сомневался в своих способностях сыграть положительного героя и сам Папанов. Как вспоминает Н. Каратаева: "У нас в общежитии был длинный коридор, и в нем стоял общий телефон. Ему несколько раз звонили, уговаривали, а мы все стояли и слушали, как он отказывался играть Серпилина: "Ну какой я генерал? Да нет, ну что вы, я не могу... И уже после выхода картины он мне часто говорил: "Что это все восторгаются? Чего там особенного я сыграл?"
Действительно, после выхода этого фильма на широкий экран к Папанову пришла всесоюзная слава. Роль генерала Серпилина опрокинула довольно прочно устоявшееся мнение о Папанове как об актере комедийно-сатирического направления с некоторыми драматическими задатками. В прокате 1964 года "Живые и мертвые" заняли 1-е место, собрав на своих просмотрах 41,5 млн. зрителей. В том же году картина получила призы на фестивалях в Москве, Карловых Варах и Акапулько. В 1966 году фильм был удостоен Государственной премии РСФСР.
Как вспоминает исполнитель главной роли в этом фильме К. Лавров: "Столпер с огромным уважением относился к Папанову. С самого начала чувствовалось, что этот актер - лидер в картине. О Симонове и говорить нечего: Константин Михайлович не однажды рассказывал мне, как ему нравится Толя и точным попаданием в самую сердцевину образа Серпилина, и в других ролях, и просто по-человечески. Забегая вперед, скажу, что к Папанову устремлялись душой сразу, без обычной в человеческих отношениях разведки и приглядывания. Так, в Звездном городке, куда мы привезли только что смонтированный фильм "Живые и мертвые" в сопровождении Столпера, Папанова и моем, Юрий Гагарин улучил минуту, чтобы остаться наедине с Толей и со мной, увел нас в какую-то из дальних комнат клуба космонавтов, и мы незабываемо пообщались за бутылкой кубинского рома".