С началом Великой Отечественной войны Андропов активно участвовал в организации партизанского движения в Карелии, значительная часть которой, включая Петрозаводск, была оккупирована немецкими и финскими войсками. Он продолжал возглавлять комсомол и на неоккупированной части республики. Карельский фронт не считался в годы Отечественной войны одним из главных, и позднее о боях на этом фронте писали мало. Однако уже в книгах, изданных в Петрозаводске и Ленинграде в 60—70-е годы, упоминался молодой Андропов. В начале 80-х годов, когда Андропов возглавил страну и партию, в Москве и Петрозаводске вышло в свет еще несколько книг о боевых действиях на Карельском фронте и партизанском движении в Карелии. Упоминание об активном участии первого секретаря ЦК ЛКСМ Карелии Ю. Андропова в организации партийного и комсомольского подполья содержится и в энциклопедии о Великой Отечественной войне[17]. Карельские партизаны, как и солдаты на Карельском фронте, страдали от суровых климатических условий. В некоторых мемуарах можно найти упоминание о том, что именно в годы войны в холодном и болотистом карельском крае Андропов приобрел ту болезнь почек, которая так осложнила его жизнь.
С 1944 года Андропов перешел на партийную работу; столица Карелии была освобождена, и Андропов занял пост второго секретаря Петрозаводского горкома партии. Вскоре он начал учиться в Петрозаводском государственном университете, а затем и в Высшей партийной школе при ЦК КПСС. В 1947 году мы видим 33-летнего Андропова на посту второго секретаря ЦК КП(б) Карело-Финской ССР. Председателем Президиума Верховного Совета республики был в то время Отто Вильгельмович Куусинен, в прошлом один из основателей Коммунистической партии Финляндии и секретарь Исполкома Коминтерна. Этот известный в стране и за рубежом политический деятель был не только членом ЦК ВКП(б), но и заместителем Председателя Президиума Верховного Совета СССР В те времена пост Председателя Президиума Верховного Совета считался почти во всех республиках не особенно важным. Однако именно в Карелии Отто Куусинен являлся не только формальным, но и фактическим руководителем небольшой республики. Шестидесятипятилетний ветеран и Октябрьской революции 1917 года, и революции 1918 года в Финляндии относился к молодому Андропову с вниманием и симпатией.
Общение с Отто Куусиненом было чрезвычайно важным для Андропова, оказав на него большое влияние. Георгий Арбатов, который работал вместе с Куусиненом в 1957–1958 гг. над учебным пособием «Основы марксизма-ленинизма», вспоминал позднее об этом политике и теоретике с большой симпатией. «О. В. Куусинен, — писал Арбатов, — был прекрасным учителем. Вопреки возрасту, это был человек со свежей памятью, открытым для нового умом, тогда очень непривычными для нас гибкостью мысли, готовностью к смелому поиску. Ну а кроме того, он думал. Честно скажу, я впервые познакомился с человеком, о котором можно было без натяжек сказать: это человек, который все время думает… То, что Куусинен думал, в общении ощущалось почти физически: ты чувствовал, что за каждым словом собеседника стоит работающая, все время проверяемая и шлифуемая мысль, что каждый твой вопрос, твою реплику человек серьезно обдумывает, взвешивает, оценивает. Тем, кто понял это, говорить, работать с Отто Вильгельмовичем было поначалу хотя и интересно, но сложно, несмотря на его — тоже тогда для начальства очень непривычные — простоту, доступность, демократизм. Ибо ты всегда был в напряжении, начеку, остерегался непродуманных слов. Потом почти все мы, видимо, поняв, что лучше, чем мы есть, мы показаться «старику» (так его все называли за глаза) не сможем, начали себя вести естественно. Но при этом все становились хоть чуточку умнее — в присутствии сильного интеллекта, взаимодействуя с ним, сам невольно мобилизуешь свои резервы и возможности…