Во время морского пути и при перегрузке в Новороссийске большую помощь работникам галереи оказали моряки Черноморского флота.
В Краснодаре коллекции Феодосийской картинной галереи разместились в помещении краевой картинной галереи им. А. В. Луначарского. Там за месяц пребывания была развернута небольшая выставка картин Айвазовского.
8 ноября экспонаты галереи были эвакуированы дальше в тыл - в Ереван. Их разместили в музее изобразительных искусств. 2 мая 1942 года в связи со 125-летием со дня рождения И. К. Айвазовского в выставочном зале Союза советских художников Армении открылась выставка основных коллекций Феодосийской картинной галереи. Выставка привлекла большое количество посетителей. Ереванская газета «Коммунист» 24 июня 1942 года сообщала: «Большим успехом пользуется выставка картин И. К. Айвазовского. За 12 дней выставку посетило 4500 человек».
После разгрома гитлеровцев в Крыму 5 ноября 1944 года коллекции картинной галереи в полной сохранности были возвращены в Феодосию.
Город был неузнаваем после фашистского нашествия. В самой благоустроенной прибрежной его части на протяжении четырех километров относительно сохранилось только шесть домов (среди них - дом Айвазовского). По всему берегу моря, вдоль линии железной дороги, и особенно на «переезде», у здания галереи, гитлеровцами были построены доты и дзоты, установлены дальнобойные орудия; весь берег опутан колючей проволокой, завален брошенной военной техникой. Портовые сооружения и вся прилегающая к порту часть города были превращены в груду развалин.
Дом Айвазовского представлял мрачное зрелище. Он был исковеркан мелкими снарядами: штукатурка на нем осыпалась, кровля представляла груду черепков, сам дом как будто осел и врос в землю. В главном выставочном зале не существовало огромного стеклянного перекрытия. В большом доме нашлась только одна комната (бывшая мастерская), в которой были целы двери и окна, не протекала крыша.
Наступила ранняя суровая зима 1944 года. Волны, поднятые на море жестоким норд-остом, срывали с якорей оставшиеся немецкие мины, гнали их к берегу, и они рвались, сотрясая стены дома. Ночью в пустых залах ветер свистел, как на палубе корабля в бушующем море.
Но делу восстановления галереи в городе было придано первостепенное значение. Все строительные организации Феодосии принимали участие в восстановительных работах, и уже к весне 1945 года можно было приступить к разработке экспозиционного плана, а 2 мая 1945 года открылась выставка картин великого мариниста, приуроченная к 45-летию со дня смерти художника, 65-летию картинной галереи и 100-летию постройки дома Айвазовского На выставке были показаны все картины Айвазовского, как бывшие до войны в экспозиции, так и фондовые, которые до этого никогда не экспонировались и после этой выставки опять были убраны в фонд.