В 1930 году коллекция картин Айвазовского настолько выросла, что была существенно изменена экспозиция главного выставочного зала. Часть картин длительное время даже экспонировалась на мольбертах. К началу Великой Отечественной войны основное собрание картин великого художника увеличилось почти в пять раз.
С расширением коллекций Феодосийской галереи и развитием популяризаторской работы из года в год росло и число ее посетителей. В 1940 году галерею посетило свыше 70 000 человек, т. е. в семнадцать раз больше, чем в 1923 году. За годы Советской власти сама Феодосия превратилась из маленького провинциального городка в курорт всесоюзного значения. В городе работало несколько промышленных предприятий, семь техникумов, учительский институт. Во всей жизни города сказывались результаты коренных преобразований, проводимых социалистическим государством.
Вероломное нападение фашистской Германии нарушило мирную жизнь нашей Родины. Уже на второй день войны над Феодосией появились фашистские самолеты. Галерее угрожала опасность. Необходимо было принимать срочные меры по сохранению коллекций на случай возможного в условиях войны пожара. Первоначально были упакованы и хранились около выходных внутренних дверей только самые ценные картины.
Но и в этих условиях, когда выставочные залы наполовину опустели, галерея не прекращала работу. Нередко посетителями ее были советские воины, перед уходом на фронт забегавшие в галерею еще раз посмотреть на картины великого художника.
Фронт приближался к Крыму. Во двор картинной галереи все чаще стали заезжать агитационные машины и, получив от художественной студии новую серию антифашистских плакатов, написанных на фанерных щитах, отправлялись к линии фронта.
19 сентября 1941 года все коллекции галереи, включая фонды и архив, были упакованы и подготовлены к эвакуации.
В ночь на 29 сентября 1941 года моторизованные части фашистской армии прорвались от Геническа на Арабатскую стрелку и подошли к Арабату. В 30 километрах от Феодосии они были остановлены заградительным отрядом морской пехоты. В ту же ночь исполком Феодосийского горсовета принял решение об эвакуации коллекций галереи. 30 сентября все картины были погружены в феодосийском порту на госпитальный теплоход «Калинин» и вывезены через новороссийский порт в Краснодар.
Во время морского пути и при перегрузке в Новороссийске большую помощь работникам галереи оказали моряки Черноморского флота.
В Краснодаре коллекции Феодосийской картинной галереи разместились в помещении краевой картинной галереи им. А. В. Луначарского. Там за месяц пребывания была развернута небольшая выставка картин Айвазовского.
8 ноября экспонаты галереи были эвакуированы дальше в тыл - в Ереван. Их разместили в музее изобразительных искусств. 2 мая 1942 года в связи со 125-летием со дня рождения И. К. Айвазовского в выставочном зале Союза советских художников Армении открылась выставка основных коллекций Феодосийской картинной галереи. Выставка привлекла большое количество посетителей. Ереванская газета «Коммунист» 24 июня 1942 года сообщала: «Большим успехом пользуется выставка картин И. К. Айвазовского. За 12 дней выставку посетило 4500 человек».
После разгрома гитлеровцев в Крыму 5 ноября 1944 года коллекции картинной галереи в полной сохранности были возвращены в Феодосию.
Город был неузнаваем после фашистского нашествия. В самой благоустроенной прибрежной его части на протяжении четырех километров относительно сохранилось только шесть домов (среди них - дом Айвазовского). По всему берегу моря, вдоль линии железной дороги, и особенно на «переезде», у здания галереи, гитлеровцами были построены доты и дзоты, установлены дальнобойные орудия; весь берег опутан колючей проволокой, завален брошенной военной техникой. Портовые сооружения и вся прилегающая к порту часть города были превращены в груду развалин.
Дом Айвазовского представлял мрачное зрелище. Он был исковеркан мелкими снарядами: штукатурка на нем осыпалась, кровля представляла груду черепков, сам дом как будто осел и врос в землю. В главном выставочном зале не существовало огромного стеклянного перекрытия. В большом доме нашлась только одна комната (бывшая мастерская), в которой были целы двери и окна, не протекала крыша.
Наступила ранняя суровая зима 1944 года. Волны, поднятые на море жестоким норд-остом, срывали с якорей оставшиеся немецкие мины, гнали их к берегу, и они рвались, сотрясая стены дома. Ночью в пустых залах ветер свистел, как на палубе корабля в бушующем море.