На момент начала войны в Германии работали около 1000 советских граждан. К концу июня между СССР и Германией была достигнута договоренность об их обмене по принципу «всех на всех» на 237 германских представителей, остававшихся тогда на территории Советского Союза. Вначале гитлеровцы настаивали на том, чтобы количество граждан СССР не превышало при обмене числа немцев, но встретили решительный отказ со стороны советского правительства. Около полудня 1 июля в посольство поступило сообщение, что через час-полтора все должны быть готовы к выезду на вокзал. Через две недели, 13 июля, поезд со всеми советскими гражданами прибыл на болгаро-турецкую границу в районе города Свиленград, одновременно немецкие граждане были доставлены на советско-турецкую границу близ города Ленинакан (ныне город Гюмри в Армении). Затем те и другие были отправлены турецкими властями в свои страны.
Опустевшее здание посольства СССР заняло Министерство по делам восточных территорий, которое возглавлял рейхсминистр Альфред Розенберг, выходец из остзейских немцев, закончивший в России в 1917 г. Императорское высшее техническое училище (будущее МВТУ), единственный в высшем германском руководстве православного вероисповедания.
В 1942 г. авиация союзников нанесла по зданию посольства первый бомбовый удар. После дальнейших бомбежек оно сильно пострадало, и при штурме Берлина бой уже шел за полуразрушенное здание. По стороне Унтер-ден-Линден, на которой располагалось посольство, в сторону Бранденбургских ворот наступали воины Краснознаменной ордена Суворова 416-й Таганрогской стрелковой дивизии, сформированной на Кавказе и состоявшей на 90 % из азербайджанцев. Наименование «Таганрогская» она получила в августе 1943 г., когда освободила от гитлеровцев город Таганрог, в честь чего в Москве был произведен салют. Эта дивизия и освободила от гитлеровцев здание посольства под утро 2 мая 1945 г.
О том, как шел бой, рассказал в книге «Весна победы» непосредственный участник сражения Федор Ефимович Боков, член Военного совета 5-й ударной армии, в состав которой входила 416-я дивизия.
…На Унтер-ден-Линден и на площади бушевала огненная буря. С нарастающей силой вели наступление штурмовые отряды 416-й и 295-й стрелковых дивизий.
Но вот впереди на улице сквозь клубы дыма показались очертания какого-то здания. Находившийся в боевых порядках штурмовой группы 1373-го полка начальник политотдела 416-й стрелковой дивизии полковник Рашид Асад-оглы Меджидов, прикрывшись плащ-палаткой, вынул из планшетки план Берлина и подсветил его карманным фонариком. Да, это было здание бывшего советского посольства.
— Действовать осторожно, — распорядился Меджидов, — в здание не должен попасть ни один снаряд.
Артиллеристы и танкисты блестяще выполнили поставленную задачу — они «окаймили» здание плотным огнем. Тем временем воины штурмового отряда подготовились к броску. И как только замолк грохот орудий, бойцы поднялись в атаку и ворвались в здание. Бой там продолжался недолго. До полусотни сопротивлявшихся фашистов были истреблены, а шестьдесят сдались в плен. Вскоре над бывшим зданием советского посольства взвилось Красное знамя. Его водрузил полковник Меджидов».
После войны
В послевоенные годы первая советская дипломатическая миссия в Берлине несколько лет размещалась в районе Панков, в бывшей школе на ул. Чайковского. Первым послом СССР в ГДР после войны был Г. М. Пушкин, который находился на этой должности с 1949-го по 1952 г.
Восстановлением здания посольства руководил главный архитектор Анатолий Яковлевич Стрижевский. Ему помогал Фритц Борнеманн, по его проекту позднее было восстановлено также здание Немецкой оперы в Западном Берлине. В число участвовавших в строительстве немецких специалистов вошли профессор Зихерт и инженер Скуйин. На памятной доске читаем, что строительные работы велись воинской частью № 41 757 с 1949-го по 1951 г.
Новое здание в три раза больше довоенного, хотя изначально планировался единый архитектурный комплекс еще больших размеров — на весь квартал от перекрестка до перекрестка, с красивыми башенками по углам. В посольский комплекс также входит Торгово-экономическое бюро, школа, жилые дома для сотрудников посольства и торгпредства. Рядом представительство «Аэрофлота». С довоенных времен сохранился дом, примыкающий к зданию посольства с правой стороны, если стоять к нему лицом. Там сегодня расположены жилые помещения и посольский бар. В начале XX в. в этом доме находилось бюро пароходной компании, которая в том числе продавала и билеты на «Титаник».