В 1934–1935 гг. японские войска неоднократно провоцировали конфликты на советско-маньчжурской и монголо-маньчжурской границах в отношении КВЖД, последнего оплота советского влияния в Северной Маньчжурии. В результате этих действий железная дорога в марте 1935 г. правительством СССР была продана властям Маньчжоу-Го.
Учитывая то, что японской армией в будущей войне с Советским Союзом придется иметь дело с Красной армией, проводились соответствующая подготовка и соответствующие мероприятия, направленные на подготовку японских войск для войны с СССР.
В это же время усиливаются японские спецслужбы. По мнению руководства армии, они не отвечали новым возрастающим требованиям. В связи с этим в 1934 г. была разработана инструкция по разведывательной работе штаба Квантунской армии против Советского Союза, в которой определялись задачи и обязанности каждого разведывательного органа. Всем разведывательным подразделениям указывался конкретный участок подрывной работы против СССР, перечислялись методы осуществления разведывательно-диверсионных акций. Устанавливался порядок отчетности перед 2-м (разведывательным) отделом штаба Квантунской армии.
Подписание 25 ноября 1936 г. соглашения между нацистской Германией и Японией, известного как Антикоминтерновский пакт, еще более обострило отношения. Вскоре после этого события японское правительство провело реорганизацию разведывательных и контрразведывательных органов. В 1937 г. при кабинете министров Японии было создано специальное бюро, которое руководило всеми разведывательными органами, установив жесткую централизацию в работе секретных служб и усилив их подрывную деятельность против Советского Союза.
В это время Япония приступила к непосредственной подготовке войны против Советского Союза. Генеральным штабом при участии 2-го управления была издана т. н. «Красная книга», с которой знакомили только старший офицерский состав. Это был сборник материалов о Советских вооруженных силах, подобранных таким образом, чтобы дать японским офицерам наглядное представление о Красной армии. Ознакомление с ним способствовало подготовке японских офицеров к будущим боевым действиям против СССР. С этой же целью военным министерством Японии начал издаваться специальный военный журнал. Во всех офицерских училищах Японии был введен для обязательного изучения русский язык.
В конце тридцатых годов японцами стали провоцироваться вооруженные конфликты. Так, в июле 1938 г. возникли территориальные претензии между СССР и Японией в районе оз. Хасан, на границе с Маньчжурией. Дипломатические переговоры ни к чему не привели. У японцев появилась реальная возможность проверить свои войска в действии, которой они с успехом воспользовались. Войсковая операция у высоты Заозерной и сопки Безымянной показала слабость Красной армии. Конфликт был урегулирован дипломатическим путем.
По итогам этих боев Сталин отмечал, что боевая подготовка советских войск оказалась на недопустимо низком уровне. Оказалось, что Дальневосточный округ к войне готов не был. Советским правительством были сделаны необходимые выводы по улучшению боеготовности Красной армии.
Через год, 11 мая 1939 г., японские войска совершили вооруженное вторжение на территорию Монгольской Народной Республики в районе реки Халхин-Гол. К этому времени Советский Союз сумел перевооружить Дальневосточную армию, заменить командный состав, провести обучение личного состава. В соответствии с протоколом о взаимопомощи с Народной Монголией, который был к этому времени заключен, сумел оказать военную помощь союзнику. Войска Японии в течение четырех месяцев были разгромлены. Это поражение несколько охладило воинственный пыл японских милитаристов, вынудило их проводить более осторожную политику по отношению к СССР.
Подписание советско-германских соглашений в августе-сентябре 1939 г. повлекло за собой и урегулирование японо-советских отношений. Вне всякого сомнения, позиция Германии сыграла здесь определенную роль. 13 апреля 1941 г. министры иностранных дел Японии и СССР подписали в Москве пакт о нейтралитете сроком на пять лет. Естественно, и для СССР, и для Японии этот пакт не являлся сдерживающим фактором в планировавшейся войне. Для ввода войск можно было найти массу причин. Сейчас можно с уверенностью сказать, что если бы Германия захватила Москву, то Япония, вне всякого сомнения, ввела бы свои войска на территорию СССР.