В Канарисе в это время происходили перемены. Афера с Тухачевским — это одно из многих событий, которые дают понять, что маленькой войной нельзя справиться с самыми дурными пороками системы, так как эти пороки — лишь симптом того, что режим Гитлера является насквозь преступным и, таким образом, нельзя надеяться на очищение путем отсечения плохих элементов. Чем дольше режим будет оставаться у власти, тем больше он угрожает деморализовать имеющиеся еще порядочные элементы и постепенно разложить весь народ. Режим нужно устранить, если хочешь предотвратить тяжелейший ущерб для всего народа. Никто не знает лучше Канариса — благодаря поступающей к нему со многих сторон информации о становящейся все более коварной организации шпионской и террористической системы Гитлера, — что свергнуть национал-социалистическое правительство нормальными политическими средствами нельзя. Таким образом, спасение может принести только вооруженное восстание, а оно может быть осуществлено только вермахтом, в первую очередь, армией, так как воздушные силы слишком близко стоят к режиму благодаря их шефу Герингу, военно-морской флот численно слишком слаб, слишком отдален от центров правительства и, кроме того, его использование осложняется из-за еще слишком свежих воспоминаний о бунте 1918 года.
Канарис относился к немногим морским офицерам, которые достаточно ясно видели различия между тем временем и сегодняшним днем, так что на него не могли повлиять воспоминания. Но он достаточно хорошо знает также и людей во главе вооруженных сил, чтобы понимать, что не стоит ждать от них серьезного сопротивления Гитлеру.
Он сознает трудности лучше, чем большинство тех, кто в это время замышляет восстание против режима. Вооруженные силы уже в значительной мере больны национал-социализмом. Армия более не свободна от политической инфекции. Официальная версия, что вооруженные силы являются единственным оруженосцем и, наряду с партией, являются равноправным оплотом государства, давно уже стала фикцией. Но факт, что Гиммлер создал втихомолку свои подразделения, был в тот момент еще не самой страшной угрозой независимости армии. В результате введения всеобщей воинской обязанности характер армии коренным образом изменился. Прежнее строение созданной генералом фон Зеектом профессиональной армии подорвано, сотни тысяч молодых людей, которые прошли через гитлерюгенд и военизированную трудовую повинность, введенную национал-социалистами для их целей, принесли в казарму понятие политических, а точнее, политизированных солдат. Еще серьезней было то, что вместе со многими тысячами офицеров, пришедших на службу, наряду с порядочными и ценными элементами проникло в младший и средний офицерский состав большое число убежденных национал-социалистов и, что еще хуже, националистов-карьеристов. Но самым сомнительным кажется Канарису, что и в высшем руководстве намечаются явные признаки размывания непреходящих понятий чести и долга. Быстрый рост численности армии и вытекающий отсюда скачкообразный процесс повышения в должности честолюбивых карьеристов, в то время как компетентные и порядочные люди оттесняются на задний план. Гитлер сознательно стимулирует это развитие посредством дотаций послушным генералам. Поэтому Канарис решается не из личного честолюбия на осуществление вооруженного переворота. Несмотря на все сложности и сомнения он не видит другого пути.
Но здесь одновременно и ответ на вопрос, который в это время, то есть в 1937 году, в первый раз с полной серьезностью встает перед Канарисом, а именно: сможет ли он согласовать со своей совестью дальнейшую службу режиму, не будет ли более честно и в конце концов целесообразнее отказаться от дальнейшего сотрудничества с Гитлером и уйти из вооруженных сил. Это тот же вопрос, который задают себе в эти годы многие офицеры и чиновники, занимавшие высокое положение в Третьем рейхе. Многие просто не принимают это близко к сердцу. Другие с тяжелым сердцем ищут решения. Для Канариса в течение семи лет, пока судьба его не настигла, эта проблема никогда не переставала быть актуальной. Это мучает его с короткими перерывами дни и ночи, это мешает его внутреннему равновесию, это не дает ему буквально сидеть на месте и гонит во все новые служебные командировки, от места к месту, из одной страны в другую. Сейчас, в 1937 году, было бы проще уйти. Позже, во время войны, добровольно уйти будет гораздо сложнее, хотя ловкий человек нашел бы, пожалуй, выход, если бы ему пришло в голову решение уйти со службы. Канарис остался. Две причины были для него наиболее важными.