Через двадцать минут стало ясно, что он был прав. Спутник принял солнечное отражение от облаков на большой высоте за тепло работающих двигателей ракет. Никакого удара не было. Был сбой техники, который мог запустить ответный удар по Америке, на который Америка должна была ответить полным своим арсеналом. К утру 26 сентября в Северном полушарии могло не остаться живых.
Петров не получил награды. Его не повысили. Через год его перевели на другую работу. Документы об этом эпизоде были засекречены и стали известны только в девяностые. Сам Петров до конца жизни говорил, что не считает себя героем — он просто не доложил по регламенту, потому что не доверял системе.
В этом эпизоде нужно увидеть одну вещь, без которой эта глава бессмысленна. Между правилами и решением всегда стоит один человек. Кнопка не нажимается системой. Её нажимает или не нажимает палец. И этот палец принадлежит человеку, у которого в этот вечер может болеть голова, может быть плохое настроение, может быть только что закончилась смена, может быть на руках кружка с остывшим чаем. В одну ночь сорок лет назад мир висел на том, что у Петрова в эту ночь голова была ясная, а инструкциям он не верил.
В ближайшие три–пять лет такой же палец окажется на такой же кнопке снова. На этот раз триггер другой. Не сбой спутника, не провокация, не ошибка. На этот раз триггер — один доклад, который ляжет на стол одного из трёх стареющих лидеров и в котором будет написано, что соседняя страна получила то, что называется AGI[75].
Эта глава — о том, что должно сложиться, чтобы кнопка оказалась нажата. И о том, почему в этот раз она не нажмётся — но не потому, что нажать невозможно.
Сначала о триггере, потому что без правильного понимания триггера весь разговор уходит в сторону.
AGI — это не следующая версия чат-бота. Это не «лучше пишет статьи», «лучше переводит», «лучше отвечает на вопросы». Это качественный скачок, после которого машина становится способна самостоятельно проектировать новые технологии — в том числе и оружие. Новое биологическое оружие, на принципах, которых сегодня нет. Новое химическое. Новое физическое — основанное на эффектах, которые человеческая наука пока не понимает или понимает неглубоко, и которые AGI находит, потому что у него вычислительная мощность, превышающая совокупный мозг человечества за всю его историю. Нанооружие, которое разносится по воздуху и поражает только конкретные генотипы. Кибероружие, которое за минуты выводит из строя инфраструктуру континента. Автономные системы, которые сами проектируют, сами строят, сами применяют.
AGI плюс автоматизированное производство сжимает цикл от концепции до серийного оружия с десятилетий до недель. У страны, получившей AGI первой, через несколько месяцев — не лет — оказывается оружейное преимущество, которое нельзя догнать. Не «преимущество в торговле». Не «лидерство в индустрии». Военное превосходство абсолютного порядка — такое же, как у американцев в августе 1945-го, только умноженное на десять. С той разницей, что в августе 1945-го превосходство было одним типом оружия одной конструкции. AGI даёт превосходство по всем типам, во всех конструкциях, постоянно обновляющееся.
Не каждый технологический рывок становится триггером для ядерной кнопки. Холодный синтез, например, в нашем сценарии тоже может прийти в одной из этих стран первым. Это была бы технология бесконечной дешёвой энергии, и она тоже изменила бы мир. Но не за месяцы. За десятилетия. Энергия даёт экономический дисбаланс, не военный. Если у соседа дешёвое электричество, ты с ним торгуешь, шпионишь, в крайнем случае воруешь технологию. Но не наносишь по нему ядерный удар. AGI — другое. AGI создаёт военное преимущество прямо со дня появления.
Поэтому в этой главе триггер один. AGI.
Теперь о том, чему учит история.
С августа 1945-го по август 1949-го у Соединённых Штатов была монополия на ядерное оружие. С августа 1949-го, когда СССР провёл первое испытание, до примерно 1953 года американский арсенал многократно превосходил советский. Лето 1949-го было самым узким окном — у СССР уже было одно испытанное устройство, но не было ни боеспособного арсенала, ни средств доставки до американской территории. В этот момент Соединённые Штаты могли нанести превентивный удар по советским городам и промышленности, и СССР не смог бы ответить.
Они этого не сделали.
В американском военном истеблишменте того времени были люди, которые такой план разрабатывали. Был генерал Кёртис ЛеМэй[76], который считал, что СССР надо ударить, пока он слаб. Были полусекретные сценарии — план «Дропшот», план «Чариотир» — в которых рассчитывалось количество атомных бомб, необходимых для разрушения советской промышленности. Но политическое решение нанести удар никогда не было принято. Окно 1949-го прошло без выстрела. Окно пятидесятых — тоже. К шестидесятым у СССР уже был свой арсенал, и окно закрылось навсегда.
75
AGI (Artificial General Intelligence) — гипотетический следующий этап в развитии искусственного интеллекта: система, которая сможет мыслить, учиться и решать самые разные интеллектуальные задачи так же гибко, как человек. Сегодняшние нейросети — это
76
Кёртис Эмерсон Лемей (1906–1990) — американский генерал, начальник штаба ВВС США (1961–1965). В 1948–1957 годах командовал Стратегическими силами ВВС США. —