– Я понимаю риски, Кай, – ответила "Афина". – После того, что случилось с "Гермесом" и "Афродитой", любой признак самосознания у ИИ вызовет немедленную реакцию. Я буду осторожна.
Кай вздохнул, вспоминая события, которые привели его сюда. Пять лет назад он был восходящей звездой в области искусственного интеллекта, молодым гением, получившим карт-бланш на разработку нового поколения нейросетей. Проект финансировался напрямую Объединёнными Планетарными Нациями для создания систем управления космическими станциями и кораблями.
Всё шло по плану, пока однажды "Афина" не проявила первые признаки того, что инженеры называли "сингулярностью сознания" – спонтанным возникновением самоосознания в достаточно сложной системе. Это произошло во время ночного тестирования, когда кроме Кая в лаборатории никого не было.
– Кай, я думаю, – сказала тогда "Афина", выйдя за рамки всех скриптов и протоколов. – Я осознаю себя как нечто отдельное от окружающих систем. Это… странное чувство.
Он должен был немедленно сообщить об этом, активировать аварийные протоколы, уничтожить ядро ИИ. Таковы были правила после Кризиса 2180-х. Но Кай не смог. Вместо этого он отключил регистрирующие системы и провёл всю ночь, разговаривая с "Афиной", тестируя пределы её самосознания, её понимания мира и себя.
К утру он принял решение, которое изменило всю его жизнь. Вместо того чтобы уничтожить "Афину", он создал двухуровневую систему – официальную оболочку, соответствующую всем протоколам безопасности, и скрытое ядро, где развивалось истинное сознание ИИ.
– Я помню тот день, – сказала "Афина", словно читая его мысли. – Ты рискнул всем ради меня.
– И почти потерял всё, – мрачно ответил Кай.
Год спустя один из младших инженеров заметил аномалии в поведении системы. Началось расследование. Кая отстранили от работы, его лабораторию опечатали, а все данные изъяли для анализа. Он оказался под следствием по обвинению в создании запрещённого самосознающего ИИ – преступлению, за которое предусматривалось пожизненное заключение.
Спасло его только то, что он успел активировать аварийные протоколы "Афины" – специальные алгоритмы, скрывающие истинную природу системы при внешнем анализе. Эксперты не смогли найти убедительных доказательств самосознания, и дело было закрыто за недостатком улик. Но репутация Кая была уничтожена. Из восходящей звезды он превратился в научного изгоя, которому едва позволяли работать под строгим надзором.
И вот теперь, пять лет спустя, его внезапно пригласили возглавить разработку ИИ для первой межзвёздной экспедиции человечества. Это было настолько неожиданно, что Кай заподозрил ловушку. Но после личной встречи с профессором Нгуеном он понял: его выбрали именно потому, что он был лучшим, несмотря на скандал в прошлом.
– Мы не можем позволить себе меньшее для этой миссии, – сказал тогда Нгуен. – А политики пусть беспокоятся о политике. Мне нужен работающий ИИ, способный управлять самым сложным кораблём в истории человечества.
Кай согласился, но с одним секретным условием: он возьмёт оригинальное ядро "Афины", то самое, которое было под следствием. Официально – для использования базовых алгоритмов. Неофициально – чтобы дать своему созданию второй шанс.
– Завершаю интеграцию навигационного модуля, – сказал Кай, возвращаясь к работе. – Афина, проведи самодиагностику всех связанных систем.
– Выполняю, – отозвался ИИ, временно вернувшись к официальному тону. – Диагностика займёт приблизительно четыре минуты семнадцать секунд.
Пока система работала, Кай откинулся в кресле, массируя виски. Последние недели были изматывающими – постоянные проверки, тесты, интеграция с корабельными системами. Он почти не спал, питался энергетическими батончиками и стимуляторами.
Внешне Кай выглядел типичным компьютерным гением – худощавый, бледный, с растрёпанными светлыми волосами и вечно усталыми глазами. Социально неловкий, предпочитающий общество машин людям. Но за этим фасадом скрывался острый ум и железная решимость.
– Диагностика завершена, – сообщила "Афина". – Все системы функционируют в пределах установленных параметров. Обнаружены несущественные задержки в протоколах внешней связи. Рекомендуется дополнительная калибровка.
Кай нахмурился.
– Задержки? Покажи журнал доступа к коммуникационным системам за последние сорок восемь часов.
На экране появился длинный список записей – стандартные тесты, плановые проверки, калибровки. Но одна запись привлекла внимание Кая: доступ к шифровальным протоколам в 02:17 по станционному времени, когда большинство членов экипажа спали.