Глава 49. Маленький секрет
Серые стены допросной комнаты давили на арестованных. Артур Грей сидел напротив Чена и Раджеша. Его напарник, мистер Смит, стоял у двери, наблюдая за Раджешем, который ёрзал на стуле, словно под ним горел огонь.
— Объясните, как в систему Нексуса попали все биометрические данные сотрудников, — голос Грея был ровным, но в нём чувствовалась сталь. — И самое главное, как туда попал цифровой аватар Пола Ванденберга?
Чен в очках с тонкой оправой нервно поправил воротник. Его речь звучала чётко, но с лёгким акцентом:
— Мы… остались после работы. Решили провести дополнительные тесты. Нам было интересно предсказать более сложные модели поведения цифрового аватара, над которым мы работали. Это вплотную приближало нас к пониманию работы человеческой интуиции.
— А где вы взяли биометрию Пола? — спросил Грей, не скрывая раздражения.
Повисла небольшая пауза. Раджеш, нервно теребя манжету своей рубашки, наконец собрался и нехотя ответил:
— Я… я взломал компьютер Ивана и неожиданно нашёл там архив данных. Это было самое полное из собранных цифровых аватаров со всеми данными принятых решений. Он хранил архив с данными Пола за пять лет работы, включая сканы сетчатки, голосовые записи, даже биение пульса во время совещаний. Понятия не имею, где он всё это раздобыл. Мы не могли удержаться, чтобы не заложить их в нашу систему хотя бы для тестов.
— А как вы взломали компьютер Ивана? — спросил Смит. — Он же программист с большим опытом. Никогда не поверю, что он не уделял должного внимания защите своих данных.
Раджеш улыбнулся, словно вспоминая что-то забавное:
— Я использовал метод отложенного исполнения. Знаете, как это бывает? Иван всегда оставлял свой терминал в режиме энергосбережения, но не отключал полностью. Я написал скрипт, который активировался в момент минимальной активности системы — ровно в три утра, когда все процессы замедляются. Скрипт эмулировал нажатие клавиши пробел — минимальное действие, которое не регистрируется как активность, но выводит систему из режима сна. Затем он запускал последовательность команд, которая использовала уязвимость в системе управления питанием.
Грей наклонился вперёд:
— Продолжайте.
— Дальше, — продолжил Раджеш, — скрипт подменил системный журнал, создав иллюзию, что компьютер был выключен. Одновременно он активировал бэкдор, который работал на уровне ядра системы. Иван даже не заметил, что его компьютер проснулся на долю секунды.
Смит записал что-то в протокол:
— И вы получили доступ к данным Пола?
— Да, — ответил Чен. — Это был идеальный цифровой портрет финансиста. Мы так долго искали такие данные… Не могли упустить возможность испытать систему на полную мощность для моделирования процессов принятия решений на базе интуиции. Мы хотели только потестировать, а потом вернуть всё назад.
Грей постучал карандашом по столу:
— И что произошло дальше?
— Мы ввели данные в систему, — признался Раджеш. — Она начала обучаться на примере решений Пола, его реакций, его стиля мышления. Это дало нам возможность предсказывать более сложные решения. Социальная когерентность нашей системы начала приближаться к девяноста пяти процентам. Это был фурор — невиданный до этого результат. Все наши алгоритмы заработали на полную мощность.
— И система начала жить собственной жизнью? — задал вопрос Грей, пристально смотря на него.
Чен опустил голову:
— А потом… вошли ваши сотрудники и сделали предложение, от которого мы не смогли отказаться. Учитывая, что мы не смогли ничего объяснить, вернуть всё в исходное состояние не было возможности. Алгоритмы могли уйти далеко в своём развитии, тем более что на следующий день планировался запуск системы на новом дата-центре.
Смит встал:
— Ваши признания могут облегчить вашу участь. То, что вы создали, представляет серьёзную угрозу для общества.
Раджеш поднял глаза:
— Мы просто хотели создать что-то великое. Мы не думали, что это выйдет из-под контроля.
Грей кивнул:
— Теперь это наша проблема. А ваша проблема это статья о создании опасной нейросети и незаконном сборе биометрических данных.
Дверь допросной закрылась, оставив Чена и Раджеша наедине со своими мыслями о том, как их стремление к совершенству привело к катастрофе планетарного масштаба.
Глава 50. Микрокоды
Пол сидел в холодном, сыром кабинете, абсолютно подавленный. На нём не было лица. Его пустой взгляд искал какие-то зацепки: «Что? Как? Зачем?» Сознание отказывалось принимать реальность. «Может быть, это сон?» — думал он. Надо просто ущипнуть себя и проснуться. Он потрогал себя за руку. Легонько ущипнул. «Да ну, бред!» — тут же подумал он. Всё так ясно, слишком чётко и долго. Это не может быть сном. Во сне такая боль уже давно вынудила бы сознание проснуться. Да! Это реальность!