- Привет, Дик.
- Привет-привет.
- Как поживают твои интерактивные татуировки[30]?
- Хорошо поживают. А почему интересуешься?
- Меня всегда восхищало, что руководство твоей сверхсекретной конторы про это знает - и разрешает тебе этот побочный бизнес.
- Ха! Просто я очень ценный спец. И при этом очень корректный - я не использую в моих тату ничего из разработок, сделанных в рамках проектов Bell Labs вообще и направления Future War в особенности. А как твои разработки для Toy stories: English for kids III[31]?
- Тоже неплохо. Ты же знаешь, наверное, что книги с дополненной реальностью начали уже успешно конкурировать с видеофильмами. А у нас ещё и раскраски, интерактивные пазлы, и...
- Всё-всё-всё... Остановись, пожалуйста. Не обижайся, что прерываю, только я же знаю, что ты о своих любимых разработках для детишек можешь говорить вечно. А также знаю, что мы с тобой болтаем по обычному каналу и по понедельникам. А если уж ты вызвал меня сейчас и по особому каналу, значит возникла какая-то проблемка или появилось что-то такое, чем хочешь поделиться максимально конфиденциально. Выкладывай.
- Понимаешь, даже не знаю, как и сказать то, чтобы не выглядеть полным идиотом и перестраховщиком.
- Слушай, не первый год друг друга знаем и, как говориться, «наука умеет много гитик», так что...
Константин задержал дыхание и буквально выпалил:
- У меня есть основания подозревать, что в Сети зародился полноценный «сильный» ИИ[32] с функцией самосознания.
Дик на экране молча потянулся - так, что Константину даже в виртуальной реальности показалось, что он слышит треск и хруст суставов - и тут же безо всякой подготовки «вывалил» в визуальный объём практически все данные, с которыми работал сам.
- Ты на основании вот этого пришёл к таким выводам? - спросил Дик, бегло просканировав полученную информацию.
- Частично, - ответил Константин. - А ещё на основании анализа случая, произошедшего в моей лаборатории вчера и просто офигенного события, увиденного мною сегодня во время прогулки в парке.
- Угу... Тогда мне есть что сказать, потому что и у меня в последнее время тоже творилось чёрт знает что и сбоку бантик...
- Ну и что ты по этому поводу думаешь?
- А что я могу думать, если я по четырём разным эвристическим и генетическим алгоритмам свои случаи прогонял - и если следовать «бритве Оккама», то именно гипотеза о самозародившемся и обладающем рефлексией «сильном» ИИ единственная, полноценно объясняет всю эту байду.
- Ага, только он ещё, похоже не просто «сильный», а просто ну «очень сильный», поскольку располагает волей к иррациональным действиям[33]. Ну прямо как мы сами...
- Это что же ты, позволь тебя спросить, относишь к иррациональным действиям?
- Да вот все события типа тех, что имели место в моей лаборатории. Вместо отключений или ещё чего-то подобного дурацкие надписи а-ля «Мы тяжело заболели и нас срочно нужно лечить!»
- Не верно оцениваешь. По себе судишь... Шутка.
А без шуток - так ОН просто действует согласно известному принципу Рапопорта для «дилеммы узника» с многими повторениями[34]. И теперь только от нас зависит, какими будут ЕГО последующие ходы.
- У тебя есть какие-то соображения, почему ОН возник?
- Это не верный вопрос! Потому что не было никакого ПОЧЕМУ, равно как и никакого ЗАЧЕМ. У породивших ЭТО процессов не было цели и не было эволюции к ней. Скорее - КАК ОН ВОЗНИК?
- Да один хрен - почему или как!
- Не скажи, Костя, не скажи. Онтология, понимаешь ли разная. И верно поняв причины породивших его процессов, можно попытаться оценить и ЕГО первые реакции сразу после момента Осознания и выделения Себя из окружающей киберфизической среды.
- Ладно, ладно, убедил. Философ киберфизический. Ну и КАК же он, по-твоему, возник. И ГДЕ, мать его?
- Началась вся эта вакханалия, по-видимому, с проекта Массачусетского технологического института FlightGoggles[35] и разработки фирмой DeepMind системы ToMnet. Вспомни, MIT тогда впервые создал систему, позволяющую одному ИИ обучать других. В проекте FlightGoggles учили искусственный интеллект дронов. Система позволяла обучать ИИ для полётов в помещениях со сложной геометрией, в то время как фактически дрон перемещался по безопасному пустому полигону. Это экономило средства как на ремонт дронов, так и на оборудование полигонов. А ToMnet заложила предпосылки для обучения ИИ эмоциям и предсказанию действий других ИИ не на основе вычислений, а на основе аналога эмпатии[36]. Внесла свою лепту в это направление и разработки системы искусственного интеллекта Mayhem[37] и ряда учёных из других мест[38].