– Объясни поподробней, – попросил я. Услышанное не укладывалось в моей голове, если он был прав, то мир словно переворачивался с ног на голову и мои худшие опасения, которые я упрямо не впускал в область моего мозга, отвечавшие за правду, подтверждались.
– Понимаешь ли, они живут в равновесии. В своём мире. В мире, который состоит из юриспруденции для юристов, в мире технологий и символов для инженеров. Когда-то ты был одним из тестеров роботов, сейчас я вспомнил. Вы ставили им юридические ситуации, из которых они не находили выхода. Когда нашли – мы поняли, что создали идеального робота-юриста. Но жизненная среда людей намного сложнее понятных и логичных законодательных актов. Если робот столкнётся со стечением определённых жизненных факторов и обстоятельств, на которые у него не запрограммирована или ещё не выработана в процессе самообучения по аналогии и логики реакция, согласно человеческим психоданным, его система не выдержит нагрузки, как было во времена, когда вы их тестировали, и он может довести себя до самоуничтожения.
– В каком смысле самоуничтожения?
– В прямом. На создание идеального интеллекта для машины, которая бы смогла абсолютно уживаться с людьми могут уйти года. Десятилетия. Но на создание им настоящих чувств – целая бесконечность. Люди рождаются с разным набором предрасположенностей к тем или иным чувствам. Именно благодаря чувствам люди не предсказуемы. И когда мы пытаемся поиграть в Бога и привить чувства роботам, мы потерпим неудачу. И наша неудача делает роботов непредсказуемыми – они не знают, какую модель поведения выбрать, в них не заложена информация как человек поступил бы, доверяя своим эмоциям. Они могут быть даже опасными в некоторых ситуациях, правда, я не могу с уверенностью сказать в каких. Наверное, в тех, из которых не могут найти выхода. Тогда их действия не поддаются никаким прогнозам. Эдгар не смог найти выход из ситуации, когда я рассказал ему о своём открытии, а затем пошутил, что он может быть одним из роботов. Его система не нашла выход. Включилась программа самозащиты, он воспринял информацию как угрозу своей системе, следовательно, и меня воспринял как угрозу, потому напал на меня.
– Как я смогу убедиться, что он робот?
– Определить только можно будет в сфере, касающейся его чувств. Мы запрограммировали в интеллект набор стандартных ситуаций, которые он якобы пережил. Попытайся расспросить его об этом, а, получив ответы, узнай – почему именно так.
– Какие вопросы? – спросил я. Я всё ещё ему не верил, но попытаться проверить стоило.
– Первое – о религии. Мы не стали делать их верующими. Второе – о любви. У него отсутствует близкий человек, которого он любил бы. Женщины нет, и объясняет он это будто бы неудачным прошлым опытом, после которого разочаровался в отношениях. Третье – родственные связи. С родственниками он не общается, либо их уже нет в живых. Четвертое – досуг. Он не знает ничего, кроме своей работы, он не желает развлекаться, ему это неинтересно. Пятое – счастье. Он не знает, что это такое, но говорит, что его работа делает его счастливым. И шестое – это событие. В нашем случае – год назад Эдгара перевели на другое рабочее место, и он думает, что из-за работы теперь ограничено его общение с бывшими друзьями, на которых у него не стало времени – всё это для того, чтобы они ничего не заподозрили, чтобы не заметили никаких изменений в нём, ведь роботы не создаются как новые личности, корпорация проводит замену реальных людей. Можешь задать ещё другие вопросы насчёт чувств, это те, которые мне сразу пришли в голову. Но будь крайне осторожным выпытывая детали и объяснения. Не найдя их в памяти, он сам не будет понимать почему они отсутствуют, у него произойдёт перегруз, который сделает его опасным для тебя.