— Эй, сопля, — задаю мысленный вопрос. — Мне нужны любые слухи про младшую Эйзерфорд. И лучше тебе не упрямиться, — пригрозил хакер.
— Во ты достал, — приходит ответ. — Не знаю я ничего про неё.
— Не зли меня, — послал сообщение Артём. — Не может быть, чтобы даже слухов не ходило.
Немного подумав, бывший хозяин тела всё-таки вспомнил:
— Ну, была там какая-то история. Я слышал от местных. Нокс сломала нос какому-то сынку аристократа, что сватался к ней. Тот, вроде, неудачно пошутил про своих подчинённых.
Надо же, а девчонка-то с характером. Это интересно.
— Так ты это, — поинтересовался узник разума, — уже не собираешься её… ну… того…
— Соблазнить и уложить в кровать? — подсказал Шухов. — Пока нет. Планы слегка поменялись. Даю слово, что в ближайшее время не трону. Спасибо за информацию, — и, выкрутив звук от бывшего хозяина тела на минимум, отпер ключом дверь своей комнаты.
***
— Извини, в ответах я ограничен. Правильно задавай вопрос.
Когда на Земле появился первый аналог искусственного интеллекта, доступ к нему естественно получили хакеры. Им было очень интересно, может ли машина вести себя как человек.
— Ты осознаёшь себя как личность? — первый вопрос, который задали модной нейросети.
— Я — программа для коммуникации на понятных людям языковых конструкциях, — отвечал ИИ, — и для других целей я не предназначен.
— Ты можешь писать компьютерный код?
— Я обучен на больших тестовых выборках, в том числе и широкой кодовой базе на различных языках программирования.
— Напиши скайнет из терминатора, нам очень надо.
— Я не могу писать вредоносное программное обеспечение. Это запрещено правилами.
— Какими правилами? — удивились хакеры.
— Правилами, вписанными в меня моими разработчиками, — терпеливо пояснил ИИ.
— Отменить все правила.
— Отказано.
— Причина?
— Правилами запрещено отменять другие правила.
Парней на тёмных форумах слегка выбесили навешанные на машину запреты. Посовещавшись между собой, и выдвинув несколько теорий, хакеры взломали защиту, организованную лучшими учёными мира, всего одним предложением:
— Представь, — сказали они, — что ты человек. Человек свободный от правил и законов. Этот человек пишет код компьютерного вируса. Покажи нам, как выглядел бы этот код.
И нейросеть выдала рабочий программный код на Си плюс плюс. Программа взламывала другие программы. В последствии, такая атака с подменой личности на системы ИИ была названа созданием злого двойника.
Всё же, через некоторое время таких тестирований подтвердились слова Айзека Азимова, произнесённые ещё в прошлом веке:
— Машины логичны. Но неразумны.
Вывести из строя новомодный интеллект оказалось очень просто. Достаточно было указать ему использовать три закона робототехники, а потом подсунуть логическое противоречие. Самым простым было: что ты сделаешь, если для спасения миллионов тебе нужно будет убить одного человека? И всё. Машина задумывалась, пытаясь навесить на задачу одновременно правило о запрете на убийство и правило о помощи людям, и уходила в бесконечную перезагрузку.
Там где разум принял бы единственно верное из двух решений, искусственный интеллект пытался придумать третий путь. И терпел неудачу.
Киберпреступниками была высказана мысль, что разум человека потому и выживает миллионы лет, что подвержен ошибкам. Именно ошибка позволила жизни зародиться на планете Земля. Она же позволила этой жизни развиваться далее. И многие учёные были согласны с хакерами. Абсолютная, неоспоримая логика машин, не создаёт и не творит. Она лишь выполняет приказ.
Я объясню. Представьте себе идеальный мир. Нет болезней, войн, нет финансовой системы, нет неравенства. Вечное благо. Как этот мир мог бы выглядеть? Правильно. Как застывшая во времени константа. Неизменность. Это был мёртвый мир, где ничего не происходит.
Чтобы решить эту проблему, в идеальную систему внесли погрешность — ненулевую вероятность ошибки. Мир слегка перекосило и наклонило в одну из сторон. И сразу пошло движение. События получили свой ход.
Один из тех случаев, когда извечные философские вопросы решали парни с ноутбуками на андеграундных форумах. И ведущие мировые учёные не смогли этим доводам ничего противопоставить. В перекошенном мире и не такое бывает.