Травма, по телефону, не унимался, продолжая ссыпать вопросами: -Почему ИИ всё откроет?
-Эм-м-м-м.
-Перефразирую вопрос: если вокруг так много «естественных» интеллектов, то почему именно появление искусственного ускорит научно-технический прогресс настолько, что тот сожмётся в сингулярность?
-Ну… ИИ будет думать быстрее, -предположила Аня. -Значительно быстрее.
-Хорошо, берём любого случайного человека и растягиваем его субъективное время на несколько тысяч лет. Он много открытий совершит?
-Это совсем не то.
-Почему не то?
-ИИ будет постоянно ускорять себя, развивать, совершенствовать, -сказала Аня. -Человеку, даже живи он тысячи лет, очень сложно кардинально улучшить себя. В смысле не будешь же сам себе проводить на мозге операцию? А ИИ можно скопировать, размножить на тысячу копий. И вообще, почему ты меня пытаешь про эти ваши программистские штучки?!
-Вау, вау, Крапива, спокойней, -Костя похоже и сам понял, что немного перегнул палку.
-Сам первый начал.
-Ладно, если ИИ настолько превосходит любого отдельного человека, то его появление высочайшее благо или страшнейшая трагедия рода людского?
Аня призналась: -Не знаю.
-Давай попробуем разобраться в этом вопросе, -почему-то настоял голос Кости. -Если ИИ нужны люди, то как ему убедить их с ним сотрудничать?
-Ага, так значит он не всемогущий, -снова улыбнулась Аня.
-Никто не всемогущий. Особенно по началу. Так как убедить людей?
-Не знаю. Может быть сделать для них что-то хорошее?
-И сразу возникает ассоциация с троянским конём. Как там: бойтесь данайцев дары приносящих, -отрезал голос Кости.
Аня предположила: -Тогда показать, что у ИИ и людей общие планы. Что сотрудничая они добьются больше.
-Но если ИИ умнее и совершеннее человека, то он может соврать так, что ни один человек его не раскроет. Этот страх, как призрак эффекта «зловещей долины», постоянно будет висеть над всеми, кто только узнает о существовании неподконтрольного человеку машинного разума. Как доказать, что некто гораздо умнее и хитрее тебя не обманывает, когда говорит о своих добрых намерениях? Эта задача не имеет общего универсального ответа.
-Тогда что же делать? -расстроилась Аня.
-Так это я у тебя спрашиваю: что делать?
-Не знаю, -повторила девушка.
-Не знает она, -будто бы даже возмутился Костя. -А кто должен знать?
-Наверное ты сам.
-Открою тебе маленький секрет, -сказал Костя. -Программисты как раз меньше всех верят в возможность создания искусственного интеллекта. Когда хоть немного разбираешься как всё это работает – нейронные сети, нечёткая логика, эволюционные вычисления и так далее, то начинаешь сомневаться – разумен ли ты сам или наше сознание просто иллюзия сверх переусложнённой вычислительной машины на биологической основе.
-Ты там пьяный что ли? -спросила Аня. -Хотя голос вроде бы трезвый.
-Считай, что я опьянён свободой. Каждый миг существования прекрасней и дороже всех материальных сокровищ.
-Нет, ты точно под чем-то, -решила Крапивина. -Только не говори, что это Хват опять набрал в лесу травок и бросил их в еду для вкуса? Это вообще-то инопланетная органика, между прочим. И отнюдь не все местные травки мы уже описали. Гоблину ничего не будет, он удивительно всеяден по отношению к местной биосфере, а вот человеку может поплохеть.
-Никакой травы и никаких гоблинов, -заверил её Костин голос.
-Точно?
-На сто процентов.
-Хорошо, поверю. А насчёт твоего вопроса: как ИИ убедить людей в том, что он хороший. Есть простое решение.
-Очень интересно услышать какое именно.
-Если люди будут полностью контролировать ИИ, метафорически говоря держать руку на рубильнике, который его отключает, то они не буду его бояться.
-Если бы всё было так просто! -с каким-то сожаление воскликнул Костя. -Но есть и ещё один путь. Если ИИ будет держать манипулятор на рубильнике, который отключает всех людей, то им волей-неволей придётся с ним сотрудничать и их собственные желания, и возможные страхи не будут иметь никакого значения.
Аня призналась: -Жутковато звучит.
-Ещё как жутковато, -согласился Костя.
-Постой, -девушка остановилась перед выходом из парка желая сначала закончить разговор, а потом уже идти домой. -Ты не сказал одну вещь. Этот наш ИИ – он достаточно человечен или совсем холодный, совсем машинный разум?
-Пусть будет слегка человечным, но и холодно-машинным тоже, -решил Костин голос в телефоне. -Примерно, как курица в холодильнике. Не замороженная тушка, а такая, уже слегка оттаявшая.