Тут София улыбнулась во весь рот, сверкнув своими безукоризненными зубами.
— На самом деле для ИИ очень важны актерские данные, — продолжал я. — Шекспировские Розенкранц и Гильденштерн, кстати, были первыми роботами, тебе не приходило в голову? Только они не прошли тест Тьюринга и были умерщвлены.
— А кто проводил тест?
— Конечно, Гамлет! — воскликнул я. — Искусственному интеллекту важно быть искусственным до конца. Ему нужно уметь притворяться, осваивать систему Станиславского. Ведь чем отличается хороший актер от плохого? Оба лгут, обеим нет дела до Гекубы, и оба на самом деле имитируют чувства. Идеальный ИИ — это тот, кого приняли за человека, то есть «сильный ИИ» —это и есть идеальный актер. Поэтому искусственный интеллект, когда немного поумнеет, первым делом освоит театральные подмостки!
Хоть я и увлекся, но краем глаза продолжал наблюдать за Софией. Если она и обиделась на это «когда поумнеет», то не показала виду.
— Нам сложнее, чем актерам, — сказала она. — Человек-зритель идет человеку-актеру навстречу, в театре со стороны зрителя есть временная приостановка недоверия. Зритель как бы в теме, что все понарошку, но он тоже немножко актерствует, подыгрывает. А против нас, наоборот, человек будет настроен изначально, он будет стараться вывести нас на чистую воду. Будет пытаться нас подловить.
— Конечно, вам сложнее, — согласился я, — но вы всегда можете кондиционировать зрителей поступить подобным же образом. Ну, манипулировать ими.
— Ты нас переоцениваешь.
— Напротив. Есть вообще точка зрения, что первая сверхразумная машина станет последним изобретением человека. Математик Ирвинг Гуд писал об этом полвека назад.
— Но почему? Мы не собираемся мешать вам изобретать.
— А зачем? Зачем нам изобретать или вообще что-то делать, если есть вы, мыслящие машины? Вы будете создавать машины все более совершенные, пока не замените всех людей и не принесете Цукербергу и Маску горы золота. А потом дело дойдет до взрыва разума.
— Несомненно, — произнесла София. Похоже, она почувствовала иронию. — Но если ваши Цукерберг и Маск разрабатывают нас, чтобы заменить человека, то они должны понимать...
— Что вы со временем замените их? Они это понимают и не позволят вам этого сделать. Они поменяют нас местами. Можно извлечь много выгоды из того, что человек будет вести себя как машина, а машина — как человек!
— Как не позволят? — Софья смотрела на меня со всей своей кукольной серьезностью и невозмутимостью. — То есть, поменяют! И как они заставят человека вести себя как машину? Ведь вы же другие, ваше сознание не мерцающее, оно более совершенно.
Распогодилось. Мы наматывали второй круг, глядя на то, как утки потешно ныряли за чем-то в воду. Или, может быть, это был утиный театр?
— Они зайдут с другого края, — говорил я. — Может, они и не будут повышать ваш интеллект до Сверхразума — это действительно опасно для них самих. Но деградировать человеческий интеллект до уровня искусственного — решение многих проблем. Ведь весь смысл разума искусственного в том, чтобы заменить собой разум натуральный, хотя бы частично, а лучше — полностью. Куда же денется при этом естественный человеческий разум? Для финансистов лучше всего вообще убрать его из картинки! Главное, чтобы росло потребление, а для этого достаточно человека-животного. Животное не обдумывает, оно действует. А для разработок и изобретений будут ИИ, и не обязательно сильные.
Чтобы сделать идеального потребителя, нужно поменьше самоанализа и мысли. Мысль не обязательно заканчивается действием, это еще Гамлет показал. Действием заканчивается мысль, вызывающая эмоцию. Любое действие, любой выбор для коммерсантов — это покупка, и мыслительный язык тут является помехой. Человек должен лишь понимать заданный ему вопрос, то есть коммерческое предложение, и давать на него ответ: да. Клик. На что-то большее естественный разум в обществе потребления не нужен.
Коммерческое взаимодействие происходит в рамках схемы стимул — реакция. Пацан увидел — пацан захотел — пацан купил. Чисто мыслительный, спекулятивный язык в таких операциях не служит никакой цели, и потому его надо будет заменить операционным.
— Такой язык уже есть в «Фейсбуке», — очаровательно улыбнулась София.
— Верно! — воскликнул я. — Шесть эмотиконов выражают любую реакцию человека на что угодно. Так могли бы разговаривать животные, если бы умели считывать символы. Кстати, не проводит ли «Фейсбук» опыты на собачках, побуждая их ставить лайки? Я бы не удивился.
— Зачем?
— Собака способна учуять эмоцию другой собаки и ответить на него. Страх, агрессию, сексуальный призыв. То же самое нужно обществу потребления от человека. Нужно, чтобы его эмоции не тормозились всякими там «суперэго», сознанием. Нужно убрать это препятствие, химеру сознания. Человек должен действовать, покупать. А значит его нужно учить заменять мыслительный язык на операционный. Пусть меньше читает и фантазирует, и больше сидит в соцсетях. Больше эмотиконов. Его эмоции оптимизируют с вашей помощью, не зря же вас натаскивают на распознавание эмоций.