А.: И ты думаешь, что это действительно желательное состояние для нашего общества? Не думаешь о времени, когда, может, и тебя сменит искусственный интеллект? К чему мы придем в конечном счете? К тому, что жизнью каждого отдельного человека и мирового человеческого сообщества будет распоряжаться компьютер? Для чего тогда вообще нужен человек? Он будет приемником благ, но не их создателем.
Э.: Я верю в разумный баланс. Пока человечество недостаточно использует возможности искусственного интеллекта, и моя задача – это исправить. А что будет потом, когда участие искусственного интеллекта в жизни человека станет чрезмерным, я не знаю. Но я уверен, что ситуация отрегулируется благодаря людям будущего.
А.: Ты воспользовался логикой изобретателей атомной бомбы. Нет сомнений, что тобой правит жажда показать свое превосходство тем, что ты находишься в авангарде технического прогресса. А последствия ты предлагаешь расхлебывать следующим поколениям. Но сам ты делаешь что‑то, чтобы люди следующих поколений оказались достаточны сознательными для решения проблем, которые создаст засилье искусственного интеллекта?
Э.: Я верю в благоразумие будущих людей, верю в прогресс. Ты же типичный скептик. Думается, пора мне оставить тебя наедине с твоими сомнениями, а я должен вернуться в большой мир, дальше разворачивать свои идеи. Прощай, творец, застывший во времени и пространстве.
Разговор с Эдвардом произвел на Андрея большее впечатление, чем любой из разговоров, что ему приводилось вести, находясь в этой комнате. Он словно столкнулся с беспощадно-расчетливым, мрачным, неприятельским обликом человеческого будущего.
15
На одном из последних полотен Андрея, что пока не успели унести из его комнаты, был изображен человек, которого он назвал героем безупречного будущего. В его взгляде было чистое прозрение, лицо передавало несгибаемую уверенность, поза обозначала готовность ринуться вперед, к громким свершениям. Он был одет в подобие экзоскелета, который изобиловал всевозможными панелями управления и замысловатыми комбинациями индикаторов. Фоном изображению светлого человека новых времен служила масштабная футуристическая стройка под распахнутым космосу небом, которое бороздило множество фантастических летательных аппаратов. Андрей понимал, что его персонаж абсолютно мифологичен, что переданная ему и его окружению символистика приукрашена относительно ожиданий даже самых смелых оптимистов. Невзначай Андрей начал сообщать своему герою жизненный контекст, который сам теперь расценивал как наиболее вероятный для человека завтрашнего дня. Характер его чудовищно контрастировал с внешним обликом героя. Таким может быть контраст между внешностью и характером человека, пребывающего в абсолютном расцвете жизненных сил, но одновременно скованного самыми нелепыми ханжескими правилами. Спокойствие героя картины имело непростую подоплеку. Его роль в происходивших с ним событиях неуклонно сокращалась. Он все реже мог решать, в чем проявлять инициативу, а к чему проникаться безразличием. Одна мыслящая машина просчитывала жизнь человечества на многие десятилетия вперед. В частности, она анализировала потребности общества и устанавливала, каких людей и где будет не хватать, чтобы система работала лучше. Машина знала способности каждого человека намного лучше, чем любой человек сам знал о своих способностях. Обнаруживая нехватку специалиста на важном участке, машина отыскивала в базе данных наиболее подходящего кандидата и оценивала, как на работе всей системы скажется переброс этого специалиста с его нынешнего места на новое. Могли учитываться самые мелкие факторы, вплоть до предпочтений человека в видах из окна его комнаты. Машина не могла ошибаться. Если человек на новом месте не оказывался в должной мере эффективным, немедленно начинали искать причины в его психологии, после чего сразу следовало исправление. Оно ни в коей мере не могло травмировать, имело характер терапии, максимально благоприятствующей чувствам человека. Оптимизация ставилась во главу угла и в том, как люди предпочитают отдыхать от работы. Машина рассматривала два ключевых фактора: влияние разновидности досуга на ум человека и рентабельность производства сопутствующих товаров и услуг. Если вдруг в соответствии с психологическим портретом человека оказывалось, что более всего он склонен к невыгодному для системы времяпрепровождению – например, участию в слишком дорогостоящих видах экстремального спорта – машина создавала для него информационный фон, который внушал ему неприятие к подобному варианту развлечений. И разогревала интерес к наиболее прагматичному из других потенциально интересных ему категорий отдыха. Таким образом, с кем угодно могла произойти самая радикальная перемена образа жизни, изначально вообще ничуть не подразумеваемая ни культурными корнями, ни образованием, ни кругом общения. Работала система компенсаций на все случаи жизни. Так, человеку могла быть неудобна перемена места жительства по причине установившихся личных связей – взамен ему обещали знакомства с новыми людьми, полностью разделяющими его интересы. И одновременно информационное поле, которое работало на целый человеческий социум, всячески превозносило роль предписаний, выпускаемых машиной.