Эволюция миллионы лет отбирала и закрепляла наши ассоциативные цепочки, причем ставкой была жизнь и смерть организма или даже целого вида. Может быть, организм в какие-то ключевые, «толстовские моменты» осознает важность выбора — и действует, активируя связи, не приносящие ему никакой награды, невзирая ни на какую боль и неудобства? Так бойцы на войне делают операции на себе, чуть не теряя от боли сознание, или герой закрывает собою вражеский дзот ради выживания своего народа.
Сильный ИИ имеет шанс появиться, когда мы будем знать о человеке куда больше, чем сейчас. Художественная литература и искусство дадут нам для этого изучения куда больше пищи, чем биологические эксперименты. Ведь человеческий мозг может оказаться куда более удивительным творением, чем принято думать в наши рационалистические времена. Как говорил Гамлет:
«There are more things in heaven and earth, Horatio, than are dreamt of in your philosophy» — «Есть многое на свете, друг Горацио, что и не снилось нашим мудрецам»...
Вот что писала о матрешке человеческого мозга, в которой содержится вся Вселенная, американская поэтесса XIX века Эмили Дикинсон (даю свой неуклюжий перевод):
The Brain — is wider—than the Sky
For — put them side by side —
The one the other will contain
With ease — and You — beside —
Ум — шире — неба
Сопоставь:
Одно в другое входит
Легко — с тобой — заходит
ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ НАТКНУЛСЯ НА СМЫСЛОВОЙ БАРЬЕР
Еще в 2012 году основатель «Фейсбука» Марк Цукерберг ставил как личную цель «кодировать каждый день». Следующие несколько лет, однако, ему было не до кодирования: компания на полную катушку монетизировала тягу людей к общению в соцсети. Они создали глобальный мессенджер, крупнейший поисковик, крупнейшую рекламную империю, активно занялись виртуальной и дополненной реальностью, дронами, контролем над человеческим восприятием и сознанием и даже попытались монополизировать не что-нибудь, а мировой рынок новостей. Вот так просто, бортанув ведущие мировые медийные империи и влиятельные американские газеты типа «Нью-Йорк Таймс». Ведь для обычного потребителя отъезд приятеля на дачу такая же новость, как и землетрясение в Зимбабве, если не большая — и ««Фейсбук»» этим воспользовался, быстренько создав свой News Feed.
С тех пор «Нью-Йорк Таймс» занимает откровенно враждебную позицию по отношению к Цукербергу и его детищу: практически в каждом номере газеты содержится что-то критическое о ««Фейсбуке»». Это и понятно: никто не хочет умирать, а в газетно-журнальной отрасли давно идет игра на выживание. Вторую влиятельнейшую американскую газету, «Вашингтон пост», спас основатель «Амазона» Джефф Безос, купив ее с потрохами. Это была, конечно, не благотворительность: Безос готовится перенести свой основной офис, где будет работать 25 тысяч сотрудников, в пригород американской столицы. Показательно, что рядом расположен Пентагон. Безос любит, когда его освобождают от налогов, так что ведущая городская и одновременно федеральная газета ему еще отработает.
Тем временем Цукерберг поставил перед своими учеными задачу к 2025 году создать искусственный интеллект, который бы превосходил человека зрением, слухом, речью и общими когнитивными способностями. То есть, по сути, Цукерберг хочет создать «сильный» ИИ — машину, которая «превзойдет человека».
Шейн Легг, главный исследователь лаборатории «Гугла» DeepMind, о которой я уже не раз писал, предсказал, что к середине 2020-х искусственный интеллект превзойдет человека. Конечно, подобных предсказаний делалось уже немало, и дальше в этой книге я разберу прогнозы некоторых самых известных технооптимистов, но одно дело когда в хрустальный шар глядят философы и даже футурологи, и совсем другое — когда мегакорпорация с десятками тысяч сотрудников, тысячами работающих на нее ученых, миллиардными расходами на исследования, записывает себе в бизнес-план «создать машину, во всех отношениях превосходящую человека».
На самом деле «Фейсбук»» и есть такая мощная машина, коллективный разум этой компании создал модель, которая выкачивает из человечества гигантские ресурсы, чтобы достичь своей цели, и эта цель, конечно, заключается не в том, чтобы способствовать расцвету культур и наук и облагодетельствовать народы.
В середине 2010-х годов между крупнейшими глобальными технологическими компаниями (их не больше десятка) началась гонка за то, чтобы стать The Company, единственной корпорацией, которая очень скоро может подчинить весь мир. Сильный ИИ — лишь средство в достижении этой цели.