Но что если вывернуть ситуацию наизнанку? Допустим, в «Имаджинариум» играют несколько искусственных интеллектов и человек. Дело происходит в будущем мире, который захватили машины, где люди мимикрируют под роботов и их главная задача —не обнаружить себя. Сумеет ли человек сыграть в «Имаджинариум» так, чтобы не спалиться? Чтобы все распознали в нем своего, робота?
Для этого ему придется понять, как роботы мыслят — но это сработает лишь в том случае, если у них будет право на ошибку. Если правильным считается лишь один ответ, то человек непременно попадется.
Но допустим, роботы получили право на ошибку. Это право будет обеспечиваться алгоритмами, то есть на практике у них будет не право, а обязанность иногда ошибаться. С виду они будут мыслить примерно как человек—не слишком точно, интуитивно, плюс-минус, а то и совершенно не в тему. И тут наступит момент истины. Ведь если «плюс-минус» у робота — результат на выходе сложного алгоритма, то человек едва ли сможет распознать этот алгоритм и попадется. Точно так же с алгоритмически заданным «совершенно не в тему». Если это итог алгоритмического взаимодействия системы, то человек не раскусит эту логику и попадется. Если же «совершенно не в тему» неподдельное, то это значит, что кто-то из роботов-игроков сошел с ума. И тогда мы получим человека, прошедшего тест Анти-Тьюринга, в кружке «нормальных роботов» и робота-сумасшедшего. Страшновато. Но проблема не только в ситуациях, которые мы сейчас даже не можем себе вообразить даже на карточках «Имаджинариума».
Получается, что если мы даем машине право на ошибку, то первенство, пусть и по очкам, останется за ней. Ведь, как показывает мысленный эксперимент, в общей с ней игре мы машину не распознаем, а она нас — скорее всего —отличит.
Но именно по этому, проигрышному для человечества пути —дать машине право на ошибку, и создать ее такой, чтобы она сама себя обучила не только исполнять задачи, но и ставить их, — и пошла кибернетика на новом этапе своего развития.
ОКОНЧАТЕЛЬНАЯ МАШИНА
Об этом новом витке развития мы поговорим в главе, посвященной нейросетям и глубокому машинному обучению. Именно эти методы создания искусственного интеллекта и работы с ним используются сегодня чаще всего. Они требуют мощной вычислительной базы, которая стала активно развиваться с момента перехода человечества на цифру. А ведь это было не так давно.
Датой начала этого процесса называют обычно 1948 год, когда американский математик, инженер и криптограф Клод Элвуд Шеннон опубликовал свою работу «Математическая теория коммуникации». В ней он показал, что вся информация может быть передана как последовательность нулей и единиц.
Но художники, как это всегда бывает, разработали тему гораздо раньше. В 1915 году австрийский — снова венский! — художник Густав Климт пишет свою работу «Смерть и жизнь». В ней он показывает смерть как единицу, а жизнь — как нолик. В единицу вписана мрачная фигура с дубиной, несущая разрушение — во время написания картины в Европе бушевала война, миллионы людей были убиты, а Людвиг Витгенштейн сражался на восточном фронте, в Галиции. Ноль включал в свой круг все то, что так любил художник, через пару лет умерший от сифилиса: прекрасных женщин в орнаменте из набухающих, размножающихся клеток, символизировавших силу эволюции. Кто-то сейчас умрет, но замысел природы таков, что все неизбежно начнется сначала: в круге был и новорожденный, здоровый, красивый мальчик. Вместе единица и ноль создавали вечный танец жизни и смерти, постоянного рождения нового и отмирания старого.
Ученые вряд ли признают за картиной Климта, которая висит сейчас в Музее Леопольда в Вене, научный приоритет в идее цифровизации — но историкам науки стоит об этом поразмыслить.
Шеннон получил некоторую известность еще в 1937 году, когда молодым студентом MIT (Массачусетского технологического института) занялся довольно новой областью и разработал теорию проектирования цифровой цепи. Уже в ней он продемонстрировал, как можно применить булеву алгебру в электрических цепях, чтобы решать задачи математической логики.
Совсем не удивительно, что во время войны Шеннон, как и Тьюринг, принимал участие в шифровании данных для военных. Подумать только: если бы не было войны, кибернетика возникла бы лет на тридцать позже, и мы сегодня, скорее всего, жили бы в эпоху громоздких вычислительных машин!