(Финальные мгновения андроида Роя Батти из "Бегущего по лезвию" Ридли Скотта, где он понимает некоторое значение жизни).
Вещи становятся проще, если зарываться глубже в психологию. Интеллектуальная система, не важно искусственная или природная, должна опираться на окружающую систему (которую мы можем назвать мета-системой), для того, чтобы знать направление, в котором развивать себя. В ИИ системах, предназначенных для распознавания символов, "награды" и "наказания" применяются до тех пор, пока система не научится корректно отделять верные символы от неверных. Это требует наличия двух функций внутри системы: способности обменивать информацию и способности реагировать на этот обмен.
В ИИ-системе, это контролируемая двухшаговая последовательность: первое -- обработать информацию, второе -- отразить эту обработку в себе. У человека, обработка информации (согласно одной теории) происходит днём, а противоположная сессия выработки "верных" шаблонов -- ночью, в форме снов, в которых события пересобираются и сравниваются с нашими реальными мотивами, т. е. с нашим подсознанием. Сходство поразительно.
Исходя из этих рассуждений мы можем заключить, что люди имеют внутреннюю систему того, что верно и неверно. Если этого недостаточно, мы также знаем, что можем изменить наш план действий, т. е. мы не должны всегда следовать по определённому пути. В этом смысле, люди также парадоксальны, как любая неформальная система, так как у нас есть способность вырываться из систем и переоценивать наши цели.
Однако, великие мыслители психологии, Зигмунд Фрейд и Карл Юнг, обнаружили, что существует набор символов и мотивов, которые не нацелены на изменение, а скорее общи для всех людей. Фрейд говорил о детерминантах, главным образом о мотивах секса и выживания. Юнг расширил эти аргументы, чтобы включить некоторые архетипы, которые относятся к фундаментальным понятиям добра и зла.[82] Эти архетипические мотивы, кажется присутствуют во всех животных и служат машиной, которая заставляет людей исследовать и пытаться понять их среду обитания.
И это наиболее фундаментальное различие между людьми и машинами. Нет ничего, чтобы говорило в пользу того, что машины сами себя мотивируют, теми же призывами, что и мы. Вместо этого, мы даём им мотивацию решать задачи, для которых они были сконструированы. Когда машина оценивает свои собственные действия, это все равно постоянно мотивировано нашими приказами. Айзек Азимов, автор научной фантастики, предлагал такие вещи в своих романах о роботах через концепцию законов, из-за которых роботов доводят до почти патологической готовности служить их человеческим хозяевам. Такие отношение можно также видеть в современном фильме Робокоп, где робот-полицейский руководствуется волей без разбора защищать закон.
Аспекты ИИ находят отражение в современных медиа, -- "Бегущий по лезвию" -- о различии между человеком и машиной, ИИ постоянно фигурирует в киберпанковских романах, музыке и фильмах, и в фильм Франкенштейн вернулся в кинотеатры в 1995-ом. Совпадение? Едва ли.
Великолепный пример этого тренда -- роль робота, исполненная Арнольдом Шварцнеггером в Терминаторе 2. В этом фильме, искусственный интеллект обладает человеческими качествами, как результат перепрограммирования грубой военной машины человеком-повстанцем. Он также затрагивает аспекты последствия беззаботного обращения с технологией (так же как и Рабби Лёв потерял контроль над своим Големом). Особый интерес представляет сцена, в которой робот, будучи машиной, просто следует программным инструкциям, чтобы уничтожать людей стоящих на его пути, вместо поиска мирных решений. Главный герой, Джон (который случайно оказался хорошим хакером), открывает опасный "программный глюк" в наборе инструкций робота, который он исправляет. Посыл данного фильма в том, что технологии и ИИ -- это хорошо, если их используют правильно и под наблюдением людей. Реальная опасность -- невежественное безразличие людей.
Шведский фильм Femte Generationen ("Пятое поколение") вновь упоминается в этом контексте. Пятое поколение компьютерных систем -- лишь ещё одно название ИИ.
Ларс Густавссон производит сильное впечатление своим прекрасным НФ романом Det Sällsamma Djuret Från Norr ("Странное чудовище с севера"), который исчерпывающе и интересно рассказывает о метафизических аспектах ИИ. Особенно интересны его мысли о децентрализованном интеллекте, который предполагает, что общество муравьёв может считаться интеллектуальным, а отдельный муравей не может -- а таким образом -- и всё человечество может рассматриваться как единый интеллектуальный организм. Эта точка зрения взята из социологии, которая становится очень важной для исследований ИИ.
82
Теории, которые теперь в немилости. Ну и хорошо. Enim vero di no quasi pilas homines habent (Боги играют смертными).