Дополнительное понимание ограничений алгоритмического мышления пришло от Стюарта Кауфмана и его коллег из Института системной биологии в Сиэтле[105]. Люди могут использовать ситуативное рассуждение – они принимают точки зрения, выбирают цели и могут справиться с информацией, которая является нерелевантной, неполной, двусмысленной и/или противоречивой. Они способны видеть «аффордансы» (возможности) в своем окружении. Люди видят или переживают что-то, получая смутное понимание предназначения вещи или явления. Блок цилиндров двигателя может привести автомобиль в движение, но человек знает, что он также может послужить «причудливым (но эффективным) пресс-папье».
Команда утверждает, что ключевое различие между следующими правилам машинами Тьюринга и нами заключается в том, что алгоритмы не могут идентифицировать и использовать новые возможности. Одна из причин успеха ИИ заключается в том, что он создан для конкретной задачи или цели. Но, как обнаружил Гёдель на примере математики, всегда будут аспекты человеческого интеллекта, которые не могут быть охвачены формальной моделью, основанной на правилах: «Выявление и использование аффордансов выходит за рамки алгоритмических вычислений». Чтобы конкурировать с людьми, общему искусственному интеллекту нужно нечто большее, чем просто индукция, дедукция и абдукция, и он «должен знать, чего хочет, следовательно, должен быть способен вообще чего-то хотеть». Когда дело доходит до опасений, что развитие общего ИИ может поставить под угрозу само наше существование, ученые приходят к утешительному выводу: «Ни одна машина не захочет заменить нас, поскольку ни одна машина ничего не захочет, по крайней мере, в нынешних алгоритмических рамках определения машины».
Проблема цифровых компьютеров
Есть еще одна проблема, связанная с цифровыми компьютерами и поднятая в работе Тьюринга: числа, которыми эти компьютеры манипулируют. То, что Тьюринг называл «вычислимыми числами», – это те числа, с которыми может справиться машина Тьюринга. К ним относятся рациональные числа, повседневные числа, которые можно увидеть на ценниках, размерах обуви, рецептах и многом другом, например целые числа (включая отрицательные), а также дроби, которые можно выразить как отношения целых чисел.
Но есть еще класс иррациональных чисел, которые нельзя выразить как отношение двух целых чисел. Примеры иррациональных чисел: π, длина окружности диаметром 1 (единица) и e – число Эйлера, которое используется в логарифмах, для вычисления сложных процентов и повсеместно встречается в науке и технике. Хотя некоторые иррациональные числа – например, π или квадратный корень из 2 – можно вычислить с помощью алгоритма с любой степенью точности, подавляющее большинство иррациональных чисел неисчислимы.
Это проблематично, поскольку в море всех возможных чисел количество вычислимых рациональных чисел бесконечно мало. Да, существует множество рациональных чисел, которые «исчислимы», но со времен немецкого математика Георга Кантора (1845–1918) мы знаем, что множество иррациональных чисел бесконечно в более широком смысле, будучи «неисчислимо бесконечным».
Открытия Кантора встретили враждебность со стороны его коллег, даже со стороны христианских богословов, которые видели в них вызов Богу. Напротив, Кантор (как и другие до и после) думал, что он действительно увидел разум Бога[106]. Его работа, уже давно признанная, показывает, что, манипулируя только вычислимыми числами, цифровые компьютеры могут пренебречь более богатыми и глубокими возможностями, открывающимися при использовании бесконечно большего набора невычислимых чисел. Если внимательно посмотреть на цифры, населяющие цифровые компьютеры, вас ждут новые потрясения.
Флопсы
Текущие усилия по моделированию виртуального человека опираются на обычные или классические компьютеры, в которых математические операции (сложение, вычитание и т. д.) выполняются над строками из единиц и нулей ограниченной длины. Они известны как числа с плавающей запятой. Все они являются рациональными числами, гибкими (отсюда и «плавающая запятая»), и были разработаны, чтобы позволить компьютерам манипулировать числами совершенно разных масштабов, от размаха спиральной галактики на сотни тысяч световых лет до человеческого роста и размера клеточных ионных каналов в несколько нанометров в поперечнике. Хотя разница или ошибка в измерении размера галактики в несколько миллиардных долей метра не так важна, она может иметь огромное значение, когда дело касается молекул жизни.
105
Roli, A., Jaeger, J. & Kauffman, S. A. How organisms come to know the world: Fundamental limits on artificial general intelligence. Front. Ecol. Evol. 9 (2022).
106
Dauben, J. W. Georg Cantor and Pope Leo XIII: Mathematics, theology, and the infinite. J. Hist. Ideas (1977). https://doi.org/10.2307/2708842.