Что можно сделать, чтобы ИИ смог преодолеть «смысловой барьер», или «барьер понимания»? Несомненно, для этого нужно глубже изучить, как работает восприятие и сознание самого человека. Наше понимание ситуаций, с которыми мы сталкиваемся каждый день, основывается на здравом смысле.
Никто толком не знает, что это такое, но если не углубляться, то это некий набор знаний о том, как устроен мир, о том, как ведут себя в нем другие: люди, животные, неодушевленные объекты, что ими движет и так далее. В здравый смысл входит и наше понимание законов природы, даже абстрактных концепций вроде электричества или того же интернета. А еще мы умеем подстраиваться, даже иногда, хотя и нечасто, учиться на своих ошибках, и почти никогда на чужих. Но в целом эволюция и человеческая история показала, что мы достаточно неплохо адаптируемся к самым разным ситуациям.
Какие-то вещи мы делаем интуитивно, какие-то — инстинктивно, какие-то — повинуясь здравому смыслу, а какие-то — наперекор ему. Человек сложное создание, но без этой сложности и непредсказуемости не было бы, по всей видимости, сознания.
Исследователи уже не одно десятилетие пытаются создать методы научения ИИ искусству делать обобщения, здравому смыслу и даже таким вещам, как интуиция и воображение. Но если в обобщениях они, при всех оговорках, продвинулись, в других областях особого прогресса пока нет.
Все это могло бы не волновать нас, обычных людей, которые далеки от проблематики создания ИИ. Пусть ученые занимаются своим делом, а мы будем заниматься своим, не так ли?
Нет, не совсем так, или, вернее, совсем не так. Все эти плохо пропеченные пока системы и агенты с искусственным интеллектом больше и больше применяются повсюду — и принимают решения, от которых зависит жизнь людей.
За ИИ стоят огромные инвестиции, на кону огромные состояния и карьеры талантливых капитанов индустрии, амбициозных ученых, бюрократов, которые мечтают продвинуться, ничего не делая и ни за что не отвечая — вернее, переложив на ИИ свою ответственность.
Слишком много людей заинтересовано в возможно более широком распространении ИИ и его возможно более быстром развитии. И в как можно большей автономии систем с искусственным интеллектом.
Проблема пока что не в том, что вот-вот появится Сверхразум или «сильный ИИ», который с легкостью будет проходить тест Тьюринга. Настоящая проблема в том, что мы слишком стали доверять пропаганде вокруг ИИ, что мы считаем эти алгоритмы совершеннее, чем они есть на самом деле, и готовы отдать им на откуп целые сферы человеческой деятельности. Да, мы грешные и ошибающиеся люди — но нас хотят заменить столь же часто ошибающимися машинами, которые не ведают греха и не понимают, что это!
Так что же, искусственный интеллект —бумажный тигр? В этом духе рассуждают многие. Это напоминает истории, которые рассказывали в начале 1970-х гэбистам командировочные на Запад: что есть там такие электронно-вычислительные машины, которые заводят, чтобы не выпасть из моды, и цвет выбирают под интерьер.
Впоследствии оказалось, что ЭВМ нужны не только для того, чтобы украшать интерьер, и те руководители КГБ, которые смеялись над рассказами командировочных, сами стали покупать американские персональные компьютеры. На пенсии, проиграв страну.
Действительно, системы с ИИ сегодня имеют множество недостатков, и пока непонятно, как с этим быть. Но развитие не стоит на месте: десятки тысяч ученых по всему миру каждый день выходят на работу, чтобы добиться прорыва в создании «сильного ИИ». Их мотивируют каждый день для того, чтобы ИИ работал лучше и лучше — пока на узких задачах, потом на более широких. Вероятно, для того чтобы преодолеть «смысловой барьер», разработчикам ИИ придется сделать шаг назад, забыть про создание все больших нейросетей и баз данных, подумать над корневыми проблемами наук о познании, поискать какие-то интересные процессы из области неизвестно пока какой науки, которые могут привести к решению, может быть, самой сложной из научных проблем: открытию природы интеллекта. И, как следствие, к прорывному развитию ИИ. Ученым точно придется внимательнее всмотреться в человека и его особенности, в его когнитивные способности и недостатки, которые могут тоже обернуться открытиями. Взять лишь психическое расстройство деперсонализации — может быть, его изучение откроет нам что-то очень ценное о природе нас как организмов. Возможно, ученым даже придется отказаться от цифры и обратиться вновь к аналоговым системам, не смотря на все вложения в пропаганду цифры и хайп вокруг нее.