Впрочем, даже самые амбициозные предприниматели еще не научились менять законы природы, и похоже, задача эта может оказаться гораздо сложнее, чем они полагают.
Сегодняшним агентам ИИ не хватает понимания смысла или сознания, то есть того, что является сутью человеческого разума. «Интересно, сможет ли ИИ вообще когда-нибудь преодолеть смысловой барьер», сказал как-то математик и философ Джанкарло Рота. «Вот в чем для меня главный вопрос».
Есть известный пример с выражением «сосиска в тесте», которое система глубокого машинного обучения поймёт как мясной продукт, вставленный тестю в одно место.
Мелани Митчелл, профессор компьютерной науки в университете Портленда, приводит несколько других примеров:
«Фразу «The bareheaded man needed a hat» программа распознавания речи в моем телефоне транскрибирует как «The bear headed man needed a hat» (вместо «лысому мужчине нужна шляпа» получается «медведеголовому мужчине нужна шляпа» — И. Ш.). A Google Translate переводит фразу «I put the pig in the реп» на французский так: «Je mets le cochon dans le stylo» (здесь вместо «Я поместила свинью в загон» получилось «Я поместила свинью на ручку», в значении пишущего инструмента — И.Ш.)».
Программы, которые «читают» документы и отвечают на вопросы о них, можно побудить дать тотально неверные ответы, просто вставив в документы маленькие кусочки текста, не относящегося к делу. Много говорится об успехах ИИ в распознавании изображений и объектов, но даже сейчас их можно поставить в тупик изменениями освещения, небольшим количеством «шума» и другими подобными трюками, которые вообще никак не влияют на соответствующие способности человека.
Журнал Computer Science опубликовал в августе 2018 года одно исследование, не без иронии озаглавленное «Слон в комнате». Ученые показали, что если мы вставим небольшое изображение не относящегося к теме объекта куда-нибудь в уголок большого изображения — например, «слона» в изображение гостиной — это настолько странно повлияет на искусственные нейросети и алгоритмы глубокого обучения, что на выходе ИИ отнесет к неправильным категориям многие объекты на этой картинке.
Программы, которые уверенно выигрывали у человека в компьютерных или видеоиграх, с треском начинали проигрывать, стоили изменить в игре, например, цвет фона или немного переместить игроков на начальных позициях.
В целом эти примеры показывают, что лучшие ИИ могут подвести, если ситуации, с которыми они сталкиваются, хоть немного отличаются от тех, на которых их обучали. При этом ошибка ошибке рознь: одно дело проигрыш в игре Counterstrike, а другое — если ИИ в аэропорту не пропустит вас на посадку и вместо этого вызовет полицейских, приняв за преступника. Или еще хуже: натренированный на фейковых дорогах ИИ в беспилотном такси из-за необычного освещения не заметит, как вы прямо перед ним переходите дорогу.
А ведь в алгоритмы, которые и так-то не очень надежны, могут вмешаться и хакеры. Хакер может внести в изображение или текст те самые маленькие погрешности, которые приведут к большим ошибкам, а те, в свою очередь, могут иметь катастрофические последствия — например, в системах управления энергообеспечением или уличным движением мегаполиса.
Многочисленные исследования уже показали, как хакеры могут обдурить систему распознавания лиц минимальными изменениями, или, например, наклеить на знак «стоп» небольшие не внушающие подозрения стикеры, в результате чего система управления беспилотным автомобилем примет его за другой дорожный знак, или передать аудиосигнал, которые сольется с фоновой музыкой в доме человека, но его ИИ-помощник Алекса или Сири вычленят этот сигнал и сочтут его за команду —а команда может быть любая, например, выключить весь свет в доме, запереть его или, наоборот, в определенный час открыть запертую дверь.
В СМИ много хайпа о невероятных возможностях ИИ, но если вы пообщаетесь непосредственно с разработчиками, которые занимаются глубоким обучением, то они показывают куда меньше энтузиазма в отношении нынешнего прогресса в отрасли.
Я беседовал со знаменитым роботом Софьей, изготовленной замечательными ребятами из проекта Singularity, но понятно, какая большая работа целой команды стоит за ее жестковатым юмором и впечатляющим дизайном в стиле фильма Ex Machina (или создатели фильма вдохновились образом Софьи?). Она отвечала на мои вопросы, и довольно неплохо, но я подозреваю, что список вопросов, которые человек задает, встречаясь с ней впервые, довольно короток. Так что для меня осталось полной загадкой, поняла ли она меня и понимает ли она вообще, что говорит (впрочем, таким же «искусственным интеллектом» является любая женщина).