Группа, работавшая с искусственным интеллектом, показала значительно лучшие результаты, чем консультанты, не работавшие с ним. Мы измеряли результаты всеми возможными способами: смотрели на мастерство консультантов или использовали ИИ для оценки результатов, а не людей, - но эффект сохранялся в 118 различных анализах. Консультанты с искусственным интеллектом работали быстрее, а их работа считалась более творческой, лучше написанной и более аналитической, чем у их коллег.
Но при более внимательном изучении данных обнаружилось нечто одновременно и впечатляющее, и несколько тревожное. Хотя предполагалось, что консультанты будут использовать искусственный интеллект для помощи в решении своих задач, казалось, что искусственный интеллект делает большую часть работы. Большинство участников эксперимента просто вставляли вопросы, которые им задавали, и получали очень хорошие ответы. То же самое произошло в эксперименте по написанию текста, проведенном экономистами Шаккедом Ноем и Уитни Чжаном из Массачусетского технологического института, о котором мы рассказывали в главе 5: большинство участников даже не потрудились отредактировать результат работы ИИ, как только он был создан для них. Я неоднократно сталкивался с этой проблемой, когда люди впервые использовали ИИ: они просто вставляли точный вопрос, который им задали, и позволяли ИИ ответить на него. В работе с ИИ есть опасность - конечно, опасность того, что мы сделаем себя лишними, но также и опасность того, что мы слишком доверяем работу ИИ.
И мы сами увидели опасность, потому что BCG разработала еще одно задание, тщательно отобранное, чтобы ИИ не смог прийти к правильному ответу - такому, который окажется за пределами Jagged Frontier. Это было нелегко, поскольку ИИ отлично справляется с широким спектром задач, но мы выбрали задачу, в которой сочетались сложный статистический вопрос и недостоверные данные. Консультанты-люди решали задачу правильно в 84 % случаев без помощи ИИ, но когда консультанты использовали ИИ, их результаты были еще хуже - они решали задачу правильно только в 60-70 % случаев. Что же произошло?
В другой работе Фабрицио Делл'Аква показывает, почему чрезмерное полагание на искусственный интеллект может привести к обратным результатам. Он обнаружил, что рекрутеры, использующие высококачественный ИИ, стали ленивыми, небрежными и менее умелыми в собственных суждениях. Они упустили несколько блестящих кандидатов и принимали худшие решения, чем рекрутеры, которые использовали низкокачественный ИИ или вообще не использовали ИИ.
Он нанял 181 профессионального рекрутера и поставил перед ними непростую задачу: оценить 44 заявки на работу на основе их математических способностей. Данные были получены из международного теста для взрослых, поэтому оценки по математике не были очевидны из резюме. Рекрутерам предоставлялась помощь ИИ разного уровня: у некоторых была хорошая или плохая поддержка ИИ, а у некоторых - никакой. Он измерял, насколько они точны, быстры, трудолюбивы и уверены в себе.
Рекрутеры с более качественным ИИ оказались хуже, чем рекрутеры с менее качественным ИИ. Они тратили меньше времени и усилий на каждое резюме и слепо следовали рекомендациям ИИ. Они также не улучшали свои показатели с течением времени. С другой стороны, рекрутеры с менее качественным ИИ были более внимательны, критичны и независимы. Они улучшили свое взаимодействие с ИИ и собственные навыки. Делл'Аква разработал математическую модель, объясняющую компромисс между качеством ИИ и усилиями человека. Когда ИИ очень хорош, у людей нет причин напрягаться и быть внимательными. Они позволяют ИИ взять на себя управление, вместо того чтобы использовать его как инструмент, что может негативно сказаться на обучении, развитии навыков и производительности. Он назвал это "засыпанием за рулем".
Исследование Делл'Аква указывает на то, что произошло в нашем исследовании с консультантами BCG. Мощный ИИ сделал более вероятным , что консультанты заснули за рулем и совершили большие ошибки, когда это было важно. Они не поняли форму "Зазубренного рубежа".