Есть ключевое отличие систем с искусственным интеллектом от других технологий: они сами потребляют, анализируют и оптимизируют содержание, созданное человеком по всем каналам, его речь, изображения и видео. Таким образом, технически потребитель становится частью системы, которая может его эксплуатировать, не сообщая ему об этом.
Греческая химера, мифологическое животное, была частично львом, козлом, змеей и драконом —точно так же пользователь Алексы является для ИИ-индустрии одновременно потребителем, ресурсом, работником и продуктом.
ЧЕРНЫЙ ЯЩИК ПРИНИМАЕТ РЕШЕНИЯ
Оптимизируя бюджеты, государства внедряют по всему миру автоматизированные системы принятия решений с использованием искусственного интеллекта. Для бюрократии это своего рода аутсорсинг ответственности: не надо ничего объяснять, ибо решения принимает, по факту, черный ящик. При этом у тех, кого непосредственно касаются эти решения, нет реальных возможностей их изменить или даже оспорить.
Пионером таких систем выступают Соединенные Штаты и Китай, и каждая страна имеет в их применении свои особенности.
С момента прихода к власти президент США Трамп распорядился резко сократить выплаты по социальным программам, затрагивающим интересы наименее обеспеченных слоев населения. При этом для оптимизации процессов уже сейчас широко применяется искусственный интеллект, который, например, анализирует данные малообеспеченного инвалида и решает, сколько часов бесплатного ухода в неделю ему полагается от государства.
Если ИИ решил отказать или назначил меньше часов, чем было раньше, больному просто некуда обратиться: ему говорят, что решение, принятое «черным ящиком», невозможно изменить. Более того, чиновники не могут даже объяснить принятое решение — примерно как сотрудник банка может лишь гадать, почему система не выдала потребителю кредит. Во всем мире сегодня намечается переход от решений, принимаемых людьми, к решениям на базе непрозрачных алгоритмов. При этом у людей, которых это непосредственно затрагивает, практически нет средств контроля за государственными органами, не говоря уже о частных компаниях. «Черные ящики» устройств, где обработка данных осуществляется в наднациональном «облаке», недоступны для того, чтобы опротестовать эти решения или изменить их.
Эффективность систем автоматического принятия решений в вопросе помощи инвалидам или неимущим никем не доказана, хотя бюджеты на социальные нужды они, конечно, экономят — перекладывая при этом ответственность за результаты с людей-чиновников на безответные машины.
И чиновники, и крупный бизнес оказываются кровно заинтересованы в быстрейшем продвижении технологий. Одних он освобождает от ответственности, другим обеспечивает прибыль. При этом личные и конституционные права, которые граждане развитых стран отстаивали на протяжении веков, борясь за социально ответственное государство, мало кого интересуют.
Практически везде крупный бизнес обеспечил себе режим наибольшего благоприятствования в создании новых технологий. Прикрываясь стремлением помочь родному государству, компании вывели из-под легального надзора свои бизнес-практики, в которых много серых или даже откровенно черных схем. Конечно, сегодня даже транснациональные корпорации имеют дом, чаще всего в США, и должны демонстрировать и всячески доказывать свою лояльность. Однако это лояльность отнюдь не народам этих стран, а лицам или структурам, принимающим реальные решения. Поэтому тем же пенсионерам не стоит надеяться на правовую защиту государства: им в лучшем случае скажут, что все делается для их же блага, и что по-старому работать нельзя, потому что у страны нет на это денег.
Казалось бы, есть юристы, которые могли бы защитить права людей в подобных случаях. Но суды требуют доказательств, а у юристов резко сузилась возможность предоставить информацию о том, какой, собственно, алгоритм привел к нарушению прав.
Необходимая юристам информация о том, как собираются, обрабатываются и используются данные, защищена не только законами о коммерческой тайне, но и практикой аутсорсинга, когда для проведения сомнительных с точки зрения закона работ и исследований нанимаются сторонние контракторы где-нибудь в Индии, где на тонкости, связанные с защитой данных, никто не будет обращать внимания.
Например, на компанию Facebook работают десятки тысяч людей в самых разных странах мира. При этом отработка сомнительных алгоритмов передается, как правило, на аутсорсинг. В известном скандале вокруг компании Cambridge Analytica, которая получила подробные профили всех американских избирателей и использовала их в бизнесе политического маркетинга, самое интересное было не то, что искусственный интеллект проанализировал все лайки, эмотиконы, комментарии и посты этих людей. Не то, что на основе собранных данных система набросала психологический портрет каждого человека с отнесением его или ее к пяти основным типам личности. Не то, что затем люди стали получать персонализированную политическую рекламу и видеть посты, которые были предназначены именно для личности данного типа. Не то, что люди аккуратно таргетировались, а их эмоции просчитывались для того, чтобы вызвать запланированный результат. Самое интересное заключалось в том, что все эти операции проделала малоизвестная компания Cambridge Analytica, которая формально не имеет отношения к «Фейсбуку» — но на деле получала от него самые эксклюзивные данные. Корпоративная система аутсорсинга, отдачи на сторону исполнения самых скользких делишек не получала бы огласки и дальше, если бы в какой-то момент дело не затронуло интересы влиятельных политических кругов США.