Алексу привезли вежливые люди из компании Амазон, которые без шума и пыли встроили по всему дому контрольные приборчики системы «Эхо». Так в зале появился гладкий 15-сантиметровый цилиндр, по верхнему ободку которого бегает сине-зеленый огонек. Он молча наблюдает за всем вокруг и ждет команды. Теперь, встречая гостей, хозяйка дома Даниэль может, как бы невзначай, сказать: «Алекса, свет в прихожей» —и там становится светло. «Алекса, громкость на пять», «Алекса, давай поболтаем», «Алекса, потеплей» или даже «Алекса, заткнись».
И Алекса послушно добавляет звук, рассказывает анекдот, повышает градус и смиренно затыкается. Не о такой ли служанке мы все мечтаем, если можем себе это позволить?
Долго ли, коротко ли наслаждались Даниэль с мужем исполнительной помощницей, а только через какое-то время раздается телефонный звонок. Звонит подчиненный мужа из Сиэтла — а это не так и близко, за полтораста миль.
— Отключите Алексу прямо сейчас! — взволнованно говорит подчиненный. — Мне транслируются все ваши разговоры.
— Да ну, ты шутишь, — говорит муж. — Или бредишь. Ну вот о чем мы говорили перед твоим звонком?
— О том, что лучше застелить пол досками, — говорит сотрудник.
Даниэль изменившимся лицом бежит выключателю: действительно, именно об этом она разговаривала с мужем!
Даниэль позвонила сотрудникам Амазон, и те пообещали все расследовать. Немало времени прошло с той поры. В конце концов, позвонил от них вежливый человек, извинился раз пятнадцать за полчаса и пообещал всё выяснить. Даниэль сказала, что хотела бы просто вернуть деньги назад, но ей сказали, что все, что они могут сделать — это посмотреть, что пошло не так.
Амазон не так-то просто расстается с клиентами, ведь его хозяин Джефф Безос — самый богатый человек в мире. Пресса сообщала об условиях труда на складах компании: работники должны упаковать 300 посылок в час, работая так с 7:30 утра до 6 вечера и писая в бутылки или в памперсы, чтобы не получить штраф за медлительность. А недавно «Амазон» отказался открывать вторую штаб-квартиру в Нью-Йорке, где город в обмен на обещание рабочих мест пообещал вернуть компании три миллиарда долларов налогов. За бюджетный счет, разумеется. Компании с почти триллионной капитализацией показалось, что в другом месте они могут договориться на более выгодные условия.
Когда Даниэль поняла, что деньги «Амазон» ей не вернет, она позвонила на местное радио KIRO 7 и обратилась с жалобой. Сказала, что инженер так и не сказал, в чем дело, а сама она убеждена в том, что Алекса сначала наблюдала за семьей, а потом злобно подшутила над ними.
Представительница Амазона в ответе на запрос радиостанции сказала, что компания «очень серьезно относится к вопросам прайваси», и что подобное происходит крайне редко. Что встроенная в дом система «Эхо» проснулась, услышав в разговоре хозяев слово, похожее на «Алекса». А затем интерпретировала дальнейший разговор как запрос на отсылку записи. И громко спросила хозяев: «Кому?» Хозяева-де продолжали говорить, и в разговоре проскочило имя сотрудника в Сиэттле. Тут Алекса с громкостью, которую сама определила как достаточную, спросила хозяев: «Такому-то послать?» Затем она интерпретировала их буб-неж как «да» и отослала разговор.
Даниэль до сих пор отрицает, что Алекса что-либо переспрашивала, и, откровенно говоря, версия, озвученная представительницей Амазона, звучит невероятно. Заметьте, никто не оспаривает сам факт тотальной прослушки разговоров и возможности их распространения без разрешения. Известно, что «Амазон» работает и на оборонное ведомство США, в частности, разрабатывая системы распознавания образов для беспилотников, а также продает технологию распознавания лиц правоохранительным органам, поэтому информация, полученная через гаджеты обычных людей, может быть доступна на деле очень многим.
Но главный вопрос здесь даже не в том, что «Большой брат» следит за тобой через системы с элементами искусственного интеллекта. Настоящий вопрос в том, подчиняются ли «Большому брату» сами эти системы — или искусственный интеллект уже вышел из-под контроля создателей?
Странные случаи, как бы указывающие на это, множатся. То робот распыляет на складе «Амазона» медвежий репеллент, отправив в больницу несколько десятков рабочих. То беспилотный автомобиль Uber сбивает насмерть женщину, и расследование устанавливает, что система автоматического торможения была намеренно отключена. СМИ не вдаются в тему, как такое могло случиться, а виновным признают человека, который занимался уходом за автомобилем. То пользователи ведущей мировой соцсети начинают замечать, что стоит им поговорить на какую-то тему, как реклама начинает предлагать вещи, соответствующие теме разговора.