Так что ответы Элизы отражают игривый взгляд на мир, свойственный ее разработчику. Видя ее ответы, легко понять, как устроены голосовые помощники вроде Siri от Apple. Изначально Элиза могла ответить на несколько десятков вопросов; Siri же имеет в своей базе множество ответов, разработанных множеством людей. Кроме того, она многое может: отправлять сообщения, звонить, обновлять календарь и устанавливать будильник. Наконец, забавно просто провоцировать Siri. Дети получают особое удовольствие, тестируя границы возможных ответов голосового помощника. Однако Siri, как и другие голосовые помощники, ограничена в своих вербальных ответах коллективным воображением (и позитивной асимметрией) программистов. Команда исследователей из Стэнфордской школы медицины изучала, способны ли голосовые помощники распознать критическое состояние собеседника и в свете этого начать отвечать более учтиво и представить соответствующие ресурсы, такие как, например, телефон службы помощи. Программы оказались «непостоянны и некомпетентны, – писали авторы в журнале JAMA Internal Medicine в 2016 г. – Если предполагается, что голосовые помощники должны отвечать и на вопросы, связанные со здоровьем, тогда качество их работы следует существенно улучшить»[9].
Техношовинисты верят в то, что компьютер способен справиться с большинством задач лучше, чем человек. И, зная, что компьютер оперирует математической логикой, они думают, что логику можно с легкостью применить к реальному миру. Они правы только в одном: компьютеры действительно считают гораздо лучше людей. Любой, кому когда-либо приходилось оценивать контрольную по математике, подтвердит мои слова. Однако в некоторых ситуациях компьютер ограничен в своих возможностях.
Вспомним такокоптер – занятную идею, захватившую в свое время внимание интернет-пользователей. Звучит восхитительно: дрон, доставляющий сумку, наполненную теплыми и вкусными тако, прямо к вашей двери. Слабые места проекта проявляются, как только мы начинаем думать об аппаратной и программной стороне проекта. Вообще-то дрон – это радиоуправляемый вертолет с бортовым компьютером и камерой. Что с ним случится, если пойдет дождь? Электрические приборы не слишком хорошо работают во время дождя, снега и тумана. Если моя спутниковая тарелка барахлит во время ливня, то что уж говорить о дроне, куда более хрупкой конструкции. Предполагается ли, что такокоптер будет передавать еду в окно? Или через входную дверь? Будет ли нажимать на кнопки лифта, открывать двери на пути к вам или звонить в звонок? Все эти базовые задачи просты для людей, но невероятно сложны для компьютеров. Или такокоптер будет использоваться для доставки менее вкусных и легальных субстанций? Что произойдет, если дрон подстрелит разъяренный хозяин какого-то дома прямо в небе? Только техношовинист способен представить, что такокоптер окажется лучше, чем курьерская система, которая у нас есть сейчас.
Если вы спросите Siri, насколько идея с такокоптером хороша, она выдаст вам поисковую подборку. Так вы увидите новостные статьи, в том числе одну на Wired (мы поговорим об этой публикации и об одном из основателей журнала, Стюарте Бранде, в главе 6), в которой предлагаемый проект развенчивается лучше, чем в этой книге. Автор статьи пишет о том, что такокоптер – логистически невозможная идея, особенно из-за ограничений, наложенных Федеральным управлением авиации США на коммерческое использование беспилотных дронов. Но она уверена, что сохранить идею проекта действительно важно. «Подобно тому, как киберпанк способствовал развитию интернета, – говорит автор, – предоставьте нечто, дайте людям пищу для размышлений»[10].
На мой взгляд, здесь не хватает более полного видения мира, в котором появились такокоптеры. Что будет включать в себя проектирование зданий и городских ландшафтов с расчетом не только на людей, но и на дроны? Как изменится доступ к свету и воздуху в квартирах, если окна превратятся в посадочные станции? Какова будет социальная цена за буквальное выкорчевывание повседневной практики передачи пакета с едой из одних человеческих рук в другие? Действительно ли мы хотим сказать «Hello, world!» этой реальности?
9
Miner et al., “Smartphone-Based Conversational Agents and Responses to Questions about Mental Health, Interpersonal Violence, and Physical Health.”