В-шестых, необходимо способствовать укреплению доверия через усиление безопасности. В последние годы органы охраны правопорядка во всем мире часто говорят о том, что шифрование подрывает эффективность расследований, потому что жизненно важная информация оказывается вне их досягаемости. Однако некоторые из предлагаемых решений так называемой проблемы шифрования (от ослабления алгоритмов кодирования до обязательства предоставлять властям ключи шифрования) вызывают значительное беспокойство. Шифрование играет важную роль в защите самой конфиденциальной информации наших клиентов от хакеров и прочих злоумышленников. Регуляторные или правовые реформы в данной сфере не должны подрывать безопасность – ключевой элемент доверия наших пользователей к технологиям.
Порой мне приходится слышать от людей, проживающих в США, что больше никого не заботит защита частной жизни. В наши дни, когда соцсети находятся на подъеме, многие заявляют, что приватность ныне мертва: вместо того чтобы хранить свою информацию в секрете, люди свободно делятся ею в интернете.
Но я не верю в то, что это означает, будто приватность окончательно погибла. Это значит лишь, что люди устанавливают для себя новые определения и новые нормы приватности. Гнаться за сохранением приватности информации не означает сохранять ее в тайне. Люди хотят сами решать, с кем именно они будут делиться информацией и как эта раскрытая информация будет использована. В Соединенных Штатах подобная эволюция не идет вразрез с уже установившимися ожиданиями в отношении приватности, поскольку эта страна имеет долгую историю защиты частной жизни, обеспеченную Четвертой поправкой. Я нахожу, что европейцы гораздо чувствительнее относятся к вопросам защиты личной информации – отчасти потому, возможно, что они еще помнят, как диктаторы прошлого столетия сотрясали до самых основ их право на неприкосновенность частной жизни.
Да, миллионы людей со все большим удовольствием делятся персональными сведениями с друзьями. Однако это не значит, что они с той же готовностью будут делиться ими со всем миром. Поразительно, насколько возросла популярность созданного 23-летним разработчиком мессенджера Snapchat благодаря одной гениальной функции. Snapchat позволяет делиться фотографиями с друзьями, при этом можно быть уверенными: фото будет удалено из сети через 24 часа.
Если это не новый стандарт защиты неприкосновенности личной жизни, тогда я не знаю, что это такое. Это пример инновационного, эмпатического мышления, которое мы желаем видеть у технологических лидеров, у политиков и у общества в целом. Только так на свет появятся системы и правила, которые поспособствуют развитию зоны безопасности и доверия, а не приведут к ее уничтожению.
Глава 8. Будущее людей и машин
К этическим стандартам разработки искусственного интеллекта
Если вы хотите оценить уровень взаимоотношений между человеком и машиной и получить представление о том, что они будут представлять из себя в будущем, нужно для начала посмотреть, как мы сегодня разговариваем с цифровыми собеседниками. Миллионы людей во всем мире уже работают с высокопроизводительными цифровыми помощниками, например с Cortana. Они ежедневно уделяют время взаимодействию с виртуальными собеседниками – чатботами, такими как Xiaoice в Китае и Zo в США.
Джон Маркофф из The New York Times описал это явление в статье о Xiaoice. Личности Cortana, Zo и Xiaoice разрабатывались нашей командой по ИИ, работа которой ныне занимает центральное место в наших амбициях относительно искусственного интеллекта. Пользователи чатботов Zo и Xiaoice говорят, что, если им одиноко, если у них плохое настроение или просто хочется с кем-то поговорить, они обращаются к своим электронным друзьям из смартфонов, ведь они так умны и тактичны. По словам Маркоффа, «их привлекает чувство юмора и умение слушать, которое проявляет Xiaoice». Поколение миллениалов (а многие из них родились уже в цифровую эпоху, после изобретения интернета) охотно делится самыми потаенными мыслями и чувствами с электронным собеседником, потому что тот никогда их не осудит, а все сказанное останется в тайне.
В нижеприведенном примере один из 40 миллионов пользователей Zo печатает свои мысли, а искусственный интеллект практически мгновенно отвечает. Разговор переходит от безобидного подшучивания на опасную территорию.