Критически важным следующим шагом на пути к ИИ является согласование его этической и эмпатической структуры. Такой подход к системным разработкам учитывает не только технические требования, но также этическую и эмпатическую сторону. Поэтому я стал размышлять о принципах и целях проектирования ИИ, которые следует обсудить как в рамках IT-индустрии, так и в масштабах всего общества в целом.
Предназначение ИИ – помогать человечеству. Даже если построенные нами машины будут обладать большей самостоятельностью, следует уважать и самостоятельность человека. Роботы, предназначенные для взаимодействия с человеком в профессиональной сфере, должны брать на себя опасные виды работы, например работу в шахте, создавая тем самым систему обеспечения безопасности и защиты людей.
ИИ должен быть прозрачным. Нам всем, а не только техническим экспертам следует иметь представление о том, как работает эта технология и какими правилами она руководствуется. Нам нужны машины не только разумные, но и доступные для понимания; не просто искусственный, но симбиотический интеллект. Технология будет получать знания о людях, но люди тоже должны знать, как именно технология видит и анализирует мир: что, если у машины создаются о вас неверные представления, а вы не имеете возможности на это повлиять? Прозрачность жизненно необходима, когда социальные сети собирают о вас сведения, но при этом делают ложные умозаключения. Этика и проектирование следуют рука об руку.
ИИ должен добиться максимальной производительности, не нанося при этом ущерба человеческому достоинству. Он должен уважать культурные установки, укрепляя многообразие. Чтобы прийти к такому результату, требуется привлечь различные группы населения к более активному, широкому и многообразному участию. Технологическая индустрия не должна навязывать будущему ценности и моральные принципы. В равной степени будущее не должно находиться под единоличным контролем небольшой части человечества, проживающего в богатых и влиятельных регионах: Северной Америке, Западной Европе и Восточной Азии. Представители всех культур должны иметь возможность участвовать в формулировании ценностей и целей, определяющих структуру ИИ. Искусственный интеллект должен защищать человечество от социальных и культурных искажений, обеспечивая адекватные и репрезентативные исследования, чтобы неверные установки не приводили к умышленной или неумышленной дискриминации.
Искусственный разум должен обеспечивать приватность интеллектуальной сферы, воплощая в себе надежные и заслуживающие доверия средства защиты персональной и коллективной информации.
Алгоритмы ИИ должны контролироваться, чтобы человек имел возможность отменить действие, ненамеренно причиняющее вред. При разработке технологий ИИ мы должны учитывать самые неожиданные сценарии.
Многие из этих этических соображений уже воплощены, к примеру, в наших цифровых интерфейсах. Алгоритмы, анализирующие ваши предыдущие действия и предпочтения, имеют все более тесную связь с человеческим опытом. Они запоминают, что мы читаем, с кем встречаемся, что лайкаем. Все эти подсказки предлагаются нам по сотне раз на дню. И у меня в связи с этим возникает вопрос: во что превратится проявление свободной воли в подобном мире и как это повлияет на многих людей и на сообщества, перед которыми открываются столь разные взгляды на мир. Какова будет роль многообразия и всеобщей вовлеченности, когда речь зайдет о проектировании платформ для управления контентом и информацией? В идеале мы все должны обладать четким пониманием того, как именно наши данные используются для персонализации контента и услуг. Мы должны контролировать эти данные. Но добиться этого становится все труднее по мере того, как человечество углубляется в сложный мир искусственного разума. Как мы можем защитить себя и наше общество от негативного воздействия со стороны информационных платформ (все больше и больше завязанных на ИИ), у которых в приоритете стоят рекламные доходы и вовлечение аудитории, а не такие духовные ценности, как образование и многообразие фактов, мнений и контекстов? Это вопрос первостепенной важности. Над ним требуется как следует поработать.