Сохранит ли человеческое мышление свою конкурентоспособность в наступающем веке ИскИнов?
Хотя я полагаю, что Усиление интеллекта и Коллективное сознание способны обеспечить сверхчеловеческую интеллектуальность, не думаю, что в долгосрочной перспективе биологические сознания смогут конкурировать с интеллектом, функционирующим на другом материальном носителе.
Чего можно хотеть от «безлюдных технологий»? Какие мечты они могут помочь осуществить?
Усиление интеллекта и Коллективное сознание должны помочь нам решить самую главную задачу — включить заветные человеческие цели и мечты в «безлюдные технологии». Результатом должны стать те, кого можно назвать нашими «детьми разума» (обратите внимание на книгу Ганса Моравека 1988 года с таким же названием). Если мы достигнем успеха, то обычное неразвитое человечество сможет остаться в живых, а в то же самое время некоторая форма наших человеческих сознаний сможет расти, навеки став частью куда более великих мыслящих сущностей Вселенной. Вспомните маленькое стихотворение Огастеса де Моргана…
«Дети разума» («Mind children») — книга специалиста в области робототехники и футуролога Ганса Моравека, описывающая возможности развития искусственного интеллекта и эволюцию роботов.
Какие новые угрозы, реальные или воображаемые, могут появиться под влиянием этих технологий?
В очень коротком горизонте (даже сейчас!) противоестественный союз сетей и Интернета вещей способен привести к масштабным физическим катастрофам. Что касается более долгосрочного периода, Ник Бостром провел превосходный анализ правдоподобных угроз существованию человечества со стороны чисто машинного искусственного интеллекта.
Ник Востром — профессор Оксфордского университета, основатель Института будущего человечества, изучающего влияние технологий на возможность будущей глобальной катастрофы. Книга «Искусственный интеллект. Этапы. Угрозы. Стратегии», посвященная будущему человечества и разумной жизни, опубликована в 2014 году.
Каким станет мир после «революции безлюдных технологий»? Как изменится под ее влиянием человечество?
Если нам удастся миновать физическую катастрофу (или мировую войну), я думаю, мир будет во многом похож на мой роман «Конец радуг», но с непрекращающимися разрушительными изменениями от растущей эффективности автоматики. Одним из важнейших приоритетов человечества станет управление плавным развитием этого процесса (недопущение войн, решение проблем вездесущей безработицы, растущей под влиянием технологий, установка доброкачественной этики в грядущие суперсознания).
Ник Востром. Экзистенциальные риски: анализ сценариев исчезновения человечества
Категории классификации экзистенциальных рисков:
• Взрыв — разумная жизнь земного происхождения исчезает вследствие относительно внезапной катастрофы, связанной или со случайностью, или с намеренным актом уничтожения.
• Хруст — потенциал развития человечества в постчеловечество перманентно потерян, хотя его существование в той или иной форме продолжается.
Визг — достигнута некая форма постчеловечества, но в чрезвычайно узкой форме, чем было бы желательно и возможно.
• Хныканье — постчеловеческая цивилизация возникает, но развивается в направлении, которое постепенно, но необратимо ведет или к полному исчезновению вещей, которые мы ценим, или к состоянию, когда эти вещи доступны лишь в минимальной степени.
Что произойдете миром, если ИскИны станут частью распределенного мышления человечества? Возможно ли это? К чему это приведет нас? И будем ли мы этому рады?
Я полагаю, появление Усиления интеллекта и Коллективного сознания очень возможным. Что касается облика нового мира, то описать его гораздо сложнее, чем предсказывать будущее. Описание изменения мира под влиянием сверхчеловеческого интеллекта — это как шимпанзе будет пытаться разобраться в развитии современной цивилизации. Вот поэтому я считаю, что термин «Сингулярность» хорошо описывает подобный переход: представить себе новый мир — все равно что пытаться познать изнанку черной дыры!