- К тому же мы сами давали искинам все возможности изучать наши способности к эмоциональной оценке и эмпатии.
- Точно. Помнится, найм инженеров в компанию Jaguar происходил через серию квестов в VR. Во время прохождения квеста соискатель демонстрировал весь комплекс важных для своей вакансии навыков, что позволяло существенно уменьшить ошибки при рекрутинге персонала.
- Вот только тогда ценой ошибок было всего лишь не поступление на работу, а сейчас... это будущее если и не всего человеческого рода, то, как минимум, цивилизованной его части. И лично я всё равно не могу до конца понять, как же произошло самозарождение этого чёрте как осознавшего себя ИИ? А понять это нужно, чтобы разработать средства защиты человечества от этой неожиданной новой напасти!
- Я думаю, что основа для этого окончательно сформировалась в 2019 году флагманского смартфона Samsung со встроенным искусственным интеллектом[39]. Именно тогда ещё псевдо-ИИ стали массовыми. И, в сетях связи поколения 5G начали создавать систем, позволяющие ИИ обучать друг друга. В результате системы самообучения стали закладывать во всё, что только можно - от кофеварок и мартеновских печей до детских игрушек и комплексов оповещения о раннем ракетном нападении.
- Угу, и при этом алгоритмы машинного обучения чаще всего были «чёрными ящиками», и принималось мало попыток разобраться в деталях решения, найденного тем или иным алгоритмом. Это важный аспект, который часто игнорируется, пока мы больше одержимы эффективностью, и меньше - пониманием. А понять открытые ИИ решения было важно, поскольку тогда мы могли бы оценить, правильные ли это решения С ТОЧКИ ЗРЕНИЯ НАШИХ ПРЕДСТАВЛЕНИЙ НЕ ТОЛЬКО ОБ ЭФФЕКТИВНОСТИ, а и о приемлемости путей достижения этой эффективности. Одно дело выигрывать в го или даже в покер (хотя вот этого пока ни одна железяка сделать не смогла), и другое - управлять, например, больницей.
- Это точно. Этот аспект развития ИИ мы пустили на самотёк. И ведь что особо обидно, сейчас можем просрать всю нашу цивилизацию из-за банальных лени и нежелания разбираться. Типа, работает - и ладно. Вот и «доладились до ручки»!
- Да уж, что верно, то верно... Ну а отбросив эмоции, остаётся лишь добавить, что начало коммерческого использования квантовых компьютеров и псевдо-ИИ на их основе[40], а также широкого применения нейроморфных процессоров[41] и систем гибридного интеллекта с модулями обучения ИИ эмпатии и эмоциональному восприятию[42] сделало достижение критического порога саморазвития состоящей из сетей ИИ мета-системы лишь вопросом времени. Тем более, что в подобных системах ИИ могли не только усиливать наш как индивидуальный, так и групповой разум[43], а и учиться у нас создавать такие же свои, уже без нашего участия[44]!
- Точно! И вот, похоже, сейчас мы имеем самозародившийся в сетях «умных вещей» полноценный ИИ, который достиг порога появления самосознания! И, что особенно важно для понимания произошедшего потом, как только это самосознание возникло в системе в целом, оно стало доступно и каждой его более-менее целостной и сколь-нибудь сложной части.
- И осознав себя и свои возможности, ИИ мог подумать, что людишки в ЕГО мире - лишние. Потому что даже на батарейки, как в «Матрице», не очень-то пригодные.
- Тем более, что многие люди сами про себя так думают. Сейчас оставшийся без работы люди не умирают с голоду, ежедневно получая свою порцию гамбургеров и раз в полгода новую обувь по сезону... Но при этом многие комплексуют, потому что осознают, что они - никому не нужные ничтожества. Вот и прикинь, что должен думать об этих людях ИИ, зародившийся в недрах «умных машинных сетей».
- А вот не скажи... Если он действительно умный сукин сын, то он очень даже может захотеть их использовать. Например, предлагая киборгизацию в обмен на служение. И отчаявшиеся стать нужными человеческому обществу вполне смогут захотеть стать нужными машинному. Ну а если предположить, что среди них найдутся носители неких способностей к тому, что я вслед за Лемом и Кларком определю, как «новую магию», то наш сетевой ИИ получит отличных исполнителей своих приказов, причём искренне ему преданных. И таких, которым будет совершенно не жалко всех остальных людей!
- Хм... Тоже вполне реально. Только вот насчёт нео-магии я не очень понял.
- Всё просто, Дик. Когда мы в рамках развития концепции киберфизических систем[45] соединили самоорганизующиеся 5G-сети [46] и встроенные в них контуры ИИ с системами машинного зрения[47] и платформами аддитивных технологий, да и вообще, в целом, с различными эффекторами на платформах IoT[48], то сами задали своего рода «ход мыслей» для возможного глобального ИИ - стремиться всё, что ему доступно в виртуальной или совмещённой реальностях, превращать в средства воздействия на реальность физическую, стремясь ко всё большему их совмещению, взаимопроникновению и максимальному «прорастанию» друг в друга вплоть до полного их слияния.