Заработало окошко памяти, и я с полной ясностью вспомнил, как жил и умирал прежде…
Создали мы в институте новый вычислительный центр. К тому времени машины уже объединяли в информационные системы. На одной из таких систем, названной “Эмма” и состоящей из двадцати вычислительных машин, поручили работать мне. Выполняли мы заказы ученых, конструкторов, предприятий. Подружился я с конструктором автомобилей, помогал ему испытывать новые модели, существующие пока только в чертежах и расчетах. Вводили мы такой “автомобиль” в память вьдчислительной системы, и он там “оживал”, словно настоящий, испытывался по всем параметрам. Проверяли мы, как будут себя чувствовать люди в различных критических условиях. Вводили данные об организме человека, о его возможностях и резервах, о допустимых перегрузках.
Затем директор института поручил мне на той же системе машин выполнять новый заказ - на этот раз группы медиков: создать кибернетического диагноста широкого профиля. Поскольку в памяти системы уже были данные о возможностях человеческого организма, наша задача несколько упрощалась.
Мы ввели дополнительные сведения из медицинских учебников.
Затем по просьбе одного из ведущих врачей я перестроил программу так, чтобы она по нашей команде могла отождествлять себя с организмом человека в различных состояниях - идеально здоровым и больным.
Вначале сведений в памяти машины было сравнительно немного - курс мединститута плюс несколько сотен историй болезней. Но по мере того как с “Эммой” работали разные врачи, вводя недостающие медицинские сведения по своим специальностям, она становилась универсальнейшим и точнейшим диагностом. В то же время она училась все более и более отождествлять себя с человеческим организмом.
Однажды закончили мы очередное испытание и дали “Эмме” команду стереть из памяти ход испытаний, подготовиться к другой операции. “Эмма” выполнила команду не сразу. Я насторожился, задействовал проверочный код и убедился, что система неисправна. Стали мы с операторами искать причину сбоя.
Проверили машину за машиной - все они оказались в полном порядке. Я решил временно выключить всю систему и “прозвонить” индикаторами соединение блоков памяти. И тут на табло основных индикаторов заметил я непорядок. Индикаторы, которые должны были погаснуть, периодически вспыхивали, будто светлячок чертил огненное кольцо. Это в сложной системе из тысяч блоков, какой являлась “Эмма”, остался от одной из прежних операций неподконтрольный нам отряд свободных электронов, совершающий бесконечный цикл. Метался он, как в мышеловке, возбуждал ячейки памяти, вызывал индукцию в соседних ячейках. Вот этот зациклившийся импульс и оказался виновником сбоя.
Стал я проверять и ту часть “Эммы”, где хранились сведения по медицине. Обнаружил и там зациклившиеся импульсы.
Несколько месяцев ушло у меня на проверку схемы, но я не обнаружил ошибки.
Возможно, дело в чрезмерном усложнении программы?
Мне не терпелось проверить догадку. Я задействовал часть системы, которая умела отождествлять себя с человеческим организмом, и сообщил ей, что ее палец прикоснулся к предмету, разогретому до восьмидесяти градусов. Немедленно последовал ответ: “Ожог. Больн о”.
Второе слово было незапрограммированным. Оно свидетельствовало, что система научилась отождествлять себя с организмом больше, чем мы предполагали. И я уже почти не удивился, когда обнаружил, что именно в то время, когда “организм” испытывает боль, в системе возникают непредвиденные импульсы.
Они прокладывают себе новые пути, разбегаются по всем участкам объединенного искусственного мозга, зацикливаются.
Если хорошо подумать, то в этом удивительном явлении нет ничего необъяснимого. Ведь именно чувства, вернее - потребности через чувства воздействуют на мозг, заставляя его искать пути к удовлетворению. Именно чувства дают толчок мыслям, зачастую непредвиденным. И эти новые мысли, неконтролируемые импульсы разбегаются, зацикливаются.
Каждое зацикливание такой мысли-импульса способно вызвать к жизни множество воспоминаний, хранящихся в ячейках памяти. Возникают новые образы, целые миры, подготовленные прошлой работой системы. Они нарушают программу.
Хорошо, если их удается быстро обнаружить. А если нет?