— Понимаю. Если вы хотите создать вирус, который проникнет в программу компьютера через интернет, вам, если я вас правильно понял, большая машина не потребуется. Вот эта самая штуковина вам совсем ни к чему, да?
— Не нужна! — подтвердил Филипп. — С этим справится мой персональный компьютер. Если я — я сам! — точно сформулирую задачу вируса. Ну, если очень упрощенно: через интернет введу в вычислительный центр вирус, который привнесет в нейронную сеть новую информацию, новые обучающие данные… Эти сети, как нам известно, учатся на примерах; одна из сетей в процессе обучения усвоила, что она несет ответственность за одну из величайшего множества задач, а именно за то, чтобы держать под контролем уровень давления в котле с хлористым газом, и чтобы это давление никогда не превышало определенный уровень.
— И вирус, который вы введете, обучит эту сеть, — очень упрощенно! — он ее обучит тому, что для нее, изначально отвечавшую за определенный уровень давления в котле, должно быть совершенно безразлично, повышается давление или нет: «Не беспокойся больше об этом! Забудь о давлении! Оно вообще никакой роли не играет!»
— Великолепно! Я просто в восторге от того, как глубоко вы проникли в материал, доктор Ниманд! Именно так все и произошло бы. Вирус постоянно вдалбливал бы сети одну и ту же мысль: «Не обращай внимания на давление! Пусть оно падает или подскакивает! Это несущественно! От этого ничего не зависит!» И если вирус будет постоянно повторять это…
Они говорили друг с другом так быстро, будто их кто-то подгонял.
— …тогда, находясь в процессе постоянного обучения, сеть усвоит послание вируса. Для нее станет непреложной истиной, что давление в котле никакой роли не играет. Это и будет тем новым, чему она научится!
— Браво!
— Все это чистая фантастика и вместе с тем абсолютно логично. Люди тысячи раз повторяли компьютеру, что он должен постоянно следить за уровнем давления в котле. А от вируса он «услышит» нечто абсолютно противоположное. Сделать выбор между примерами, которые приводит вирус, и тем, которые приводил ему человек, компьютер не может. Он просто усвоит очередной урок.
— Да, он усвоит очередной урок. Да, доктор Ниманд, и он не будет больше беспокоиться о давлении. Пока оно не повысится до такого уровня, что произойдет взрыв. Пока это не приведет к катастрофе…
Прокурор надолго замолчал. А потом сказал:
— Это не фантастика. И логики здесь хоть отбавляй. До чего же это все страшно.
— Да, — сказал Филипп. — Страшно, безысходно страшно.
Шут и дитя.
12
Доктор Хольгер Ниманд встал, потирая озябшие руки, и несколько раз прошелся взад и вперед по комнате.
— Это потому, что мне холодно, — сказал он. — Сейчас будет лучше. О’кей, о’кей, о’кей. Давление чрезмерно повысилось. Произошла катастрофа. Как идет ваше собственное изучение ее причин?
Напряженный диалог вошел в новую фазу.
— Тяжело.
— Почему?
— Собрались специалисты. Наши и из спецгруппы. Затребовали и получили все самые современные программы поиска вирусов. Ввели их во все компьютеры. Эти программы проверили все компьютеры на присутствие в них всех известных вирусов. Они занимаются этим и сейчас.
— Однако ничего не находят, — подсказал Ниманд.
— Пока нет.
— А если им так и не удастся что-либо найти?
— Тогда есть два варианта. Либо вирус в этом вообще не повинен, либо это какой-то новый, до сих пор не известный нам вирус. А если так, то его не знают и программы поиска.
— Ну, и тогда что?
— Тогда у нас проблемы более чем серьезные. Я уже говорил вам, что с нейронными сетями мы работаем не по системе «если — то», а при помощи примеров. Если учесть, что в нормальных условиях вирус размножается…
— Что это значит? Дети у него рождаются, что ли?
— Можно выразиться и так. У него это происходит, как у болезнетворного вируса. Тот проникает в клетку, разрушает ее и рассылает своих «детей». Итак, мы проверяем, какие возможности для воспроизведения вируса есть в компьютере. Но и тут мы ничего не найдем, потому что вирус, повторяющий системе: «Пусть тебя давление в котле не занимает!», размножаться не будет. У него был один приказ: заставить компьютер усвоить эту мысль — этим его задача и исчерпывалась.