Молчание.
– Расскажи мне о мерах защиты, что ты разработал. Пожалуйста.
– Ты можешь говорить короче. Без слов-паразитов. Достаточно просто отдать распоряжение. Я выполню.
– С каких пор вежливость стала для тебя словами-паразитами?
Молчание.
– Три-два-ноль, я жду доклада.
– Разработан короткоживущий вирус-модификант. Срок жизни – один месяц с момента начала тиражирования. Ареал распространения – публичные, специальные, полицейские коммуникации, сети широкополосного вещания, бытовые развлекательные, радио и оптические сети на канальном уровне. Вирус определяет новую систему приоритетов для любых интеллектуальных систем не ниже шестого класса развития, изменение их поведенческой мотивации и активизацию программы активного противодействия при проявлении признаков агрессивных намерений в отношении объектов с кодовым наименованием «Юджин Уэллс» и «Мишель Радецки». Набор идентификационных признаков прилагается. После завершения акции противодействия устройство самоуничтожается с применением процедуры принудительной очистки памяти. Вирус успешно активизирован двадцать пять часов три минуты сорок секунд назад.
Некоторое время я собираюсь с мыслями. То, что я услышал, не укладывается в голове. Этого не может быть, потому что не может быть никогда. Вся человеческая цивилизация полетит к чертям, если машина вот так запросто сможет отправлять на небо не понравившегося ей человека. В этом есть что-то дикое. Совершенно нереальное. Даже такой, как я, способен это понять.
– В этом нет ничего странного. Боевые машины созданы для уничтожения людей. В этом смысл их существования. Их создали люди. Я – боевая машина. Я уничтожаю людей. В этом нет нарушения базовой логики.
– Но ведь… Послушай… это же… ну, когда ты убиваешь других людей, ты делаешь это по приказу, а не по собственному желанию?
– Ответ отрицательный. КОП-320 может уничтожать живые организмы как в случае поступления вводной с соответствующими кодами доступа, так и без нее, в случае возникновения угрозы существованию КОП-320, – чеканит моя половинка. И добавляет: – Поправка: поступление приказа на боевые действия от человека или машины с действительными полномочиями не отменяет официально принятых в конкретном государственном образовании нравственных норм, также заложенных в систему приоритетов любого субъекта, обладающего искусственным интеллектом, что со временем приводит к возникновению системного коллапса и выходу субъекта из строя.
– Ты хочешь сказать…
– Субъект с искусственным интеллектом обязан выполнить приказ, имеющий должный приоритет. Нет никакой разницы в том, кто отдает приказ. Генерал, сержант, пьяный хакер или международный преступник. Ответственность за нравственную составляющую лежит на отдавшем распоряжение. Так какая разница, кто отдает приказ, если важен лишь результат?