Молчание.
— Расскажи мне о мерах защиты, что ты разработал. Пожалуйста.
— Ты можешь говорить короче. Без слов-паразитов. Достаточно просто отдать распоряжение. Я выполню.
— С каких пор вежливость стала для тебя словами-паразитами?
Молчание.
— Три-два-ноль, я жду доклада.
— Разработан короткоживущий вирус-модификант. Срок жизни — один месяц с момента начала тиражирования. Ареал распространения — публичные, специальные, полицейские коммуникации, сети широкополосного вещания, бытовые развлекательные, радио и оптические сети на канальном уровне. Вирус определяет новую систему приоритетов для любых интеллектуальных систем не ниже шестого класса развития, изменение их поведенческой мотивации и активизацию программы активного противодействия при проявлении признаков агрессивных намерений в отношении объектов с кодовым наименованием “Юджин Уэллс” и “Мишель Радецки”. Набор идентификационных признаков прилагается. После завершения акции противодействия устройство самоуничтожается с применением процедуры принудительной очистки памяти. Вирус успешно активизирован двадцать пять часов три минуты сорок секунд назад.
Некоторое время я собираюсь с мыслями. То, что я услышал, не укладывается в голове. Этого не может быть, потому что не может быть никогда. Вся человеческая цивилизация полетит к чертям, если машина вот так запросто сможет отправлять на небо не понравившегося ей человека. В этом есть что-то дикое. Совершенно нереальное. Даже такой, как я, способен это понять.
— В этом нет ничего странного. Боевые машины созданы для уничтожения людей. В этом смысл их существования. Их создали люди. Я — боевая машина. Я уничтожаю людей. В этом нет нарушения базовой логики.
— Но ведь... Послушай... это же... ну, когда ты убиваешь других людей, ты делаешь это по приказу, а не по собственному желанию?
— Ответ отрицательный. КОП-320 может уничтожать живые организмы как в случае поступления вводной с соответствующими кодами доступа, так и без нее, в случае возникновения угрозы существованию КОП-320, — чеканит моя половинка. И добавляет: — Поправка: поступление приказа на боевые действия от человека или машины с действительными полномочиями не отменяет официально принятых в конкретном государственном образовании нравственных норм, также заложенных в систему приоритетов любого субъекта, обладающего искусственным интеллектом, что со временем приводит к возникновению системного коллапса и выходу субъекта из строя.
— Ты хочешь сказать...
— Субъект с искусственным интеллектом обязан выполнить приказ, имеющий должный приоритет. Нет никакой разницы в том, кто отдает приказ. Генерал, сержант, пьяный хакер или международный преступник. Ответственность за нравственную составляющую лежит на отдавшем распоряжение. Так какая разница, кто отдает приказ, если важен лишь результат?