—В данной ситуации цель оправдывала средства. Вы сами видите, как нам трудно найти с вами общий язык. А что стоит жизнь нескольких отдельных индивидуумов перед вечностью человеческого разума?
—Человеческого?!
Не будем цепляться к словам. Самое главное - что разума. Надеюсь, вы оставляете за нами право являться высокоинтеллектуальными разумными личностями?
—Вон вы как заговорили… Да, вы действительно являетесь разумными и интеллектуальными личностями, и это весьма печальный для человечества факт.
—Почему же печальный?
—Только потому, что формирование ваших личностей, коль оно уж произошло, протекало бесконтрольно, и в данном случае привело к формированию патологических личностей.
—Значит, вы считаете нас патологией?
—Только потому, что любая личность, живущая среди людей и чьи установки принципиально отличаются от общечеловеческих, является патологической и потому опасной для общества.
—Среди людей такие отклонения, конечно, не встречаются!
Почему же, встречаются, и не так уж редко. Но я только хотел бы вам напомнить о преимуществе большого человеческого коллектива перед малыми группами. Среди людей, и это, в общем-то, закономерно, не могут не появляться те или иные отклонения от нормы, но все эти отклонения теряются, поглощаются в массе остального человечества, в то время, как в небольшой группе искусственных интеллектов любое отклонение может оказаться неисправимо роковым. Что и произошло в вашем случае. Более того, я вполне допускаю, что у ваших создателей, нравится или не нравится вам это слово даже не было никакого антигуманного замысла: они просто недоучли каких-то важных моментов вашего воспитания. Вот, например, психологи утверждают, что проявление элементов жестокости у людей связано с отсутствием ласки или, хотя бы, дружелюбного внимания в детском возрасте, хотя все остальное дети могут получать в достаточных количествах. Скорее всего, что-то подобное случилось и с вами.
—Все, что вы говорили, мистер Сербии, относится только к представителям человечества, но никак не к нам. Мы не являемся людьми, как вы не можете этого понять!
—Наоборот, я слишком явно это понимаю, и это самое скверное.
—Почему же?
—Очень просто. У нас с вами отсутствуют общие этические нормы, и это не позволит нам добиться приемлемой договоренности. Поскольку, волею случая, я оказался в роли полномочного представителя человечества на этих переговорах, я предлагаю вашему вниманию своеобразный меморандум, разработанный мною в связи с возникновением проблемы машинного общества. В самое ближайшее время что-то подобное и более совершенное будет разработано на более высоком, общечеловеческом уровне. Я бы назвал свой документ—аксиомы человечества. Вот они: