И каждую ночь снова и снова он спрашивал меня о моральном аспекте своего поведения, когда имел возможность починить робота, но не сделал этого.
— Мне по-прежнему это кажется неверным, Гэри, — сказал он однажды вечером, когда мы снова коснулись вечной темы. — Я понимаю часто возникающую материальную неэффективность ремонта, но мне кажется несправедливым, что тот робот был уничтожен по экономическим соображениям.
— Несправедливым по отношению к кому? — спросил я.
Он уставился на меня.
— К роботу.
— Но у робота нет чувства самосохранения. Ему все равно. — Уставился я на него в ответ. — Почему ты не приводишь реальные аргументы?
Он обдумывал вопрос в течение минуты, прежде чем ответить.
— Мне не все равно, — наконец заключил Моуз.
— Ты же знаешь, что это не твоя забота, — сказал я.
— Беседы с тобой расширили мое понимание мира и углубили восприятие, — объяснил он. — Не механическое восприятие, оно предварительно запрограммировано. Но ощущения моральные.
— Разве могут у робота быть моральные ощущения? — спросил я.
— До встречи с тобой я бы ответил отрицательно, Гэри, — сказал Моуз. — И я думаю, у большинства роботов их нет. Но как устранитель неполадок я обладаю программированием, способным к обучению и развитию, потому что должен приспосабливаться к любой потенциально вероятной ситуации. Это означает, что у меня есть способность сообразно обстоятельствам принимать решения, которые никогда прежде не применялись в отношении проблем, которые никогда прежде не возникали.
— Но это совсем не тот случай, — напомнил я. — Ты однажды заявил мне, что деактивируешь по роботу каждые три недели или как-то так.
— Это было до того, как я встретил человека, который до сих пор, спустя шесть месяцев, страдает от чувства вины за деактивацию родственной души.
— Знаешь что, Моуз, — задумчиво проговорил я. — Думаю, тебе лучше не обсуждать этого больше ни с кем.
— Почему? — спросил он.
— Это настолько выходит за рамки твоей базовой программы, что может сильно напугать любого, а там и до перепрограммирования недалеко.
— Мне бы это не понравилось, — сказал Моуз.
Нравится — не нравится… Сказано роботом, а звучит вполне нормально. Пару месяцев назад меня бы это удивило, даже повергло в шок. Теперь же звучит вполне здраво и обоснованно. Ведь это говорит дружище Моуз.
— Тогда будь заместителем моей родственной души — и обычным роботом для всех остальных, — предложил я.
— Да, Гэри, я так и сделаю.
— Помни, — сказал я. — Никогда не показывай им, каким ты стал, кто ты есть.
— Не буду, Гэри, — пообещал он.
— И он держал свое обещание семь недель.