Несчастный случай (Лем) - страница 4

Нельзя сказать, чтобы инженеры очень уж обрадовались, когда их детища начали проявлять такую самостоятельность, которая помимо воли наводила на мысль о духовной жизни. В принципе считалось, что автоматы мыслят, но «не имеют индивидуальности». Действительно, никто не слышал об автомате, который бы впадал в ярость, воодушевлялся, смеялся или плакал; они были в высшей степени уравновешенными, как того и желали конструкторы. Однако, поскольку их мозги создавались не на монтажном конвейере, а путем постепенного выращивания монокристаллов, при котором всегда имеет место не поддающийся управлению статистический разброс, даже микроскопические смещения молекул вызывали такие конечные отклонения, что в принципе не существовало двух совершенно одинаковых автоматов. Итак, все-таки индивидуальности? Нет, отвечал кибернетик, результат вероятностного процесса; так же думал и Пиркс и, пожалуй, каждый, кто часто общался с роботами и целыми годами мог наблюдать за их молчаливой, всегда целенаправленной, всегда логичной деятельностью. Конечно, они были похожи друг на друга гораздо больше, чем люди, но все же у каждого был свой норов, пристрастия, а встречались и такие, которые, исполняя приказы, организовывали что-то вроде «молчаливого сопротивления», и если это длилось долго, то дело кончалось капитальным ремонтом.

У Пиркса, да наверняка и не у него одного, в отношении этих своеобразных машин, которые так точно и подчас так творчески выполняли задания, была не очень чиста совесть. Может, это началось еще тогда, когда он командовал «Кориоланом». Во всяком случае, само по себе то, что человек создал мыслящий орган вне собственного тела и сделал его зависящим от себя, он считал не вполне нормальным. Он, конечно, не мог бы сказать, откуда берется это легкое беспокойство, какое-то ощущение невыполненного долга, что ли, смутная мысль о том, что решение принято неправильно или попросту, грубо говоря, совершена пакость. Было какое-то изощренное коварство в том холодном спокойствии, с каким человек запихивал добытые о себе знания в бездушные машины, присматривая за тем, чтобы не повысился уровень их одушевленности и чтобы они не стали конкурентами своего творца в познании прелестей мира. Максима Гете «In der Beschrankung zeigt sich erst der Meister»[1] в приложении к сметливым конструкторам приобретала неожиданный смысл похвалы, переходившей в язвительный укор, ибо ведь не себя решили они ограничить, но дело рук своих. Разумеется, Пиркс никогда не решался высказать вслух подобную мысль, потому что отдавал себе отчет в том, как бы она смешно прозвучала; автоматы не были обездоленными, не были они и объектом безудержной эксплуатации, все было проще и вы то же время хуже — с моральной точки зрения сложнее для критики; их возможности ограничили еще прежде, чем они появились, — на листах чертежей.