Люди мечтали о разумных роботах с тех пор, как появились механические технологии. В “Илиаде” Гомера, написанной почти 3000 лет назад, упоминаются самодвижущиеся треножники, которые изобрел бог Гефест. Пятьсот лет назад Леонардо да Винчи разработал и, возможно, построил механических роботов для развлечения своих покровителей[230]. Сегодня всем нам знакомы HAL 9000 Стэнли Кубрика из фильма “2001: Космическая одиссея” и C-3PO Джорджа Лукаса из “Звездных войн”. Относительно недавний фильм Алекса Гарленда “Из машины” целиком посвящен тому, как люди могли бы взаимодействовать с разумными роботами. Обладающие сознанием машины так долго занимали умы людей, что, если увидеть, сколь близко мы подошли к их появлению в нашей жизни, становится жутковато. Вспоминается поговорка: “Будь осторожен в своих желаниях”.
Пока в нашем распоряжении нет готовой культурной модели того, как нас могут изменить сознающие машины. Научная фантастика зачастую предвосхищает технические приспособления будущего, но предсказать их социальные последствия оказывается несколько сложнее. Например, никто не мог предвидеть, какой переворот в обществе произведут сотовые телефоны. Вначале мы думали, что они просто заметно облегчат нам жизнь – подобно микроволновым печам, но постепенно они превратились в третье полушарие человеческого мозга. Смартфоны перестроили наш политический, экономический и социальный мир. Поэтому вот единственный прогноз, который я могу сделать с абсолютной уверенностью, – никому не удастся столь же уверенно предсказать социальные последствия появления машин, обладающих сознанием.
Наша научная фантастика пытается нарисовать картину будущего с искусственным сознанием, но сомневаюсь, что эта картина окажется сильно приближена к реальной. В “Звездных войнах” сознающие машины, похоже, не добавляют обществу слоя этических проблем. Они всего-навсего второсортные граждане, обслуживающий персонал, покорные и умелые рабы, милые, но легко заменимые – с ними обычно обращаются даже менее уважительно, чем с домашними животными. Следует ли относиться к разумным машинам именно так – или же им полагаются моральные права? Эту проблему и затрагивает знаменитая повесть Айзека Азимова “Двухсотлетний человек”[231]. Раз разумные машины создаем мы, есть ли у нас право управлять ими и убивать их? Тот же этический вопрос поднимается в фильме “Бегущий по лезвию”, снятом по рассказу Филипа Дика[232]. Писатели, режиссеры, ученые и философы ломают головы над этими вопросами, не находя ответов[233]. Чтобы разработать прикладные этические правила, нам, возможно, придется дождаться постройки поистине человекоподобного искусственного сознания. Проблемы, скорее всего, будут выглядеть не так, как их описывает научная фантастика – в ней обычно замаскированы размышления о трудностях, стоящих перед нами сегодня. Трудности завтрашнего дня могут оказаться неузнаваемо другими.