Так выглядит мир несознающих, но умных машин, и этот мир мы создаем прямо сейчас. Я бы предпочел жить в мире машин, которые знают, что такое сознание, и могут приписать его и мне, и другим людям, – равно как сегодня я благодарен за то, что живу в мире, где сознание могут приписывать друг другу люди.
Я не утверждаю, что сознание – чудотворный компонент, и стоит только добавить его в машину, как она станет вести себя этично. Всем известно, что среди нас есть и люди-человеконенавистники, социопаты и агрессоры. Все они обладают сознанием и, наверное, знают, что те, кому они причиняют боль, тоже сознательны. Но это потерянные кусочки огромной мозаики. Они всегда в меньшинстве, поскольку человечество по сути своей – просоциальный биологический вид. Каждый раз, входя в супермаркет, я полагаюсь на то, что окружающие будут более-менее соответствовать социальной матрице. Эволюция дала нам несовершенное, но статистически довольно неплохое решение проблемы социальной слаженности. Именно наше гиперсоциальное мышление удерживает человечество на плаву и отличает нас от менее сговорчивых и более враждебных биологических видов. У этой способности, скорее всего, много разных источников, но она была бы невозможна без внутренней модели, сообщающей нам, что сознание есть и у нас, и у других.
Раз уж мир гонится за созданием машин, подобных человеку разумом и автономностью, а то и превосходящих его по этим параметрам, мне кажется, нам стоило бы дать этим машинам и какие-нибудь очеловечивающие их черты, чтобы у них был шанс интегрироваться с нами. Почему бы не попробовать то же решение проблемы социального сотрудничества, которое эволюция нашла для нас? Если теория схемы внимания верна, то создание искусственного сознания – один из самых полезных шагов, которые мы можем сделать, чтобы снизить технологические риски, грозящие нам в будущем.
Глава 9
Перенос личности на искусственные носители
Вечно жить я не желаю. Мне всегда казалось, что если в жизни есть смысл, то он должен заключаться в том, чтобы внести свой полезный вклад в общество, а если жить вечно, то мы скорее станем забирать, нежели вкладывать. А еще станет скучно. В компьютерной игре, если не рискуешь погибнуть, пропадает все ощущение опасности, весь азарт – и в душу вползает апатия. Ну, мне так кажется. Может быть, на склоне лет я пересмотрю свое сегодняшнее мнение. Но правда в том, что многие люди – может быть, большинство – хотят жить неопределенно долго, и технологии развиваются в этом направлении. Я не имею в виду медицинское бессмертие, которое, судя по всему, физически недостижимо. Я имею в виду оцифровку психики – перенос личности, сущности человека, содержания мозга на искусственный носитель. Рано или поздно люди изобретут посмертие, и тогда человеческий разум сможет жить неопределенно долго в имитации Вселенной и станет взаимодействовать с реальным миром при помощи видеосвязи или робототехнических приспособлений. Жизнь полна странностей, но из всех странных вещей, с которыми я столкнулся в окружающем меня мире или в своих мыслях, страннее всего, пожалуй, перспектива компьютерного посмертия.