Совместимость. Как контролировать искусственный интеллект (Рассел) - страница 163

Что ж, это возможно, но это была бы другая модель, включающая недовольство разницей благополучий. В нашей простой модели Боб будет удовлетворен результатом. Действительно, в равновесной ситуации он бы противился любой попытке перенаправить ресурсы от Алисы ему, потому что это уменьшило бы его совокупное счастье. Если вам это кажется совершенно нереалистичным, рассмотрите случай, когда Алиса является новорожденной дочерью Боба.

По-настоящему проблемной для Робби является ситуация, когда С>АВ отрицателен: в этом случае Алиса попросту отвратительна. Подобные предпочтения я описываю термином негативный альтруизм. Как в приведенном ранее примере с садисткой Гарриет, речь идет не о заурядной зависти и эгоистичности, когда Алиса рада урвать долю Боба, чтобы увеличить собственную. Негативный альтруизм означает, что единственным источником счастья для Алисы является уменьшение чужого благополучия, даже если ее собственное непосредственное благополучие при этом не меняется.

В статье, где вводилось понятие утилитаризма предпочтений, Харсаньи объясняет негативный альтруизм «садизмом, завистью, возмущением и злобностью» и утверждает, что ими следует пренебрегать при расчете общей суммы человеческой полезности в популяции:

Никакое доброе отношение к индивиду Х не может наложить на меня нравственное обязательство помогать ему в причинении вреда третьей личности, индивиду Y.

Похоже, это область, в которой разработчикам интеллектуальных машин целесообразно, скажем так, надавить спасительным пальцем на нужную чашу весов.

К сожалению, негативный альтруизм намного более распространен, чем кажется. Он возникает чаще не из садизма и злобности[308], а из зависти и возмущения и обратной им эмоции, которую я называю гордыней (за отсутствием лучшего обозначения). Если Боб завидует Алисе, то становится несчастным из-за разницы между благополучием Алисы и собственным; чем больше разница, тем он несчастнее. Напротив, если Алиса гордится своим превосходством над Бобом, то для нее становится источником счастья тот факт, что она стоит выше него. Легко доказать, что в математическом смысле гордыня и зависть действуют примерно так же, как садизм; они заставляют Алису и Боба испытывать счастье исключительно за счет снижения благополучия друг друга, поскольку уменьшение благополучия Боба увеличивает гордыню Алисы, а уменьшение благополучия Алисы уменьшает зависть Боба[309].

Джеффри Сакс, знаменитый специалист по экономике развития, однажды рассказал мне историю, иллюстрирующую силу подобных предпочтений в мышлении людей. Он был в Бангладеш вскоре после масштабного наводнения, разорившего один из регионов страны, и разговаривал с фермером, потерявшим дом, поля, весь скот и одного из детей: «Мне очень жаль, вы, конечно, в страшном горе». «Ничего подобного, — ответил фермер. — Я прямо-таки счастлив, ведь мой проклятый сосед лишился еще и жены и всех детей!»