Время переменных. Математический анализ в безумном мире (Орлин) - страница 44

Я даю вам… Умножитель скрепок для бумаги.

Как в басне Эзопа «Черепаха и технологическая сингулярность[25]», мораль этой сказки совершенно ясна: никогда не создавайте силу, которой безразлично ваше выживание и которую вы не можете остановить. «Искусственный интеллект не испытывает к вам ненависти, – говорит философ Элиезер Юдковский, – не ощущает и любви, но вы сделаны из атомов, которые он может использовать для своих нужд».

Действительно ли существует эта угроза? Не сойдут ли через несколько секунд поезда с рельсов или это всего лишь зарисовка на ноутбуке градостроителя? Математик Ханна Фрай склонна придерживаться последней точки зрения. «Возможно, было бы куда более полезно подумать о том, как мы пройдем через революции в вычислительной статистике, чем через революцию в искусственном интеллекте, – пишет она в своей книге «Привет, мир! Оставаясь человеком в эпоху алгоритмов» (Hello World: Being Human in the Age of Algorithms). – Честно говоря, мы очень далеки от создания интеллекта даже на уровне ежика. Никто пока что не продвинулся дальше червя». Другие настроены менее оптимистично. «Часто случается, – пишет Юдковский, – что от ключевого технического изобретения, которое, казалось, появится только через несколько десятилетий, нас отделяет всего пять лет».

Стоит спросить: почему мы с вами не ведем себя как Умножитель скрепок? Я встречал людей – черт, да я сам бывал таким! – чьи цели были сомнительными или даже хуже. Мы способны на моральную слепоту, эгоистичную жадность и, когда стоим в медленно двигающейся очереди в магазине, на внезапный порыв кого-нибудь убить. Если Умножитель скрепок уничтожает мир ради глупой цели, почему мы с вами не уничтожаем мир, принимая во внимание, что наши цели являются далеко не возвышенными?

Отчасти дело в том, что нам просто не хватает сил. Но, кроме того – и это звучит более утешительно, – мы устроены сложнее и потому не способны так несгибаемо, не зная сомнений, идти к подобной цели.

Испытывали ли вы ничем не замутненную радость, когда играли в ладушки с карапузом? Необыкновенное умиротворение от созерцания многоцветного заката? Сладость идеального молочного коктейля? Ощущали ли вы состояние потока, выполняя значительную работу, чувство гордости от неожиданных перепостов, тепло на душе от дружеского общения с леопардовым гекконом? Если да, то вы знаете, что счастье – это не нечто, существующее отдельно. Для человечества нет одной-единственной переменной, чтобы ее оптимизировать. Как писал Уолт Уитмен: