. Мы уже видим системы управления «умным городом», призванные оптимизировать контроль за дорожным движением, пассажироперевозки, сбор мусора, ремонт дорог, поддержание окружающей среды и другие функции в интересах граждан, и это можно было бы распространить в масштабах всей страны. До недавнего времени такая степень координации могла быть достигнута лишь усилиями громадных, неэффективных бюрократических систем; они будут неизбежно заменены мегаагентами, занимающимися все большим числом аспектов нашей коллективной жизни. Вместе с этим, разумеется, появятся и возможности нарушения конфиденциальности и внедрения социального контроля во всемирном масштабе, к чему я вернусь в следующей главе.
Когда появится сверхинтеллектуальный ИИ?
Меня часто просят предсказать, когда появится сверхинтеллектуальный ИИ, и обычно я отказываюсь отвечать на этот вопрос. Тому есть три причины. Первая: накопилась долгая история несбывшихся предсказаний такого рода[109]. Например, в 1960 г. первопроходец в сфере ИИ, нобелевский лауреат, экономист Герберт Саймон писал: «В технологическом отношении… машины научатся, в пределах 20 лет, выполнять любую работу, которую способен делать человек»[110]. В 1967 г. Марвин Минский, один из организаторов дартмутской рабочей группы 1956 г., открывшей сферу разработки ИИ, писал: «Я убежден, что при жизни одного поколения вне возможностей машин останутся лишь немногие элементы интеллекта — проблема создания „искусственного интеллекта“ будет, в сущности, решена»[111].
Вторая причина нежелания объявлять дату пришествия сверхинтеллектуального ИИ состоит в отсутствии четкого барьера, который для этого пришлось бы преодолеть. Машины уже превосходят возможности человека в некоторых областях. Эти области будут расширяться и углубляться, и, вероятно, сверхчеловеческие системы общих знаний, сверхчеловеческие системы биомедицинских исследований, сверхчеловечески ловкие и гибкие роботы, сверхчеловеческие системы корпоративного планирования и т. д. появятся задолго до того, как мы получим полностью универсальную сверхинтеллектуальную ИИ-систему. Эти «частично сверхинтеллектуальные» системы, по отдельности и вместе, начнут ставить перед нами многие из тех вопросов, которые следует ожидать от универсальных интеллектуальных систем.
Третья причина, по которой я не предсказываю появление сверхинтеллектуального ИИ, — его принципиальная непредсказуемость. Он требует «концептуальных прорывов», как заметил Джон Маккарти в интервью 1997 г.[112] Далее он сказал: «Вы хотите получить 0,7 Эйнштейна и 0,3 Манхэттенского проекта, причем сначала Эйнштейна. Я убежден, что это займет от 5 до 500 лет». В следующем разделе я объясню, какими могут быть некоторые из этих концептуальных прорывов. Насколько они непредсказуемы? Вероятно, настолько же, насколько было предсказуемо изобретение Силардом цепной реакции через несколько часов после заявления Резерфорда, что она совершенно невозможна.