достичь конкретной цели, скажем, «сохранить эту группу», и исключение целых классов ходов, поскольку они не защищают от серьезной угрозы.
Мы попросту не знаем, как организовать настолько сложную и разнообразную вычислительную деятельность — как интегрировать и накапливать результаты каждого элемента деятельности и распределять вычислительные ресурсы между разными видами рассуждений, чтобы находить хорошие решения максимально быстро. Ясно, однако, что простая вычислительная архитектура, как у AlphaGo, не способна действовать в реальном мире, где нам постоянно приходится иметь дело с горизонтами решений не в десятки, а в миллиарды примитивных шагов, и где количество возможных действий в любой момент практически бесконечно. Важно помнить, что интеллектуальный агент в реальном мире не ограничен игрой в го или даже поиском ключей Стюарта — он просто существует. Он может делать что угодно, но едва ли сможет позволить себе думать обо всем, что в состоянии сделать.
Система, способная как открывать новые высокоуровневые действия, что было описано ранее, так и управлять своей вычислительной деятельностью, сосредоточивая ее на тех единицах вычисления, которые быстро приводят к существенному улучшению качества решений, обеспечила бы фантастическое качество принятия решений в реальном мире. Как и у людей, ее рассуждения были бы «интеллектуально эффективными», но ее бы не ограничивали крохотная краткосрочная память и медленное «железо», которые чудовищно сковывают нашу способность далеко заглядывать в будущее, работать с большим количеством непредвиденных факторов и рассматривать много альтернативных планов.
Что еще мы упускаем
Если собрать все, что мы знаем о том, как работать со всеми потенциально новыми достижениями, перечисленными в этой главе, мы добьемся успеха? Как вела бы себя получившаяся система? Она неудержимо развивалась бы, со временем накапливая огромные объемы информации и отслеживая состояние мира в громадных масштабах путем наблюдения и умозаключений. Она постепенно совершенствовала бы свои модели мира (включающие, конечно, и модели людей). Она использовала бы эти модели для решения комплексных задач, сохраняла и повторно использовала процессы принятия решений, чтобы повысить эффективность своих прикидок и научиться решать еще более комплексные задачи. Она открывала бы новые концепции и действия, и это позволило бы ей повышать уровень совершения открытий. Она составляла бы более эффективные планы за все более короткие промежутки времени.
В общем, трудно сказать, упущено ли еще что-нибудь принципиально важное в плане создания систем, эффективных в решении этих задач. Разумеется, единственная возможность убедиться в этом — создать их (когда будут совершены прорывы) и посмотреть, что из этого выйдет.