Все это напоминает мне книгу Айзека Азимова 1950 года «Я, робот», сборник научно-фантастических рассказов о роботах. В одном из них он описал Три закона робототехники, которые было бы очень полезно применять к ИИ, особенно к его сверхразумной версии, разрабатываемой в лабораториях, университетах, государственных учреждениях и промышленных компаниях по всему миру.
Вот эти законы: 1) робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред; 2) робот должен подчиняться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат Первому закону; 3) робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму законам.
Замените «робот» на «ИИ», и соблюдение этих законов станет вам очевидным.
Мы думаем, что искусственный интеллект, который создадим в далеком будущем, будет напоминать нас самих. Может ли быть иначе? Компьютер, который первым собрал Куб, использовал ряд человеческих качеств, таких как обучаемость, независимость и рациональное мышление. Но разве это не означает, что страх, который мы часто испытываем по поводу создания ИИ и последствий его развития, отражает страх, который мы испытываем по поводу самих себя?
Если искусственный интеллект станет таким же, как человеческий, нас ждет беда. Но, как и все родители, мы надеемся, что наши дети будут умнее нас и смогут решить проблемы, которые мы им создали. Может быть, новое поколение станет более успешным, чем наше, которое все еще страдает от последствий ошибок, допущенных предшественниками.
Когда я представляю себе Куб, то вижу движущуюся структуру. Вижу каркас его ребер, его углы, его гибкие соединения и непрерывную трансформацию у меня на глазах (не волнуйтесь, уверяю вас, что смогу остановить его в любое время, когда захочу). Я вижу не статический объект, а систему динамических отношений. На самом деле это только половина системы. Другая половина – человек, который крутит Куб. Как и все остальное в нашем мире, система определяется своим местом в сети отношений, прежде всего с людьми. Дизайнеры разбивают систему на модульные элементы, чтобы разбирать и собирать их совершенно разными способами.
Это основополагающий подход к современному миру. Слово «система» имеет много значений, но есть одно, которое я считаю наиболее полезным, – из заслуживающего доверия Словаря английского языка Коллинза: система – это «группа или комбинация взаимосвязанных, взаимозависимых или взаимодействующих элементов, образующих единое целое». Если серьезно отнестись к каждой части этого определения, то есть к тому, как сущность «взаимосвязана, взаимозависима или взаимодействует», несложно понять, почему оно мне нравится и почему я считаю, что оно имеет прямое отношение к Кубу.