(http://n-dimitar.hit.bg/PROEKT_RU/New%20 Ter.htm).
Существует более реальная опасность: безумцы могут превратить самовоспроизводящихся роботов в оружие, намного более опасное, чем современное оружие массового поражения. Фильм «Терминатор» смотрели?
И что же – надо запретить универсальных роботов? Я убежден, что никакие договоры и запреты не смогут остановить технический прогресс. Зато при наличии доброй воли роботы могут быть сделаны вполне предсказуемыми и контролируемыми.
Еще одна проблема заключается в том, что люди связывают роботов-андроидов с искусственным интеллектом (ИИ). А интеллект означает возможность учиться и изменяться самостоятельно, возможность генерировать свои цели и желания. А они способны вступить в противоречие с теми задачами, которые люди ставят перед искусственным интеллектом. Вот вам и конфликт ИИ и людей! Вам, дескать, это нужно?
А не надо нам ИИ! Любую работу можно разделить на алгоритмы. В том числе на алгоритмы делятся и всякие возникающие в ходе работы «неожиданности». Так что пишем только жесткие программы, без всякого ИИ. А их можно делать блоками. УР знает то, что нужно для стандартной работы. Для решения проблем, возникающих раз в час или в день, он обращается к центральному компьютеру цеха или завода, где хранятся алгоритмы решения нестандартных ситуаций. А для того чтобы решить проблему, возникающую раз в месяц или в неделю (и которую не учли программисты), на заводе будет человек – дежурный инженер.
Вот все, что необходимо:
– в «софте» УР не должно быть никаких самообучающихся программ, а только жесткие алгоритмы;
– все автоматизированные комплексы должны быть постоянно открытыми для контроля со стороны центральной инспектирующей системы под руководством авторитетной международной организации.
– Но если все необходимое для общества и его членов станут производить самовоспроизводящиеся «интеллигентные машины», не приведет ли это к деградации людей?
– Если человеку не нужно использовать свой мозг, он его использовать и не будет. А значит, он медленно потеряет способность мышления, пока не превратится из разумного существа в обычное животное. Этому процессу будет помогать развитие развлекательной индустрии (то, что братья Стругацкие назвали «хищными вещами века»). Возьмем, к примеру, телевидение и персональный компьютер. Появление все новых и новых фильмов, игр и других развлечений приводит к тому, что становится все труднее оторваться от экрана, чтобы сделать нечто полезное.
Действительно, опасность деградации людей существует. Но ей, думаю, можно успешно противостоять.