Некоторые, как, например, соучредитель компании Sun Microsystems Билл Джой, высказывают опасения следующего порядка: как бы мы не создали роботов, ускользающих из-под нашего контроля, которые окажутся способны захватить Землю. Подобные высказывания ассоциируются у меня с фантастическими историями. С другой стороны, протагонисты искусственного интеллекта предлагают свои долговременные пророчества. Например, Рэй Курцвейл говорит о дне, когда посредством нанороботов можно будет внедриться в человеческий мозг, оцифровать каждый синапс и каждую нейронную связь, а потом передать полученную информацию в сверхмощный компьютер! Так можно будет «сконфигурировать» любого из нас. Хотите ли вы стать «программной» версией самого себя, которая будет практически бессмертна? Эти два прогноза, касающиеся искусственного интеллекта, – сценарий «Разумная машина впадает в бешенство» и сценарий «Ваш мозг загружается в компьютер» – кажется, никогда не перестанут будоражить умы людей.
Машина, обладающая интеллектом, и самореплицирующаяся машина – совсем не одно и то же. Между ними вообще не существует логической связи. Ни мозг, ни компьютер не обладают свойством саморепликации. Мозгоподобная система памяти тоже таким свойством не обладает. Ключевым преимуществом создания разумных машин является то, что мы сможем наладить их массовое производство, что совершенно не имеет ничего общего с саморепликацией бактерий или вирусов. Саморепликация не требует наличия разума, а наличие разума не нуждается в саморепликации.
И наконец, я сильно сомневаюсь в возможности когда-либо воссоздать в цифровом виде человеческий мозг. Методов, позволяющих записать миллиарды подробностей, из которых состоит «я» любого из нас, не существует на сегодняшний день, и вряд ли они когда-либо появятся. Для этого понадобилось бы оцифровать и воссоздать всю нервную систему конкретного индивида и все его тело, а не только кору головного мозга. Даже если в очень отдаленном будущем это станет возможным, задача расширяется намного больше, чем воссоздание работы неокортекса. Открыть алгоритм коры головного мозга и вмонтировать его в машину – это одно, но вот оцифровать миллионы операционных подробностей живого мозга и перенести их в кремний – совершенно другое.
Помимо саморепликации и копирования разума, высказываются и другие опасения. Могут ли разумные машины оказаться угрозой для больших групп людей, как это было в случае с атомной бомбой? Может ли их наличие привести к концентрации огромной власти в руках небольшой группки злоумышленников? Могут ли такие машины обернуться во зло и начать бороться против людей, как это было с героями «Терминатора» и «Матрицы»?