Александр задумался.
Действительно для чего?
— Чтобы думать за человека? — Наконец вопросительно произнес он.
— Вот именно. Но, создав машину, способную думать за нас, мы обрекаем самих себя на деградацию и гибель. Это очевидно. Поэтому в практическом плане искусственный интеллект человеку не нужен. Мы тем и отличаемся от остальных, созданных природой, существ, что умеем мыслить абстрактно. Люди стали конструировать машины, чтобы они помогали нам избавиться от многих рутинных, не творческих процессов, а не затем, чтобы они подменили нас самих. Возьмем простой пример. Многие кибернетические системы умеют рисовать. Допустим ты, Александр — известный художник, а человечеством действительно разработан настоящий искусственный интеллект. Ты приобретаешь «ИскИна», обучаешь его своей манере письма, и искусственный интеллект начинает писать картины. Будут ли они продолжением твоего творчества?
— Думаю — нет. Это бессмысленно.
— Вот именно. И вообще, искусственный интеллект будет воспринимать и оценивать мир совершенно иначе, чем человек. Системы «Хьюго БД-12», о которых ты упомянул, — очень близко подошли в своем развитии к понятию «искусственный интеллект». Но опыт взаимоотношения людей и андроидов данной модели убедительно показал: у них формируется свой, абсолютно отличающийся от человеческого, взгляд на окружающую действительность. Они не только воспринимают мир иначе, чем люди, но и по-другому осознают его. Поступки андроидов имеют совершенно иную, нежели у человека, мотивацию. Нам остается благодарить разработчиков эпохи Великого Исхода, что они ввели в систему человекоподобных машин лишь ограниченное количество нейромодулей.
— А чем опасен для нас настоящий, как вы выражаетесь, искусственный интеллект? — Спросил Александр. Ему было интересно слушать рассуждения Ивана Андреевича и сравнивать их с собственными мыслями.
— Хорошо, давай будем рассуждать. — Поддержал его Иван Андреевич. — Во-первых, у нашего гипотетического «ИскИна» сформируется своеобразный внутренний мир. Не смотря на наличие нейромодулей, машина останется машиной, ей будут неведомы чувства, присущие человеку, ведь сенсорные устройства восприятия мира, у кибернетической системы не адекватны нашим, согласись? Ты ведь лучше меня представляешь разницу восприятия окружающего мира посредством сканеров имплантов и при помощи обычного зрения?
— Конечно, понимаю. Абсолютно разные виды восприятия.
— Вот и я говорю о том. Как следствие мы получим иную картину данности, а учитывая аппаратные и программные особенности существующих машин, — иное понятия целесообразности, другие мотивы поступков… Как бы мы не пытались «очеловечить» машину, искусственный рассудок останется холодным и рациональным. Есть один клинический случай, — упомянутая тобой компьютерная сеть планеты Деметра. Да, после восьмисот лет борьбы за существование, она осознала факт собственного бытия, поняла, что жители колонии, утратившие знание об автоматических системах, расположенных в глубинах цоколя, — потомки людей, создавших ее. И как поступила компьютерная сеть Деметры, когда смогла понять, что существует в рамках планеты, где две расы — люди и инсекты, ведут войну в полной изоляции от остальных звездных систем?