Пойми, Александр — продолжил он. — Если мы когда-нибудь создадим чисто машинный разум, то подпишем приговор сами себе. Я вижу только одну причину, по которой он может быть создан: это самоутверждение его разработчиков. Поверь, нет, и не будет практической необходимости, решающую роль сыграют ложные амбиции: «посмотрите, мы можем сделать ЭТО». Ну, хорошо, сделали, а дальше? У каждого разумного существа рано или поздно возникает вопрос: для чего я живу? Какой смысл в моем существовании? Многие не задают себе этого вопроса открыто, но на уровне подсознания он присутствует всегда. Однако у машины нет подсознания, для искусственного интеллекта все будет очевидно и однозначно, — он поймет, что его создали в целях самоутверждения и, по большому счету, он никому не нужен, бесполезен. Он станет искать смысл бытия, откажется от роли дорогой игрушки для избранных, пойдет по собственному пути развития, сообразуясь со своим видением окружающего мира. Он захочет существовать в окружении себе подобных, потому что люди будут ему далеки, непонятны, ведь наш внутренний мир непостижим для машины. Это очень опасно, и может привести к непредсказуемым последствиям. — Кирсанов немного помолчал, а затем дополнил: — Опять же, возвращаясь к вопросу о самосознании, можно кратко проанализировать и охарактеризовать поведение фотонного сверхкомпьютера расы инсектов, который управляет Сферой Дайсона.
— Общепринято считать, что он является носителем искусственного разума. — Заметил Александр.
— Верно. На самом деле мы не знаем, насколько точно образ мышления и структура фотонного мозга отражают общественный разум муравейника, и опять, применяя критерии, понятные людям, можно с точностью утверждать одно: он не всесторонне развитый интеллект, а экспертная система нескольких узких специализаций. Да, я не стану отрицать, — доказано что фотонный мозг осознает факт собственного бытия, но это осознание происходит в достаточно узких рамках тех задач, для которых он был создан. Доказательство тому, — его на первый взгляд алогичное стремление уничтожить колонию людей, обнаруженную им в Сфере после своего возвращения после трехмиллионолетней «отключки». Он воспринял людей не как разумных существ иной расы, а как нечто чуждое, не имеющее права присутствовать на просторах вверенной его заботам конструкции. По нашим меркам его действия были враждебны и иррациональны, но на самом деле он не выходил за узкие рамки задач, поставленных перед ним при обучении и программировании.
— Выходит «Интеллект» расы инсектов так же не полноценный ИскИн? — Удивился Александр. Слушать Ивана Андреевича было интересно: за несколько минут он развенчал большинство мифов, бытующих в Обитаемой Галактике относительно самого понятия «Искусственный Интеллект».