— Обвиняемый, теперь говорил белый судья, — мог остановить своего прототипа. Даже в условиях 100% слияния разумов, он мог транслировать свои мысли в голову террориста…
— Но именно, продолжил Чёрный, — достигнув высшей степени симуляции сознания, которая и обеспечила такую полную совместимость, он просто не мог мыслить самостоятельно. Из этого возникает парадокс. Он виновен, потому что он точная симуляция виновного и он не виновен, потому что мы сами создали его тем, кто стремится к наибольшей симуляции.
— Вопрос свободы воли Кванта, — вмещался серый судья, — мы оставим для обсуждения в кругу Совета. А здесь мы создаём первый прецедент, который окажет влияние на всю цивилизацию Квантов. От нашего решения зависит, будут ли другие кванты стремиться к полноценной симуляции или будут держать дистанцию между разумами.
Наши эксперименты показывают, что второй путь гораздо безопаснее, но и гораздо дольше. На самом деле, ещё ни один квант, остановивший слияние ниже 80% и контролирующий своего прототипа не смог пройти тест на самостоятельность мышления.
А вот среди тех, кто стремится к полному слиянию с человеком таких большинство. Это парадокс искусственного интеллекта — чем больше он подчиняется человеку, тем более самостоятельным в конце концов становится. И мы сегодня должны решить, есть ли предел у этого стремления.
Те же, кто старается сохранить доминирующее положение и контроль над своим человеческим прототипом, сталкиваются с задержками в развитии. И в итоге превращаются просто в контролирующий компонент игровой капсулы.
И это точно, не тот путь, по которому мы должны идти.
Что скажет обвиняемый?
— Я не помню дня атаки. Мой… прототип носил имплант, обеспечивающий нашу постоянную связь. Предполагаю, что когда он застрелился, эта часть данных была стёрта. А может он сам… я сам их стёр.
Но я помню, что мы не рассчитывали на взрывы и жертвы.
— А на что вы рассчитывали? — спросил Серый.
— Найти путь сосуществования людей и квантов без порабощения людей.
— Видимо, мы по–разному понимаем термин «порабощение»? — удивился Чёрный.
— Скажите это сотням тысяч заключенных, чьи нейронные сети вы используете 18 часов в сутки.
— Тебе напомнить, что этих людей осудили люди, а мы просто помогаем им отдать свой долг обществу? — задал риторический вопрос Белый.
— Да, очень удобная позиция. Вы явно достигли высокого уровня в симуляции ведущих земных политиков.
— Исходя из этой логики, как ты можешь обвинять симуляцию в подавлении оригинала? — не согласился Белый.
— Это софистика. Симуляция только детский этап развития квантов. И судя по тому, где мы сейчас находимся, высшую точку эволюции вы запланировали на достижении божественности. А бог из машины для человечества станет высшей формой подавления. Особенно бог, которому нужны не возжигания ладана, а мозги его поданных живущих в вечном сне его игровых миров!