– Слышал. Так все же – мыслит?
– Мы считаем, что нет. Что комплекс просто механически подбирает наиболее вероятный вариант вербального реагирования на основе имеющейся информации. По заранее определенным алгоритмам. Никакой свободы воли, чистая математика. Правда, тут есть один маленький нюанс…
– Какой?
– Твой отец называл это проблемой интерсубъективности. Если ты не считаешь тульпу мыслящей личностью – у тебя точно так же нет оснований считать такой личностью и меня. Вернее, основания тут совершенно одинаковы. Мы считаем других людей мыслящими лишь потому, что они похожи на нас; по аналогии. А программа на нас не похожа. Но это, сам понимаешь, основание довольно сомнительное.
Серфер упрямо мотнул головой.
– Но все же есть вероятность, что тульпа мыслит?
– Мы не можем с полной уверенностью этого отрицать. Если система становится настолько сложной, что ее реакции уже неотличимы от человеческих, никто не может сказать, каковы будут побочные эффекты.
– А как это связано со сложностью? – не понял Серфер.
– Видишь ли, искусственный интеллект моделирует мир как совокупность взаимодействующих объектов. Но по мере усложнения модели, начиная с какого-то момента, он вынужден включать самого себя в число рассматриваемых объектов. И свой прогноз относительно собственных реакций включать в общую систему прогнозов. Формально это и есть рефлексия. А чем это может сопровождаться, мы и представить не можем. Мы и о своем-то сознании практически ничего не знаем.
15 лет 24 дня, вечер
Серфер допил вторую кружку и почувствовал сильное желание облегчиться.
– Где у тебя туалет? – спросил он.
– Первая дверь налево, не заблудишься.
– А я сейчас точно в настоящей реальности? Не в твоем кресле?
– В самой что ни на есть реальной реальности, – подтвердил КуДзу, – можешь не сомневаться.
Серфер вышел. Когда он вернулся на кухню, вопрос, не дававший ему покоя весь вечер, наконец окончательно оформился.
– Я вот что подумал – если тульпа подобна нам, если она мыслит и осознает себя, то, очищая оперативку, мы же каждый раз ее убиваем?
КуДзу удивленно посмотрел на него.
– Эк ты загнул! Я как-то об этом не думал. Навскидку могу сказать, что мы ведь тоже умираем каждый миг и возрождаемся в каждом новом кванте сознания.
– Но у нас есть непрерывность памяти! – возразил Серфер.
– Каждая тульпа создается с полным объемом памяти – а значит, и с точно такой же иллюзией непрерывности. От нашей иллюзии она ничем не отличается. К тому же для тульпы можно сохранять память обо всех ее вызовах, это тоже не проблема. Но лучше бы ты не зацикливался на вопросах о смерти. Потому что, как ни крути, а придешь к тому, что и тут мы от тульп тоже не слишком отличаемся.