— Но ведь пользователи Зеркал с пеной у рта утверждают, что качество их жизни значительно улучшилось.
— Наркоманы тоже могут сказать, что употребление крэка улучшает качество их жизни. По крайней мере, когда они под кайфом.
— Значит, ты полагаешь, что Зеркала вызывают привыкание?
— Не обязательно привыкание, но, безусловно, зависимость. Любители навигаторов практически неспособны самостоятельно сориентироваться в незнакомом городе. А люди, постоянно прислушивающиеся к своим Зеркалам, постепенно утрачивают способность самостоятельно мыслить! Но если за тебя думает зеркальная сеть, ты фактически становишься беспомощным против любого типа манипуляции.
— По-твоему, к чему это может привести?
— Во-первых, к тому, что будут продаваться только строго определенные товары. Будут избираться строго определенные правительства. Будет решаться судьба каждого человека: кого ему любить, на ком жениться, какие книги читать, какую профессию выбрать. С середины двухтысячных мы сталкиваемся с серьезной проблемой: информация, которую мы получаем каждый день, становится все более монополизированной и индивидуализированной. Взять хотя бы "Гугл". Результаты поиска, которые он предоставляет, кажутся нейтральными На самом деле они удовлетворяют твои предполагаемые потребности силами рекламной индустрии. Если ты не настроишь браузер особым образом, ты раз за разом будешь видеть только то, что соответствует твоим предпочтениям и склонностям, месту жительства, возрасту, полу и так далее. Ты получаешь лишь кажущуюся реальность и имеешь только то, что, в понимании "Гугла", ты хочешь иметь. Твои предпочтения складываются раз и навсегда, а всё, что может натолкнуть на новые идеи, просто пропадает. Это называется фильтром персональных настроек.
— Какое же это имеет отношение к Зеркалам?
— Достигаемый эффект, связанный с Зеркалом, в десять раз сильнее, чем тот, что связан с "Гуглом". Самое малое в десять раз. Во-первых, Зеркало знает тебя намного лучше, поэтому его фильтры более совершенны. Во-вторых, оно гораздо больше вмешивается в личную жизнь владельца, поскольку эти штуки постоянно поддерживают связь друг с другом. Весь ужас заключается в том, что невозможно отследить, почему твое Зеркало дает тебе тот или иной совет.
— За этим стоят какие-то алгоритмы, верно?
— В принципе, да. Но очень сомневаюсь, что кто-нибудь досконально знает, как работают эти алгоритмы и как их оптимизирует зеркальная сеть.
— Но специалисты из "Уолнат Системс" должны досконально разбираться в этом?
— Необязательно. Нейронная сеть учится самостоятельно и разрабатывает собственную стратегию для достижения целей. Все, что ей для этого требуется, — это данные и функционал, который должен постоянно улучшаться. Речь идет, например, о степени удовлетворения пользователей. Сеть опробует какие-то функции, и, если пользователь находит, что это хорошо, оптимизация продолжается в этом направлении. Проблема в том, что с этого момента больше никто не будет знать наверняка, как именно работает система.