В своей замечательной работе "Суперинтеллект" философ Ник Востром предрекает, что мы столкнемся с огромными трудностями, прежде чем компьютер с интеллектом, превосходящим человеческий, научится делать правильные, с точки зрения человека, выводы.
На фоне всех этих событий мне быстро стало ясно, что переписыванием моего романа "Система" дело не ограничится. Историю искусственного интеллекта, ускользающего от контроля своих человеческих создателей, пришлось пересказать полностью. Самое важное отличие новой книги от моего первого романа заключается в том, что на этот раз главные герои борются не с автономно действующей "злой" компьютерной системой, а с вышедшим из-под контроля зловещим альянсом, состоящим из манипулирующих устройств и их наивно-эгоистичных пользователей. Это кажется мне гораздо более реалистичным сценарием.
На этот раз моему воображению почти не приходилось выходить за рамки того, что уже сегодня технически возможно. Например, Зеркало, описанное в настоящем романе, имеет вычислительную мощность, которая примерно в десять раз выше, чем у "Айфона-6", и, вероятно, будет стандартной для новых смартфонов в течение следующих трех-пяти лет. Описанные методы интерпретации речи и механизмы развития нейронных сетей уже существуют и применяются такими компаниями, как "Гугл", "Фейсбук" и "Амазон", чтобы предсказывать и более или менее тонко влиять на поведение людей.
Конечно, я все-таки позволил себе несколько творческих вольностей. Я не утверждаю, что такая система, как зеркальная сеть, будет вести себя в реальности именно так, как я описал ее в этом романе. А люди, которые в какой-то момент смогут купить себе устройства, похожие на Зеркала, надеюсь, не будут такими глупыми и наивными, как некоторые из персонажей этой книги. С другой стороны, история показывает, что мы, люди, склонны игнорировать опасности и недостатки новых технологий, если их преимущества кажутся нам достаточно привлекательными. Глобальное потепление — лишь один из примеров. Когда я вижу, с какой готовностью большинство пользователей (включая меня) оставляют данные о себе и своих привычках в интернете, то начинаю опасаться, что наша коллективная наивность обойдется нам очень дорого.
Но я не пессимист. Как автор технотриллеров, я считаю своей задачей попытаться осознать возможные негативные последствия технического прогресса. Однако это не значит, что я боюсь техники. Я сам основал несколько высокотехнологичных компаний и среди прочего вместе с двумя товарищами по команде разработал приложение "Папего", которое позволяет читать печатные книги, подобные этой, на смартфоне. Если кто-нибудь когда-нибудь изобретет такое устройство, как Зеркало, я буду одним из первых покупателей новинки.