Но откуда берутся эти мощные алгоритмы? Если изначально алгоритм являлся продуктом коллективных усилий команды программистов, то постепенно, считает Харари, с появлением самообучающихся машин и искусственных нейронных сетей алгоритмы будут развиваться независимо от человека, обучаясь на своих ошибках и совершенствуя свои способности. Они достигнут таких высот, что человеческий разум уже не сможет их постичь.
По мере того как алгоритмы будут «выдавливать» людей из рынка труда, богатство и власть сосредоточатся в руках крохотной элиты, владеющей этими всемогущими алгоритмами, создавая неслыханное социальное и политическое неравенство. Более того, алгоритмы смогут сами стать собственниками. Мы давно свыклись с такими абстрактными понятиями, как корпорация или государство, и нас не удивляет, что «Тойота» или Аргентина, не имея ни физического тела, ни разума, является субъектом права, владеет землей и деньгами. Почему тогда не представить себе, что аналогичный статус будет предоставлен алгоритму?
Об утрате индивидуальности
Угрозу либерализму Харари видит в том, что человек в будущем утратит свою индивидуальность, поскольку «всемирная сеть» будет знать и понимать людей лучше, чем они понимают себя сами, и, соответственно, принимать за них все важные решения. Если мы предоставим «Гуглу» свободный доступ к информации, считываемой с наших биометрических устройств, к нашим историям болезни, сканам ДНК, и «Гутл» будет знать, что происходит с нашими банковскими счетами, какой у нас уровень сахара в крови и как часто мы занимаемся сексом, то. конечно, он будет знать о нас больше, чем знаем мы сами. И мы будем доверчиво советоваться с «Гуглом», какой фильм посмотреть, какую профессию выбрать, чье предложение о работе принять и за кого выйти замуж/жениться.
В обмен за такие всеобъемлющие консультации мы «всего-навсего» должны будем отказаться от идеи, что каждый человек индивидуален и свободен принимать собственные решения. Нам нужно будет свыкнуться с мыслью, что человек более не является автономной сущностью, а представляет собой частичку огромной глобальной сети. Уже сейчас исследование показало, что алгоритм «Фейсбука» лучше разбирается в особенностях личности и характера пользователей, чем их друзья, супруги и родители.
На заре европейского империализма купцы и колонизаторы приобретали острова и страны в обмен на разноцветные бусы. В XXI веке личная информация является, пожалуй, самым дорогим ресурсом, который еще остался у человечества, а мы ее добровольно отдаем гигантам интернета в обмен на видео с котиками.