То есть не то, что мы о себе думаем или, например, как мы выглядим (это нужно лишь для того, чтобы нас идентифицировать), а именно всю — то есть всё о нашем действительном поведении, способах принятия решения и наших желаниях.
Собственно это, вероятно, и пугает Маска больше всего — не случайно же он говорит об искусственном интеллекте как об «экзистенциальной угрозе» человечеству.
Представьте, что машина начинает предугадывать наши желания, — мы и сами-то со своими желаниями не способны разобраться, но она справится, ведь знает не только то, что мы думаем, но и то, как действуем.
Само по себе это, наверное, и неплохо. Но где, например, гарантия, что искусственный интеллект распорядится соответствующим знанием в наших с вами интересах?
Если он будет знать наши желания, он сможет и влиять на них, управлять ими, то есть — нами. Поэтому, надо полагать, Маек и ополчился на Google (а отчасти и на Facebook), хотя и уходит от прямых вопросов на эту тему.
Интернет-гиганты совсем не так давно вышли на точку безубыточности, а реальные вложения и вовсе далеки от окупаемости. Ставка изначально делалась не на прибыль, и не за прибыль сюда вкладывались инвесторы.
Ставка делалась на завоевание максимального объёма рынка — на количество пользователей, захваченных тем или иным ресурсом. Google (и поглощённый им YouTube), Facebook(n поглощённые им Twitter, Instagram), Apple, Яндекс и т. д. — все это своего рода виртуальные империи, в буквальном смысле колонизирующие народы и создающие свои квазигосударства.
Вопрос лишь в том, как этим империям управлять своими гражданами и какой бенефит из этого можно извлечь. Пока прежние политические системы деградируют, новые игроки политического рынка — интернет-гиганты — превращаются в протогосударственных монстров.
Я всегда считал, что состояние рабства должно определяться следующим образом: тебе платят не за то, что ты делаешь, а за то, что ты просто есть (ну, а что тебе делать или не делать — уже не твоего ума дело).
Вот, собственно, по этому принципу и развиваются эти новые империи — мы у них есть: рабы и папуасы глобальной сети Интернет, которые даже не догадываются, что их «уже посчитали».
Сейчас в штаб-квартирах новых мировых интернет-империй создаётся искусственный интеллект, который будет управлять нами изнутри системы. И бьюсь об заклад, что его создатели сами ещё не знают, как этой безумной и неограниченной властью распорядиться.
Полагаю, пока они рассуждают типичным для таких случаев образом — завоюем, поработим как следует, а потом уж решим, что со всем этим делать.