Именно эту задачу и поставили ботам в 2018 году специалисты отдела Facebook по исследованию возможностей искусственного интеллекта (FAIR). И сначала всё шло прекрасно.
ИИ-Боб, например, предлагал ИИ-Алисе: «You get one book and ГМ take every thing else». Алиса предусмотрительно отвечала: «No way, I need all 3 hats». «ГП give you 2», — говорил Боб в ответ, и ребята договаривались.
Flo в какой-то момент этот задушевный диалог стал странным образом видоизменяться и наконец превратился в нечто совершенно невообразимое.
Вот фрагмент стенограммы этого разговора двух искусственных интеллектов, «сошедших с ума»:
Bob: i can i i everything else…………..
Alice: balls have zero to me to me to me to me to me to me to me to me to
Bob: you i everything else…………..
Alice: balls have a ball to me to me to me to me to me to me to me
Bob: i i can i i i everything else…………..
Alice: balls have a ball to me to me to me to me to me to me to me
С каждой следующей строкой текст всё более и более усложнялся, а масштабы коммуникации между Бобом и Алисой росли буквально в геометрической прогрессии.
Испуганные сотрудники отдела исследований суперспособностей, — ой, простите, — способностей искусственного интеллекта просто вырубили машину от греха подальше.
Последующий анализ показал, что ИИ-индивидуумы, участвующие в этих своеобразных виртуальных торгах, перешли на более удобный для них язык. На кону стояли баллы, которые они могли заработать, а английский язык, как оказалось, не так уж хорош. И боты на ходу придумали свой, категорически непонятный их собственным разработчикам язык.
Лингвисты Пенсильванского университета показали, что новый язык, изобретённый ботами в этих торгах, вовсе не бессмысленен: там, где, как нам кажется, идёт повтор фразы, на самом деле меняется порядок слов, и собеседник в своих ответах каждый раз реагирует на эти изменения, что свидетельствует о том, что для него они несут разный смысл.
Проще говоря, два предельно примитивных бота, обменивающиеся, по сути, ничем за ничто, могут воспользоваться друг другом, чтобы этот процесс шёл лучше!
Перед нами, иными словами, самая настоящая социальная коммуникация, которая, надо сказать, выглядит куда более осмысленной и продуктивной, чем обычная — наша с вами.
Мы недооцениваем способность искусственных интеллектов к кооперации и, напротив, слишком переоцениваем свою — человеческую — социальность, нашу способность объединять усилия, действовать по-настоящему совместно и скоординированно.
Наши амбиции, продиктованные животной природой человека, его иерархический инстинкт и извечные притязания на власть, когнитивное искажение «владения»