не получим машины, которая все это будет делать. Но при этом пройдет, может, не так много времени, прежде чем нечто наподобие AlphaGo сумеет принимать решения об условно-досрочном освобождении из мест заключения, устанавливать сумму залога, водить аэропланы или учить наших детей.
По мере прогресса искусственного интеллекта машины вполне могут интегрироваться с нашими телами, домами или средствами передвижения, рынками и судебными системами, творческими предприятиями и политикой. Мы, люди как общество, уже намного разумнее, чем как отдельные его представители. Мы часть коллективного разума. Продолжая интегрироваться с нашими сетями и нашим обществом, машины становятся «расширениями» нашего разума, творя вместе с нами единый расширенный интеллект.
Кое-кто из сингулярщиков (нет, честно, худшее из названий любого культа всех времен и народов!) считает, что еще немного — и искусственный интеллект окажется вполне способен оставить без работы множество людей. Может, это и так, особенно если смотреть на вещи в краткосрочной перспективе. Другие, однако, возражают, что рост производительности позволит обеспечить людям, которых вытеснили машины, постоянный базовый доход. В то же время многих беспокоит другая сторона проблемы: работа дает нам чувство собственного достоинства, социальный статус и стабильность, а значит, нужно уделять больше внимания тому, как мы будем себя развлекать и что станет предметом нашего самовыражения (возможно, это будут научные или творческие проекты), чем простому обеспечению средств к существованию.
Также следует задаться вопросом о том, как люди и машины сумеют работать вместе и как обеспечить, чтобы искусственные разумы, живущие с нами бок о бок, разделяли наши ценности и наши морально-этические принципы даже по мере их эволюционирования. Существует один многообещающий подход, который Ияд Рахван, руководитель группы «Масштабируемое сотрудничество» в Media Lab, именует машинным обучением, — «общество в контуре управления». Этот подход предусматривает использование социальных норм в тренировке и контроле искусственного интеллекта, при этом формируется система коэволюции людей и машин[384].
В 2016 году Министерство обороны США выделило 3,6 миллиарда долларов на разработки в области искусственного интеллекта. И все же исследователи искусственного интеллекта как в научных, так и в промышленных кругах призывали и призывают к созданию мира будущего, в котором машины и люди, которые их обучают, будут наравне с общественностью участвовать в открытых дискуссиях. Вопрос стоит так: не являемся ли мы свидетелями соперничества между попытками открытого общества создать ОИИ и засекреченными в военных лабораториях разработками, нацеленными на тот же результат? Или же золотой век открытых исследований искусственного интеллекта медленно движется к завершению, пока частные компании, яростно конкурируя друг с другом, все ближе и ближе подходят к «ответу»?