Впрочем, конкретные субъективные самоотчёты — «радость», «страх», «напряжение» и т. п. — как вы
понимаете, не имеют для существа дела никакого значения. Как соответствующие состояния назывались в нашем детстве, такие обозначения мы теперь им и приписываем. Важно другое — наши отношения с целью.
Так важно ли, что искусственный интеллект не испытывает и, возможно, никогда не будет испытывать «эмоций»? Нет, и это никак не скажется на эффективности его работы, если все остальные принципы — наличие цели и наличие механизмов оценки дистанции до неё (включая способы получения данных из окружающей среды) — будут соблюдены.
То же, каким именно образом эти принципы будут реализованы, — это сугубо технический вопрос.
«Люди даже не знают, что имеют в виду, когда говорят о разуме. В действительности довольно забавно, что они хотят сконструировать системы с искусственным интеллектом, сравнимым с их собственным, поскольку совсем непонятно, что они имеют в виду, когда говорят о своём интеллекте. Это одна из многих глупостей, которые преследуют человечество уже много веков».
ЭРНСТ ПЁППЕЛЬ, нейробиолог, директор Института медицинской психологии на медицинском факультете Мюнхенского университета
И всё-таки, как же сверхразумному искусственному интеллекту осознать себя? Для ответа на этот вопрос нужно прежде всего понять, как мы сами себя осознаём, иначе ведь непонятно, о чём мы говорим, когда говорим о самосознании.
Если вы не против, я попрошу вас с этой целью поучаствовать в небольшом психологическом эксперименте, который пойдёт в два этапа.
• На первом этапе нужно просто уставиться в одну точку — любую, на ваш выбор. Задача простая — присмотритесь, так сказать, к собственной «осознанности». Вы услышите словесное выражение ваших мыслей.
Скорее всего, вы будете описывать то, что вы делаете. Спросите себя: зачем вы это делаете? Потом — насколько вы правильно это делаете? Сколько вам надо это делать? Ну и, конечно, будут ещё какие-то посторонние мысли, не связанные с упражнением. Приступайте!
• Переходим ко второму этапу — вам предстоит сделать то же самое, что и на первом, но теперь не пытайтесь расслышать то, что бормочет ваша внутренняя речь, а наоборот, попробуйте её остановить, заткнуть. Попробуете?
Проанализируем наш следственный эксперимент, и варианта у нас всего два:
• вы или смогли остановить свою внутреннюю речь и впали в состояние прострации (поздравляю, у вас есть какой-никакой опыт в медитации, даже если вы об этом не знаете);
• или вы не смогли остановить свою внутреннюю речь, потому что на самом деле это очень сложно, почти невозможно сделать — она в нас не останавливается ни днём, ни ночью, какие-то предательские мыслишки всё равно где-то на заднем фоне копошатся.