ПАТ: Для меня все, происходящее в клетках, кажется “мокрым” и “скользким”, а то, что происходит в машинах — “сухим” и “жестким”. Мое ощущение связано с тем, что компьютеры не совершают ошибок и делают только то, что мы им велим. По крайнем мере, таково мое представление о компьютерах.
СЭНДИ: Любопытно — минуту назад это был образ огня, а теперь ты говоришь о “мокром” и “скользком”. Не чудесно ли, насколько противоречивыми мы можем быть?
ПАТ: Пожалуйста, оставь свой сарказм при себе.
СЭНДИ: Никакого сарказма — я действительно считаю это чудесным.
ПАТ: Это просто пример неопределенности человеческого ума — в данном случае, моего.
СЭНДИ: Верно. Но твой образ компьютеров застрял в наезженной колее. Компьютеры вполне способны на ошибки — и я не имею в виду ошибки на уровне аппаратуры. Вспомни о сегодняшних компьютерах, предсказывающих погоду. Они могут выдавать неверные прогнозы, хотя их программа при этом работает безукоризненно.
ПАТ: Только потому, что в них ввели неверные данные.
СЭНДИ: Вовсе нет! Это происходит потому, что предсказание погоды — слишком сложное дело. Любая подобная программа обязана обходиться ограниченными данными — при этом совершенно верными — и делать выводы на их основании. Иногда прогноз получается ошибочным. Компьютер здесь не отличается от фермера, стоящего на своем поле и глядящего на тучи: “Думаю, что сегодня ночью выпадет снежок…” Мы создаем у себя в голове модели и используем их, чтобы предвидеть, как себя поведет мир вокруг. Мы должны обходиться нашими моделями, какими бы неаккуратными они ни были. А если у кого-то они окажутся слишком неаккуратными, естественный отбор выполет его, как сорную травку — он свалится с обрыва, или что-нибудь подобное. С компьютерами дело обстоит точно так же. Просто так человеческие дизайнеры ускоряют эволюционный процесс, ставя перед собой задачу получения искусственного интеллекта, в то время как природа набрела на это случайно.
ПАТ: Так ты думаешь, что компьютеры будут ошибаться тем меньше, чем умнее они будут становиться?
СЭНДИ: Как раз наоборот. Чем умнее они будут, тем чаще им придется иметь дело с запутанными, как сама жизнь, проблемами, так что они, скорее всего, будут строить все более неаккуратные модели мира. Для меня ошибка — это признак высокого интеллекта!
ПАТ: Ну и ну! Ты меня удивила!
СЭНДИ: Наверное, я и правда необычный защитник машинного интеллекта. В какой-то мере я и сама колеблюсь. Я думаю, что машины не будут разумными по-человечески, пока в них не появится некая биологическая “влажность” и “скользкость”. Я не имею в виду, что они должны быть влажными в прямом смысле слова — это может быть влажность на уровне программы. Но даже если они будут в какой-то степени биологическими, разумные машины будут оставаться машинами. Мы будем их разрабатывать и создавать — или же растить. Мы будем знать, как они работают, — по крайней мере, до известной степени. Возможно, что никто в отдельности не будет способен их понять полностью, но коллективно люди будут понимать, как они работают.