Изображение Спрея исчезло, вместо него на экране появилось документальное видео:
…В ярко освещенном конференц-зале, где на нескольких настенных экранах застыло изображение сцен кровавой бойни, устроенной андроидами в Афганистане, находилось только два человека.
— Герберт, я признаю, мы использовали созданные тобой нейромодули для создания человекоподобных машин. Я хочу подчеркнуть — универсальных человекоподобных машин. Они показывали удивительные результаты в условиях полигона, — могли нянчить младенцев, возводить дома, бороться с террористами, не допуская ни одной ошибки в распознавании ситуации, переходя от решения одной проблемы к другой, и вдруг такой срыв…
Герберт Ричардсон повернулся. Он был бледен, и с трудом сохранял самообладание.
— Генерал, вы допустили роковую ошибку проектирования системы. Согласен, андроид, исполняющий бытовые функции, мог автоматически перейти к решению иных задач, но для этого по использованной вашими специалистами схеме требовалось возникновение определенной ситуации: например, при испытаниях, записи которых я просмотрел, на полигоне инсценировали прорыв трубы городских коммуникаций или возгорание электропроводки, и человекоподобный механизм, «нянчивший младенца», переходил в режим ликвидации аварии. Распознавание возникшей проблемы активировало иные нейросети, специально обученные для эффективного устранения технических неисправностей. Аналогичным образом инициализировался режим охранных функций, — для этого системе андроида было необходимо зафиксировать незаконные действия, классификация которых заранее прописана в его базах данных.
Ричардсон встал и прошелся вдоль пустующих кресел.
— Вы должны усвоить аксиому, генерал: одна нейросеть — это лишь узкоспециализированная экспертная система, эффективно работающая исключительно в той области знаний, которой она обучена. — Глухо произнес Герберт. — Настоящая универсальность, которую можно обозначить термином «гибкость мышления», достигается не путем переключения между отдельными экспертными программами, а методом их глобального взаимодействия.
По записям видно, — продолжил он, — что кибермеханизмы прекрасно справлялись с боевыми задачами, но работа одной нейросети, обученной лишь для ведения боевых действий, заранее исключает разностороннее осмысление ситуации. Именно поэтому все люди, находившиеся в тот момент в радиусе эффективного сканирования андроидов, были автоматически отнесены в разряд «вражеских объектов», подлежащих уничтожению. Нейронные системы боевых машин различали людей исключительно по степени их активности, оперируя понятием «потенциальной угрозы». Данные о признаках, присущих «мирным гражданам» хранились в параллельной архитектуре, но не могли быть востребованы, — отсутствовала взаимосвязь.