Изменение некоторых элементов сложной системы всегда приводит к эффектам второго уровня, которые порой противоречат первоначальной цели этого изменения. Связи между элементами могут быть настолько запутанными, что, скорее всего, никому не захочется их распутывать. Но, согласно принципу неизвестности, последствия проявятся независимо от того, хотите вы этого или нет.
Поэтому тщательно обдумывайте изменения, которые вы вносите в сложную систему: то, что вы получите «на выходе», может кардинально отличаться от ваших ожиданий.
Проблема не в том, что в жизни есть проблемы. А в том, что мы думаем, будто наличие проблем — это тоже проблема.
Теодор Рубин, врач-психиатр, автор популярных книг
Космический шаттл — транспортное средство с пассажирами на борту, способное преодолеть земное притяжение, бесспорно, чрезвычайно сложная система. Космический корабль с тремя ускорителями, несущими миллионы кубических футов взрывчатого водородного газа, однозначно является связанной системой. Любые ошибки в подобных системах могут привести к каскаду катастрофических последствий.
В 1986 году шаттл «Челленджер» потерпел катастрофу: уплотнительное кольцо одного из ускорителей замерзло и стало очень хрупким. Нагревшись во время старта, оно разорвалось. «Челленджер» взорвался на 73-й секунде полета, что привело к гибели всех членов экипажа.
Конечно, всегда хочется создать систему, в которой все будет идеально. Но в реальной жизни такого не бывает. Помните об этом.
Теория обычных аварий — это эвфемизм для широко известного выражения «всякое бывает». Небольшие риски в сильно связанной системе постепенно накапливаются и неизбежно приводят к ошибкам и авариям. Чем больше и сложнее система, тем выше вероятность того, что что-то обязательно пойдет не так.
Слишком остро реагировать на обычные аварии не стоит — это непродуктивно. Столкнувшись с подобными случаями, мы начинаем паниковать и пытаемся изобрести дополнительные средства контроля, чтобы застраховаться от повторений. Но от нововведений становится только хуже: они усложняют и еще теснее связывают оригинальную систему, увеличивая риск будущих аварий.
То, как отреагировало NASA на трагедию, случившуюся с «Челленджером», крайне поучительно: инженеры NASA не стали закрывать программу или вводить еще больше систем, которые бы только все усложнили. Они признали неминуемый риск и сосредоточились на поиске другого решения проблемы, которое бы минимизировало вероятность повторения катастрофы.
Чтобы избежать обычной аварии, лучше всего сразу же проанализировать возникшую поломку или дефект. Вместо того чтобы впадать в состояние систематической