Мой спутник умолк. Пораженный всем услышанным, я боялся нарушить тишину.
Так мы сидели несколько минут, пока он снова не заговорил:
— Работа над Суэмой и вообще вся эта история меня очень утомила. Я чувствую, что мне необходимо основательно отдохнуть, и, признаться, я не верю, что мне это удастся. И вы знаете почему? Потому что я никак не могу решить вопрос: как и почему я пришел к такому нелепому конфликту с самим собой?
Я посмотрел на него непонимающими глазами.
— Да, именно с самим собой. Ведь Суэма — это мое творение. Каждая деталь ее организма была придумана мной. И вот созданная мной машина вдруг посягнула на своего создателя. Где здесь логика? В чем здесь внутреннее противоречие?
Я подумал и сказал:
— А не кажется ли вам, что вы просто неумело обращались с Суэмой? Знаете, часто так бывает: человек, который не умеет обращаться с машиной, может быть ею искалечен.
Мой попутчик нахмурился.
— Может быть, вы и правы. Во всяком случае, эта аналогия мне нравится, хотя я не совсем себе представляю, какое нарушение в правилах обращения с Суэмой я допустил.
Я подумал и ответил:
— Мне, как неспециалисту, трудно судить. Но мне кажется, что ваша Суэма в какой-то степени походила на автомобиль без тормозов. Вы представляете, какие жертвы бывают, когда вдруг у автомобиля отказывают тормоза?
— Черт возьми, — воскликнул он, внезапно оживившись, — а ведь вы, кажется, очень даже правы! Вы себе не представляете, как вы правы! Да ведь это и у академика Павлова написано!
Так как я был глубоко уверен, что академик Павлов никогда и ничего не писал об автомобильных тормозах, я уставился на него с удивлением.
— Да-да, — сказал он, вставая и потирая руки. — Как я об этом не подумал раньше? Ведь нервная деятельность человека регулируется двумя противодействующими процессами — возбуждением и торможением. Люди, у которых отсутствует торможение, часто совершают преступления. Точь-в-точь как моя Суэма!
Он вдруг схватил мою руку и стал ее трясти.
— Спасибо вам. Спасибо! Вы подали мне замечательную мысль. Оказывается, я просто не предусмотрел в схеме Суэмы разделов, которые бы контролировали целесообразность и разумность ее действий! Нужно, чтобы заранее составленные программы определяли ее поведение — тогда она станет совершенно безопасной для человека. Это и будет аналогом нашего торможения.
Теперь лицо моего попутчика радостно сияло, глаза искрились, он весь преобразился.
— Значит, по-вашему, можно построить безопасную Су-эму? — спросил я неуверенно.
— Конечно, и очень даже просто. Я уже представляю, как это сделать!