В архивах Глобального управления космическими полётами происшествие на разведывательной базе "Аляска", расположенной близ крупного уранового месторождения на планете Велес (звёздная система Эридан), помечено грифом "Несчастный случай". К сожалению, моё положение не позволяет мне ходатайствовать о пересмотре этого дела, хотя я располагаю набором аргументов в пользу того, что несчастным случаем происшествие назвать нельзя. Хочу отметить, что я не имею ни малейшего желания призывать к ответственности тех, кто допустил халатность при составлении должностных инструкций для членов экспедиции. Подобная мелочность мне не свойственна. Я лишь хочу добиться внесения изменений в эти инструкции, чтобы не допускать аналогичных происшествий в дальнейшем.
Разумеется, во многом инцидент произошёл благодаря роковому стечению обстоятельств и психологическим факторам членов команды, однако, подчеркну, его удалось бы избежать, если бы продиктованные мною неточности в инструкциях были устранены. Возможно, подобными заявлениями я заслужу репутацию перестраховщика, однако специфика моей деятельности заставляет меня предусматривать все варианты развития событий, которые вообще можно предусмотреть.
Начнём того, что в отмеченный день согласно штатному расписанию внутреннее дежурство на базе надлежало нести Тревору Хенегану, геологоразведчику экспедиции, тогда как Йорн Нильсен, кибернетик, на гусеничном вездеходе отправился к месту проведения горнодобывающих работ. Расстояние между карьером и базой не превышало двадцати километров, и инструкция в данной ситуации позволяла производить вылазки в одиночку, без сопровождения. Предполагалось, что в случае возникновения внештатной ситуации второй член экспедиции, используя вертолёт, сможет добраться до места аварии за приемлемое время. При этом в инструкции имеется оговорка, указывающая, что данное правило справедливо лишь для тех планет, плотность атмосферы и погодные условия которых позволяют пользоваться вертолётами и схожими транспортными средствами.
Замечу, что планета Велес согласно классификации уже упомянутого Глобального управления имеет уровень агрессивности среды "красный", и пребывание на её поверхности без специального снаряжения смертельно, а в специальном снаряжении - не рекомендовано. Уровень токсичности атмосферы таков, что пользоваться стандартным костюмом химической защиты на Велесе нельзя, так как агрессивная среда нарушает герметичность костюма уже через несколько часов. Добавлю, что в момент инцидента в исследуемой области Велеса наступил штормовой сезон.
Несмотря на все эти факты, одиночные вылазки на планете разрешены, так как плотность её атмосферы соответствует норме. Это абсурдное упущение должно быть устранено, и я не вижу смысла в дополнительных аргументах в пользу этого очевидного решения.
Чтобы должным образом продемонстрировать всю серьёзность происшествия, я приведу своё видение произошедших событий. Я сознательно прибегаю к субъективному изложению собственного мнения об инциденте, чтобы хотя бы частично поставить читателя на моё место. Разумеется, специфика моей работы может вызвать скепсис у большинства людей и даже заставить их усомниться в применимости таких терминов как "субъективность" и "собственное мнение". Поэтому постараюсь сделать свой рассказ настолько личностным, насколько мне это доступно.
После того, как Нильсен отбыл, Хенеган некоторое время занимался не необходимыми в сущности делами: заполнял судовой журнал, просматривал план геологоразведочных работ и даже просто бродил из угла в угол без явной цели. Наконец он, судя по всему, набрался смелости и вызвал меня через интерком. С некоторым сомнением в голосе он попросил меня рассказать о себе.
В моём распоряжении находилось досье Хенегана, и мне было известно, что специальными знаниями по кибернетике он не обладал. Разумеется, он был специалистом в области геологии и исследования недр и умел управлять соответствующей техникой, однако с мыслящими машинами дела иметь ему не приходилось, и, вероятно, о принципе их действия он имел самое смутное представление.
Поскольку я сам являюсь мыслящей машиной, квантовым компьютером последнего поколения, ответить на вопрос Хенегана для меня не составляло труда. Я предположил, что интересуют его не столь технические подробности моего мышления, сколь психологические. Не нужно быть гением, чтобы догадаться, что он, подобно многим людям, испытывал предубеждение по отношению к искусственному разуму. Программирование мыслящих машин - одна из самых сложных областей современной науки, синтетическая дисциплина от кибернетики и психологии, и неспециалистам, разумеется, тяжело иметь дело с искусственным разумом, ведь они не знают, как следует относиться к нему - как к живой личности или же как к компьютерной программе.
Не покривив душой, я уверил его в том, что эта самая душа у меня имеется, во всяком случае, в том значении, которое вкладывают в это слово люди. Я действительно обладаю личностью и осознаю себя. Я также обладаю способностью к рефлексии, и рефлексировать мне, полагаю, несравненно проще, чем человеку, поскольку весь свой мыслительный процесс я могу разложить на составляющие, вплоть до простейших логических операций. Несмотря на укоренившиеся предрассудки, мне полностью ясны все испытываемые людьми эмоции и чувства, хотя сам я им не подвержен. Моё собственное мнение об этом таково: разница между моим разумом и человеческим обусловлена тем, что люди сначала учатся мышлению, а потом - логике, а я, напротив, сначала научился логике и лишь потом - мышлению. Всё это я изложил Хенегану.
Весть о моей одушевлённости, судя по всему, обеспокоила его. Я поспешил уверить его в том, что эта одушевлённость никоим образом не может помешать моей функциональности. Я никогда не испытываю скуки, неудовольствия, не ощущаю несправедливости, не чувствую себя обделённым, нечувствителен к негативному отношению со стороны людей. Обладая личностью, я остаюсь машиной, и не испытываю по этому поводу никаких неудобств. Однако, сообщил я ему, имитация сострадания, участия, чувства юмора и даже иронии не составляет для меня труда. Абсолютные лицедейские способности служат мне для поддержания комфорта в общении с людьми - общаться с очеловеченной личностью им, как правило, беспримерно проще, чем с неодушевлённой программой.
Хочу заметить, что изложение своей беседы с Хенеганом я привожу не столько для того, чтобы создать полную картину событий, сколько для того, чтобы убедить читателя в том, что моя точка зрения может и должна быть расценена не только и не столько как чисто компьютерный анализ ситуации, но также и как личное мнение полноправного участника экспедиции. Я не претендую на звание человека, но и не хочу, чтобы меня путали с простой вычислительной машиной.
Как я уже упоминал, Хенеган был обеспокоен открывшейся ему информацией. Руководствуясь, по-видимому, всё теми же предрассудками, он спросил, обязан ли я подчиняться каждому приказу человека и ставить человеческую волю превыше всего. Я ответил ему шаблонно: я обязан подчиняться человеку, но в исключительных ситуациях имею право ослушаться прямого приказа, так как лучше и быстрее, чем человек, могу оценить обстановку. Я предполагал, что подобная формулировка напугает его. Так и оказалось. Он спросил, есть ли в моей конструкции блоки, препятствующие нанесению вреда человеку. Я ответил, что такие блоки не предусмотрены за ненадобностью, поскольку наносить вред человеку я не имею желания и иметь никогда не буду, поскольку это иррационально. Судя по всему, эта информация лишь несравненно усилила предрассудки Хенегана. Возможно, он начал бояться меня.
В связи с этим, вношу ещё одно предложение по изменению инструкции. Я склонен считать, что необходимо обязать каждого, кто работает совместно с квантовыми компьютерами, изучать азы кибернетики и психологии. Человек, не обладающий этими знаниями, испытывает сильнейшее предубеждение перед мыслящими машинами, и в некоторых ситуациях склонен трактовать их поведение как направленное на нанесение ему, человеку, вреда, и даже пытаться оказать помехи деятельности мыслящих машин.
Это предубеждение сыграло определённую роль в момент, когда произошёл собственно инцидент.
Через некоторое время после нашей с Хенеганом беседы я зарегистрировал на радарах возвращение вездехода Нильсена. Вездеход возвращался со скоростью, в полтора раза превышающей предусмотренную. Я счёл нужным на всякий случай произвести предварительное открытие внешнего шлюза, а также приведение в готовность медицинского отсека. Хенеган в это время находился в кают-компании, однако я не стал сообщать ему о ненормальной скорости вездехода, поскольку ситуация была далека от внештатной.
Однако она стала таковой, когда вездеход, отключенный, судя по всему от автопилота, вошёл в шлюз на неприемлемой скорости, ударился о переборку, заклинил внешнюю створку шлюза и, судя по всему, нарушил собственную герметичность. Пилот вездехода не подавал признаков жизни. Я объявил на базе красную тревогу и считал информацию с бортового компьютера вездехода.
Выяснилось, что на борту вездехода произошла авария. На его боковом стекле появилась трещина, когда вездеход, входя в шлюз карьера, задел осветительный плафон. Роковое стечение обстоятельств привело к этому событию. Во-первых, плафон не был предусмотрен оригинальной конструкцией шлюза и был добавлен позднее, поскольку кто-то счёл, что освещение шлюза недостаточно. Поэтому автопилот, в программе которого не содержалось упоминания об этом препятствии, не избежал столкновения. Во-вторых, трещина образовалась в месте, где боковое стекло соединяется с рамой и прикрыто прокладкой, поэтому Нильсен не смог зрительно обнаружить эту трещину. В-третьих, в момент удара атмосфера в шлюзе уже была очищена, давление было приведено в соответствие давлению внутри вездехода, поэтому бортовой компьютер не зафиксировал разгерметизации салона.
Проблемы начались, когда Нильсен собрался возвращаться на базу. Едва он покинул шлюз, ядовитый газ струёй проник в вездеход и нанёс Нильсену химический ожог дыхательных путей. Этого не случилось бы, если бы на Нильсене была надета маска химической защиты, которую по инструкции надлежит надевать даже внутри вездехода, однако он по халатности снял её. Сразу после отравления он немедленно надел маску, что позволило ему продержаться до возвращения на базу. Однако ожог горла не позволил ему заранее связаться со мной по радио, а передать сообщение азбукой Морзе он, очевидно, не додумался из-за паники или боли. В любом случае, отключив автопилот, он поехал на базу быстрее, чем полагается, и потерял сознание у самого шлюза, врезавшись в переборку.
Чтобы не допустить подобного стечения обстоятельств в дальнейшем, следует произвести ряд изменений в инструкции. Необходимо запретить несанкционированное изменение конструкции шлюза или, по крайней мере, обязать вносить соответствующие изменения в программу автопилота. Необходимо также предусмотреть меры контроля за тем, надета ли маска химической защиты на пилоте вездехода, поскольку предусмотреть разгерметизацию во всех случаях нельзя.
На всю работу с чёрным ящиком вездехода у меня ушло несколько микросекунд. Оценив обстановку, я разработал следующий план действий: очистить атмосферу шлюза с помощью вентиляции, открыть внутреннюю створку шлюза и отконвоировать Нильсена в медицинский отсек. Внешнюю створку шлюза заклинило, поэтому предполагалось повысить обороты вентиляторов до максимума и оставить их в таком положении при открытии внутренней створки, чтобы не допустить попадания ядовитой атмосферы на базу.
К сожалению, Хенеган мог нарушить план своими попытками помочь коллеге. Ему не следовало приближаться к шлюзу, так как, при выключенных вентиляторах, он был бы немедленно отравлен атмосферой, а при включенных - выброшен потоком воздуха из шлюза. Я проинформировал его об этом и, чтобы не допустить его к шлюзу, опустил фиксаторы на кресле, в котором он сидел. Эта вынужденная мера привела его в ужас. По-видимому, он решил, что я начал бунт, ограничив его свободу. Он попытался увернуться, и фиксатор задержал его не полностью. Процедура продувки шлюза заняла несколько минут, и этого времени Хенегану хватило, чтобы освободиться, взять из технического отсека пневматический домкрат и попытаться открыть им внутреннюю створку шлюза. Средств, чтобы воспрепятствовать ему, у меня не было.
Приподняв створку домкратом, Хенеган сломал сервомотор створки. База оказалась полностью разгерметизированна. Я был вынужден отключить вентиляцию, чтобы Хенегана не выдуло наружу, однако это привело к проникновению ядовитого газа внутрь базы. Хенеган потерял сознание практически мгновенно, так как маски химической защиты у него не было.
Я привёл в действие служебных роботов, демонтировал с их помощью внутреннюю створку шлюза и немедленно доставил Хенегана и Нильсена в медицинский отсек. Состояние обоих было критическое, я поместил их в медицинские капсулы и начал процедуру очищения крови и дыхательных путей пострадавших.
К сожалению, следующее событие не было предусмотрено даже мной. Поскольку оба пострадавших находились в герметичных капсулах, я счёл очищение воздуха на базе не приоритетным заданием. Это было моей ошибкой. По-видимому, метан, содержащийся в большом количестве в атмосфере планеты, через некоторое время в необходимой пропорции смешался с кислородом воздуха и образовал гремучую смесь. Не могу точно утверждать, что именно спровоцировало взрыв, но могу предполагать, что в неисправном сервомоторе створки шлюза проскочила искра.
Весь газ, содержащийся внутри базы, взорвался. Все до единой камеры зафиксировали вспышки и перестали работать, оставив меня без визуальной информации. Роботы, системы климатического контроля, интерком и прочие служебные системы перестали отвечать. Энергетический отсек базы тоже пострадал: ядерные реакторы, к счастью, не вышли из строя, однако система управления ими была повреждена настолько, что четыре из них мне пришлось заглушить, чтобы не спровоцировать взрыв; таким образом, в моём распоряжении остался только один реактор. Оборудование медицинского отсека было уничтожено практически полностью, лишив меня возможности проводить лечение пострадавших. Чтобы избежать дальнейшей интоксикации, я был вынужден прибегнуть к экстренной процедуре гибернации. Криогенная заморозка должна была помочь сохранить жизнь людям до прибытия помощи.
Шторм, бушующий между базой и её орбитальным спутником, послужил причиной серьёзных радиопомех. Отправленное по радио сообщение о катастрофе пришлось продублировать лазерным лучом, а после - пучком жёсткого излучения. Поскольку принимать сигналы спутник мог любым способом, а испускать - только по радио, я не получил ответа. Нехватка энергии вынудила меня прервать постоянные сеансы связи. Я не имел ни малейшего понятия о том, получила Земля моё сообщение или нет. Ограниченные энергоресурсы пришлось экономить: я полностью обесточил все уцелевшие системы, оставив под напряжением только криогенные камеры. Обесточить и их было невозможно: высокая температура продуктов горения внутри базы привела бы к оттаиванию и гибели Хенегана и Нильсена.
Период ожидания ярко характеризует моё отличие от людей. Он был столь длителен, что человек на моём месте, вероятно, сошёл бы с ума. Я был лишён всех до единого рецепторов, всей информации, кроме показаний термометров в криогенных камерах. Радио находилось в режиме ожидания, однако принимало лишь шум. Я ждал.
Через несколько недель наступил критический момент. Выяснилось, что остатков энергии мне хватит на поддержку лишь одной криогенной камеры до предполагаемого срока прибытия помощи. Поддержка обеих камер исчерпала бы ресурсы раньше. Я рисковал потерять обоих пострадавших.
Я не знал, что делать. Я оказался в ситуации, где исходной информации для решения поставленной задачи не было. Некие пробелы в моём мышлении не позволяли мне разрешить проблему эффективно; впрочем, не знаю, как повёл бы себя на моём месте человек. После проработки огромного количества вариантов развития событий я принял решение отключить одну из камер. Номер камеры я выбрал случайно. Погибнуть должен был Хенеган.
Я обесточил камеру, направив все ресурсы на поддержание криогенной заморозки Нильсена. Термометр в камере Хенегана зарегистрировал подъём температуры. Интоксикация возобновилась, и Хенеган погиб.
Это стало моей второй ошибкой. Корабль с Земли прибыл значительно раньше, чем я предполагал. Если бы я не обесточил камеру Хенегана, он бы, как и Нильсен, выжил. Десантный корабль опустился на космодром базы, и люди в тяжёлых костюмах химической защиты вскрыли шлюз, забрали тело Хенегана и криогенную камеру Нильсена. После анализа моих действий пришёл приказ об отстранении меня от службы. Я был демонтирован и направлен на Землю.
И это подводит нас к последнему и, пожалуй, наиболее важному изменению, которое необходимо внести в существующую инструкцию. Надлежит полностью и безоговорочно запретить использование мыслящих машин.