Аннотация: Это НЕ рассказ. Это просто попытка понять как работают Три закона Азимова и как их можно обойти.
В дверь постучали. Александр Семенович оторвался от платы, которую вертел в руках, и с интересом посмотрел на дверь. В дверь постучали еще раз. Уже на грани вежливости.
-Да, да войдите. - Отозвался главный робоинженер РобоЦентра города Москва.
-Здравствуйте. - Протянул руку вошедший мужчина.
Сухой, словно высушенный но очень жилистый, с крепким, сильным рукопожатием, в белой рубахе, белых же брюках и светлых ботинках, он был очень похож на собаку-ищейку. Потому Александр Семенович и не удивился, когда мужчина достал свое удостоверение.
-Я к вам по делу, Александр Семенович. - Забирая удостоверение, перешел к делу следователь Игорев Николай Александрович. - Я очень плохо представляю себе основу роботехники, три ее закона. Как они действуют?
-Хм... Вот так сразу и не объяснишь. - Поджал губы Александр Семенович.
-Я в вашем полном распоряжении. И во времени не ограничены ни я, ни вы. Ваш директор уже дал согласие. - На стол легла бумажка, на которой синими чернилами было написано, что на время, пока Александр Семенович не удовлетворит любопытство следователя, он переходит в полное подчинение этому самому следователю.
-Хорошо. - Отозвался Александр Семенович, кладя бумажку снова на стол. - Разницу между "железным" уровнем и программным вы себе представляете?
-Да нет, наверно. - Растерянно отозвался следователь.
-Лампа. Свет. - На столе инженера включилась настольная лампа. - Это программный уровень. Есть микрофон, он ловит сигналы, программа их расшифровывает и сравнивает с имеющимся образцом. Если совпадает - зажигается свет. Теперь уровень "железа" - Александр Семенович выдернул из розетки лампу. - Вот он. Теперь я могу сколько угодно кричать "свет!", но пока я не воткну лампу в розетку, она не зажжется. То же самое в компьютере. Три закона прошиты железно-программными блоками. Программы можно обойти, железо обойти невозможно. Как звучит первый закон, прописанный в железе, гласит примерно так: "Роботу запрещено прикасаться с давлением более пяти килограммов на не менее квадратного сантиметра к человеку. Или допустить прикосновение другим предметом". Там, конечно, зонально, но примерно так. У военных роботов - до пятидесяти килограмм. И прошу заметить - не человеком, предметом.
-То есть понятия морального вреда, отравления, удара током и прочее - это можно?
-Ток тоже прошит железно. Как и некоторые излучения. Допускается ток до двадцати вольт/ампер ну там и по излучениям. Моральный вред, как самый сложный, частично прописан программно. Яд же прописан как недопустимость присутствия в пище/прикосновения некоторых веществ. А если яда нет в перечне - вспомните нашумевшее дело десятилетней давности, когда муж подговорил робота накормить жену очень экзотическим ядом. Робота пришлось выкинуть, мужа посадили в тюрьму по статье "умышленное убийство".
-Робот сможет, скажем, отобрать сумочку? - Спросил Николай Александрович задумчиво.
-Если держат некрепко, и если хозяин объяснил, что это пойдет во благо и ему и пострадавшему - то сможет.
-Угу. Понятно. По первому закону все. Пошли дальше.
-Второй закон самый простой. В адресах дел зарезервированы адреса по FF. Ну до 256 в шестнадцатеричной системе счисления. На эти адреса в порядке очереди назначаются приказы хозяина. Если приказ противоречит данному раньше распоряжению - робот уточняет что делать с предыдущим распоряжением.
-То есть, только хозяин может отменить свой приказ?
-Да. Когда дается новый приказ, то все остальные приказы автоматически смещаются ниже. То есть, приказ номер один, автоматом становится приказом номер два и так далее. Как видите, тут уже начинаются тонкости в управлении роботом. Это все ясно?
-Третий закон еще проще - если роботу угрожает опасность, он ее либо избегает, либо устраняет. Именно в такой последовательности. Теперь про проверки. Они все на уровне железа. Любое действие проходит через три решета. Первое решето - опасность для робота. Второе решето - противоречие приказам с номера 1 по FF. Третье решето - опасность повреждения человека. Действие, прошедшее эти три проверки, исполняется.
-Хм. Получается, что наибольшую ценность представляет третий закон?
-Нет. Наибольшую ценность представляет последний закон. Поясняю почему. Человек отдал приказ - второе решето. Приказ может принести вред роботу, но это решето уже пройдено и потому действие выполняется. Надеюсь, ясно?
-А в случае нарушения одного из этих законов?
-Нарушение не возможно именно из-за принципа решета. Если же окажется, что робот не смог выполнить приказ хозяина, он пожмет плечами, в крайнем случае повиснет и после перезагрузки примется действовать как ни в чем не бывало. Теперь понятно?
-Да. Кажется, понял. То есть робот никак не может обойти эти три закона и действовать в противоречие с ними. А как робот отличит робота от человека? Не может ли он принять человека за робота?
-Инфракрасный сканер плюс образ человека. Универсальная защита даже от чужих.
-Сканер может быть выключен? Или, скажем, ценой нанесения малого вреда предотвратить больший вред?
-Поймите, для робота нет понятия больший или меньший физический вред. Моральный... Может быть. В зависимости от сложности личности. А физический может быть, или не быть. К примеру, робот никогда не поднимет руку на человека, даже если он избивает другого человека. Кроме, разумеется, военных роботов. У них вред, как я говорил, начинается с пятидесяти килограмм. А что касается сканера - робот его может выключить, но зачем? С выключением сканера сектор защищаемых первым законом лишь расширяется, что ограничивает свободу робота.
-То есть, с выключенным сканером робот любого примет за человека? Кибера, андроида, робота и даже чужого?
-Да. - Кивнул профессор. - Даже чучело огородное.
-Это хуже. А может ли робот программно принять себя за человека?
-Э.. м.. - Смешался инженер. - Это чертовски трудно сделать. Робот не сможет сам так изменить свои программы.
-А с помощью вируса?
-Хм. Вирус можно уподобить пуле. Он должен обладать маленькими размерами и огромными разрушающими свойствами. В случае же полной перестройке файлов личности, строго определенных файлов в строго определенной последовательности, вирус разрастается до пределов торпеды. А это, в свою очередь, требует дополнительных усложнений. Да и кому такое надо? Ведь робот все равно не сможет причинить вред человеку и будет выполнять приказы хозяина. Правда, лишь в тех случаях, когда в них нет непосредственной угрозы ему самому.
-А можно ли программно прописать, что выполнение ЛЮБЫХ приказов хозяина нанесет моральный вред человеку, то есть самому роботу?
-Это дико сложно. Я даже не могу описать сложность поставленной задачи.
-Но это возможно?
-Да. Но после форматирования и инсталляции личности, робот вновь будет действовать как ни в чем ни бывало.
-Хорошо. А в случае форматирования, что сотрется первым?
-Сам процесс может быть, конечно, запущен роботом, но его окончание робот контролировать не сумеет. Он попросту зависнет где-то посередине, притом процесс все равно будет продолжаться.