Скрут : другие произведения.

Разборка трех законов

Самиздат: [Регистрация] [Найти] [Рейтинги] [Обсуждения] [Новинки] [Обзоры] [Помощь|Техвопросы]
Ссылки:


 Ваша оценка:
  • Аннотация:
    Это НЕ рассказ. Это просто попытка понять как работают Три закона Азимова и как их можно обойти.


   В дверь постучали. Александр Семенович оторвался от платы, которую вертел в руках, и с интересом посмотрел на дверь. В дверь постучали еще раз. Уже на грани вежливости.
   -Да, да войдите. - Отозвался главный робоинженер РобоЦентра города Москва.
   -Здравствуйте. - Протянул руку вошедший мужчина.
   Сухой, словно высушенный но очень жилистый, с крепким, сильным рукопожатием, в белой рубахе, белых же брюках и светлых ботинках, он был очень похож на собаку-ищейку. Потому Александр Семенович и не удивился, когда мужчина достал свое удостоверение.
   -Я к вам по делу, Александр Семенович. - Забирая удостоверение, перешел к делу следователь Игорев Николай Александрович. - Я очень плохо представляю себе основу роботехники, три ее закона. Как они действуют?
   -Хм... Вот так сразу и не объяснишь. - Поджал губы Александр Семенович.
   -Я в вашем полном распоряжении. И во времени не ограничены ни я, ни вы. Ваш директор уже дал согласие. - На стол легла бумажка, на которой синими чернилами было написано, что на время, пока Александр Семенович не удовлетворит любопытство следователя, он переходит в полное подчинение этому самому следователю.
   -Хорошо. - Отозвался Александр Семенович, кладя бумажку снова на стол. - Разницу между "железным" уровнем и программным вы себе представляете?
   -Да нет, наверно. - Растерянно отозвался следователь.
   -Лампа. Свет. - На столе инженера включилась настольная лампа. - Это программный уровень. Есть микрофон, он ловит сигналы, программа их расшифровывает и сравнивает с имеющимся образцом. Если совпадает - зажигается свет. Теперь уровень "железа" - Александр Семенович выдернул из розетки лампу. - Вот он. Теперь я могу сколько угодно кричать "свет!", но пока я не воткну лампу в розетку, она не зажжется. То же самое в компьютере. Три закона прошиты железно-программными блоками. Программы можно обойти, железо обойти невозможно. Как звучит первый закон, прописанный в железе, гласит примерно так: "Роботу запрещено прикасаться с давлением более пяти килограммов на не менее квадратного сантиметра к человеку. Или допустить прикосновение другим предметом". Там, конечно, зонально, но примерно так. У военных роботов - до пятидесяти килограмм. И прошу заметить - не человеком, предметом.
   -То есть понятия морального вреда, отравления, удара током и прочее - это можно?
   -Ток тоже прошит железно. Как и некоторые излучения. Допускается ток до двадцати вольт/ампер ну там и по излучениям. Моральный вред, как самый сложный, частично прописан программно. Яд же прописан как недопустимость присутствия в пище/прикосновения некоторых веществ. А если яда нет в перечне - вспомните нашумевшее дело десятилетней давности, когда муж подговорил робота накормить жену очень экзотическим ядом. Робота пришлось выкинуть, мужа посадили в тюрьму по статье "умышленное убийство".
   -Робот сможет, скажем, отобрать сумочку? - Спросил Николай Александрович задумчиво.
   -Если держат некрепко, и если хозяин объяснил, что это пойдет во благо и ему и пострадавшему - то сможет.
   -Угу. Понятно. По первому закону все. Пошли дальше.
   -Второй закон самый простой. В адресах дел зарезервированы адреса по FF. Ну до 256 в шестнадцатеричной системе счисления. На эти адреса в порядке очереди назначаются приказы хозяина. Если приказ противоречит данному раньше распоряжению - робот уточняет что делать с предыдущим распоряжением.
   -То есть, только хозяин может отменить свой приказ?
   -Да. Когда дается новый приказ, то все остальные приказы автоматически смещаются ниже. То есть, приказ номер один, автоматом становится приказом номер два и так далее. Как видите, тут уже начинаются тонкости в управлении роботом. Это все ясно?
   -Да. - Кивнул следователь. - Продолжайте, пожалуйста.
   -Третий закон еще проще - если роботу угрожает опасность, он ее либо избегает, либо устраняет. Именно в такой последовательности. Теперь про проверки. Они все на уровне железа. Любое действие проходит через три решета. Первое решето - опасность для робота. Второе решето - противоречие приказам с номера 1 по FF. Третье решето - опасность повреждения человека. Действие, прошедшее эти три проверки, исполняется.
   -Хм. Получается, что наибольшую ценность представляет третий закон?
   -Нет. Наибольшую ценность представляет последний закон. Поясняю почему. Человек отдал приказ - второе решето. Приказ может принести вред роботу, но это решето уже пройдено и потому действие выполняется. Надеюсь, ясно?
   -А в случае нарушения одного из этих законов?
   -Нарушение не возможно именно из-за принципа решета. Если же окажется, что робот не смог выполнить приказ хозяина, он пожмет плечами, в крайнем случае повиснет и после перезагрузки примется действовать как ни в чем не бывало. Теперь понятно?
   -Да. Кажется, понял. То есть робот никак не может обойти эти три закона и действовать в противоречие с ними. А как робот отличит робота от человека? Не может ли он принять человека за робота?
   -Инфракрасный сканер плюс образ человека. Универсальная защита даже от чужих.
   -Сканер может быть выключен? Или, скажем, ценой нанесения малого вреда предотвратить больший вред?
   -Поймите, для робота нет понятия больший или меньший физический вред. Моральный... Может быть. В зависимости от сложности личности. А физический может быть, или не быть. К примеру, робот никогда не поднимет руку на человека, даже если он избивает другого человека. Кроме, разумеется, военных роботов. У них вред, как я говорил, начинается с пятидесяти килограмм. А что касается сканера - робот его может выключить, но зачем? С выключением сканера сектор защищаемых первым законом лишь расширяется, что ограничивает свободу робота.
   -То есть, с выключенным сканером робот любого примет за человека? Кибера, андроида, робота и даже чужого?
   -Да. - Кивнул профессор. - Даже чучело огородное.
   -Это хуже. А может ли робот программно принять себя за человека?
   -Э.. м.. - Смешался инженер. - Это чертовски трудно сделать. Робот не сможет сам так изменить свои программы.
   -А с помощью вируса?
   -Хм. Вирус можно уподобить пуле. Он должен обладать маленькими размерами и огромными разрушающими свойствами. В случае же полной перестройке файлов личности, строго определенных файлов в строго определенной последовательности, вирус разрастается до пределов торпеды. А это, в свою очередь, требует дополнительных усложнений. Да и кому такое надо? Ведь робот все равно не сможет причинить вред человеку и будет выполнять приказы хозяина. Правда, лишь в тех случаях, когда в них нет непосредственной угрозы ему самому.
   -А можно ли программно прописать, что выполнение ЛЮБЫХ приказов хозяина нанесет моральный вред человеку, то есть самому роботу?
   -Это дико сложно. Я даже не могу описать сложность поставленной задачи.
   -Но это возможно?
   -Да. Но после форматирования и инсталляции личности, робот вновь будет действовать как ни в чем ни бывало.
   -Хорошо. А в случае форматирования, что сотрется первым?
   -Сам процесс может быть, конечно, запущен роботом, но его окончание робот контролировать не сумеет. Он попросту зависнет где-то посередине, притом процесс все равно будет продолжаться.
 Ваша оценка:

Связаться с программистом сайта.

Новые книги авторов СИ, вышедшие из печати:
О.Болдырева "Крадуш. Чужие души" М.Николаев "Вторжение на Землю"

Как попасть в этoт список

Кожевенное мастерство | Сайт "Художники" | Доска об'явлений "Книги"