Аннотация: "Философские зомби", гипотетические существа без самосознания, были бы очень полезны в быту, если бы только их можно было создать. Но вот как бы реализовать столь хитромудрую задачу?..
Подумалось, что "философские зомби", гипотетические существа без самосознания - но поведением своим абсолютно качественно это самосознание имитирующие - были бы очень полезны в быту, если бы только их можно было создать. Но вот как бы реализовать столь хитромудрую задачу?
Первое, что приходит на ум каждому страусу:
- не гнаться за абсолютом, а реализовать приближённое подобие философского зомби, созданное по определённым схемам и проектам тысячей институтов.
Гигантское разветвлённое древо реакций и диалогов, миллионы заготовок едва ли не на все случаи жизни. Нечто вроде Универсального Патефона из метафоры Станислава Лема с аудиозаписями ответов на все возможные вопросы - с той разницей, что в какой-то степени наш Универсальный Патефон сможет учитывать даже контекст предыдущей беседы.
"В какой-то степени".
Весьма важная оговорка.
Поскольку, если наш Универсальный Патефон сможет в абсолютно точной степени учитывать контекст всех предыдущих бесед и событий, то кто всё это заранее запишет и запрограммирует?
Итак, в этом случае мы имеем вариант осуществимый, но заведомо обидный. Подмена первородства чечевичной похлёбкой, создание неполноценной имитации разума. Имитации, которая обязательно собьётся на каком-то из рекурсивных поворотов беседы - если не на десятом, то на тридцать первом.
Возможна ли вообще полноценная имитация разума - здесь я для простоты объединяю понятия разума и самосознания в единое неразъёмное целое - разумом при этом не являющаяся?
Иные учёные полагают, что нет. По их мнению, достаточно сложный коммутатор, цепи и переключения которого назначены для выдачи психологически правдоподобного ответа на любую возможную реплику беседы с учётом контекста - без жульнических трюков с закладыванием всех ответов заранее - обязательно будет в каком-то смысле сознателен.
Интуитивно:
- кажется, что это вроде бы ерунда. Каждый из нас ощущает свои мысли определённым образом. Что мешает создать или обучить некую систему таким образом, чтобы она, принимая на входах сигналы тех или иных реплик, порождала на выходах адекватные сигналы в ответ, но чтобы при этом происходящие в ней процессы структурно не были похожи на наши ощущения или мысли в нашем же восприятии?
Нейрофизиологически:
- написанное выше является просто лирической чушью. Во-первых, наше восприятие наших ощущений само является одним из наших ощущений, что есть замкнутый круг. Во-вторых, наше восприятие наших мыслей не говорит нам правды об их природе, что не раз доказывалось разными тестами. В-третьих, у каждого человеческого мозга есть своя индивидуальная нейронная кодировка мыслей: почему каждый человек, считая себя сознательным, не вправе считать бессознательными "философскими зомби" всех остальных из-за другой кодировки их мыслей?
Можно предположить, что вправе.
В конце концов, у каждого из нас при слове "мысль" или "ощущение" вспыхивает в голове образ СВОЕЙ мысли или ощущения - в то же время каждый человек знает точно: ЕГО мыслей и ощущений в головах других людей нет.
"Я попытался поставить себя на его место" - не более чем забавное визуализационное упражнение.
"Я ощутил его боль" - не более чем метафора.
С другой стороны:
- даже если не думать о социальных следствиях такого подхода, как быть с гипотетическим мысленным экспериментом по постепенной смене используемых человеческим мозгом кодов?
Представим себе, что, не меняя ни единой мысли, ни единого образа в моём мозгу, кодировку, через которую эти мысли и образы в моём мозгу прошиты, постепенно меняют на кодировку, используемую мозгом Рабиновича. Можно даже производить этот дьявольски тонкий процесс сначала с одним кусочком мозга, потом с другим - при этом ведя связи между уже обработанными и ещё не обработанными частями мозга через специальную машину-транслятор.
Вроде бы ясно, что если во время процедуры я буду пребывать в сознании и если процедура не несёт физического дискомфорта, то ничего особенного я не ощущу. Я могу даже и не понять, что теперь все мои мысли и ощущения записаны новым шрифтом.
Что же, различия в многообразиях структур, заставляющих нас вести себя как самосознающие существа, не так уж важны?
Что же важно?
Быть может, мы имеем здесь нечто наподобие топологического инварианта? Как известно, даже столь разные объекты, как чашка, соломинка для питья и бублик равно считаются в топологии инвариантами тора.
Но тогда, вероятно, созданная нами универсальная имитация тоже будет нести в себе некий "инвариант сознания"?
Как бы мы ни старались исказить и запутать маршруты происходящего в её нейронной сети, лишь бы только они ни в коей мере не напоминали структурно происходящее в нашем мозгу. Как бы ни деформировали резиновую чашку или резиновый бублик, какими бы невероятными способами мы ни выкручивали его под разными углами, он остаётся инвариантом тора.
Печально, но факт.
Тем не менее интуиция продолжает протестовать против подобного подхода к проблеме.
Существуют чатботы, программы-собеседники, со многими из которых можно свободно беседовать в Сети. Простейшие из них представляют собой просто набор реакций на тот или иной раздражитель из заранее созданного списка. Рекурсивности нет, предыдущее течение диалога не учитывается.
Существуют чатботы более сложные.
Мастера вкладывают в них "якоря" - тем самым обуславливая зависимость реакции чатбота на реплику от предыдущего обмена фразами, что позволяет ветвить целые деревья диалогов. Чем больше якорей, тем правдоподобней беседа.
Вроде бы, с точки зрения современных когнитивистов - сторонников отсутствия мистических элементов в работе интеллекта - если создать абсолютно убедительного чатбота с квинтиллионами якорей, то либо он сам будет сознателен, либо - в случае механического и нетворческого расположения якорей - сознательными за него заранее побыли разработчики.
Почему?
Чем отличается чатбот с пресловутыми квинтиллионами якорей от человеческого мозга? С другой стороны, чатбот с десятью тысячами шаблонов и парой сотен якорей явно неразумен - мы видим, что фразы для него есть просто незначащие кусочки текста.
Незначащие.
Но что есть "значение", как не определённая работа тех же якорей в нашем собственном мозгу? Тонкость сознания в том и заключается, что расположение якорей должно смыкаться с их значением и порождать его, образуя единое неразделимое целое.
При виде X мы думаем "Y":
- что ж, сцепились шестерёнки X и Y внутри нас.
За шестерёнками вовсе не требуется следить извне, не требуется никакой Посторонний Наблюдатель - сам акт наблюдения есть одна из этих шестерёнок. Ну а если бы даже и требовался, его вполне можно было бы олицетворить чуть позже сцепившимся с обеими шестерёнками шпеньком Z.
Прекрасно, но что из этого следует для нас?
Что, дабы создать философского зомби, нам необходимо создать систему, использование которой якорей было бы неадекватным их толкованию системой, а поскольку толкование системой якорей является частью их использования, то нам необходимо создать безумца, работающего против себя? Хотя даже в такой системе были бы логически последовательными по крайней мере её части - и действительно, известные нам безумцы вроде бы сознательны.
Выхода нет?
Любая имитирующая сознание система будет либо неадекватна, либо сознательна?
Существует обходной путь, выражающийся в простом факте: понятия "иметь сознание" и "показывать сознание" не обязательно должны относиться к одному и тому же сознанию.
Разве актёр на сцене не имитирует талантливо целые десятки несуществующих сознаний? Хотя у актёра существуют пределы компентенции, самовнушаемости и болевого порога, так что выполненную им имитацию не назовёшь стопроцентной, но она заведомо превосходит уровень достоверности чатботов. Разве любой из нас не видит во сне самых разных персонажей, которые вроде бы не обладают сознанием, но ведут себя как самосознающие существа? Вероятно, их поведение режиссируем мы сами, у некоторых после пробуждения даже остаётся об этом смутная память, а другие - быть может, просто мгновенно забывают?
Напрашивается простейший выход:
- создание философского зомби методом "от второго лица". Например, считывая подсознательные ожидания того, кто с этим философским зомби общается.
Применение?
Самое разнообразное, от выполнения извращённых фантазий до реализации человекоубийственных амбиций.
Стоит заметить, что для общества сие было бы чертовски опасно. Поскольку: размылась бы грань. Философского зомби по определению нельзя отличить от самосознающего существа, не вскрыв ему череп.
Стоить заметить также - если уж мы заговорили о снах - что в некоторой степени человек занимался этим всегда. Сны, грёзы, фантазии, искусство. Расправа над врагами в мечтах. Написание альтернативно-исторического романа про распад США. Будь наша фантазия ярче - получи мы абсолютно полный контроль над своей психикой - что мы могли бы осуществлять в видениях?
Что угодно.
Погружение себя в мир садистских видений. Чтобы видения были непредсказуемыми - возможно временное расщепление своей психики на две отдельные части, на два непересекающихся потока. Одна часть психики управляет воображаемым миром и продумывает крики боли мучающихся воображаемых человечков - а другая часть психики ощущает себя частью этого мира и, собственно, мучает человечков паяльником.
Тут, правда, нюанс один появляется.
Что, если первая часть психики, если уж обе они принадлежат закоренелому садисту, вдруг захочет не изображать мучения фантомных марионеток, а вместо этого помучать реальное существо в виде самого себя?
Хоть рассказ про это пиши.
Про садиста, живущего в мире Полного Нейрологического Самоконтроля, который решил временно расщепить свой разум ради попадания в вакханалию сладких грёз - а угодил вместо этого в долину адских мучений.
Ну, наполовину.
Другая-то его половина вроде как получила желаемое. Хотя потом, когда эти половины сольются, - как знать, не разуверится ли наш садист в своих мотивациях?