Искусственный интеллект - слуга, друг или змея подколодная?
1. "Может ли машина мыслить?"
Прежде всего: развитие компьютерных технологий и наработки в области программирования уже не вызывают сомнений в возможности создания ИИ. Но, как говорится, не программируй все, что можно запрограммировать, и пока не чувствуется необходимости в ином разуме нежели человеческий. С другой стороны, с помощью компьютерных технологий мы уже создаем и используем помощников в разных сферах человеческой деятельности, не игнорируя и те направления, где требуется приложение нашего интеллекта. И даже не задаваясь целью создать ИИ, мы, автоматизируя наш творческий труд, постепенно все больше доверяем и полагаемся на машинные "протезы" нашего разума. И в конце концов не уступит ли человечество компьютерам творческий труд, включая менеджмент, администрирование, исполнительную и законодательную власть, как уже перекладывает на ИИ участие в промышленном производстве и сфере услуг?
Существуют разные точки зрения, что считать интеллектом.
Все началось с вопроса Алана Тьюринга в 1950 году: "Может ли машина мыслить?", и Тьюринг предлагал человеку-экзаменатору протестировать программу ИИ посредством вопросов-ответов так, чтобы экзаменатор в результате не понял с кем он имеет диалог: с компьютером или удаленным абонентом. Предполагалось, что диалог должен вестись сообщениями, хотя на настоящем уровне развития, поднимая требования к тестированию, можно побеседовать с оппонентом (толмачем и посредником с человеком, чтобы запутать ситуацию, конечно, будет компьютер). Но в виде сообщений или голосом выражение эмоций в вопросах-ответах поможет ли определить результат тестирования? А дружественный диалог подразумевает не только ответы, но и вопросы со стороны компьютера, и в этой ситуации проще компьютеру проверить IQ экзаменатора, чем наоборот. И результат тестирования - это не смертный приговор ИИ, а только частное мнение тестирующего. И при этом стоит только улыбнуться, и еще смешнее будет, если ИИ поставить задачу определить, с кем он беседует: с человеком или с другим подобным ему компьютером?
Вообще-то ИИ - не просто система вопросов-ответов для студентов и домохозяек (с этим нынче худо-бедно справляются интернет-поисковики и не столь распространенные интерфейсы с системами баз знаний). Содержание памяти ИИ зависит от применения в различных направлениях интеллектуальной деятельности. Кроме накопления фактографической информации ИИ должен уметь выстраивать и проверять гипотезы, планировать свою деятельность, контролировать свою среду обитания, самотестироваться, обобщать опыт своего функционирования и, конечно, реализовывать свое назначение. Да, забыли с чего начинали - средства диалога и общения, но что-то сомнительно использование ИИ для болтовни, скорей всего эти средства будут минимальны и максимально формализованы. Об языках общение можно поговорить отдельно, но уже подозреваю, что эффект общения на общепринятом формализованном языке обеднит и сделает более функциональным наш естественный язык (за примерами далеко ходить не надо: литературный язык и повсеместное образование фактически упразднили народный язык, из которого и вырос могучий литературный). Ядро и алгоритмы ИИ в разных приложениях могут быть одинаковыми и настраиваемыми на разное применение, но, видимо, без апгрейтов и конкуренции не обойдется.
Так что же понимают философы под термином ИИ? Существует две основных точки зрения на этот вопрос, они носят названия гипотез сильного и слабого ИИ.
Термин "сильный искусственный интеллект" ввёл Джон Сёрль: программа ИИ будет не просто моделью разума; она в буквальном смысле слова сама и будет разумом, в том же смысле, в котором человеческий разум - это разум. Но что есть разум? Этот вопрос из области субъективного эгоизма: разум есть только у меня, у субъекта, и я соглашусь что ИИ разумен, если он будет мне интересен как собеседник и принятые им решения будут мной одобрены. При этом нужно понять, возможен ли "чистый искусственный" разум ("метаразум"), понимающий и решающий реальные проблемы и, вместе с тем, лишённый эмоций, характерных для человека и необходимых для его индивидуального выживания? И далее: эмоции за пределами разумного или без них мы не разумны? И это уже парадокс: или разум, или без эмоций решение реальных проблем. Поэтому концепция "сильного ИИ" полезна как недостижимый идеал "разумности" машины, и навряд ли движение к этому идеалу будет целенаправленным. Можно придумывать формальные схемы определения "разумности" и даже определить, что машина в результате тестирования разумнее человека, но это только забавно, как забавно то, что IQ соседа выше моего, а с ним и по-трезвому поговорить не о чем, и вообще от него жена ушла.
Напротив, сторонники слабого ИИ предпочитают рассматривать программы лишь как инструмент, позволяющий решать те или иные задачи, которые не требуют полного спектра человеческих познавательных способностей. Прекрасный пример слабого ИИ - экспертные системы.
Вернемся еще раз к вопросу "Может ли машина мыслить?" Человеческое чванство навсегда застолбило процесс мышления за собой и иначе как инсинуациями не назовешь попытки домыслить за машину, что она не способна мыслить. Мысленный эксперимент "Китайская комната" Джона Сёрля - аргумент в пользу того, что прохождение теста Тьюринга не является критерием наличия у машины подлинного процесса мышления. Аналогичную позицию занимает и Роджер Пенроуз, который в своей книге "Новый ум короля" аргументирует невозможность получения процесса мышления на основе формальных систем.
Что есть "Китайская комната"? Это, когда мы можем наблюдать в самой машине приходящие вопросы и увидеть, как она определенным образом по жесткой логической схеме формирует ответы. Вот так: жестко и определенно. А где же тогда мышление машины, если ответ получаем по жесткой и формальной схеме? Согласен, в принципе можно запротоколировать весь процесс формирования ответа, но меня насторожило бы то, что при том же повторном вопросе, получив одинаковый ответ, протоколы будут различаться (хотя бы потому, что ИИ может помнить последние вопросы и ответы на них, и не только поэтому).
Вот такая "Китайская комната". И почему философы уверены, что ИИ основан только на формальных системах? Более того утверждаю, что разработчики программ и алгоритмов не смогут сказать, почему какому-то вопросу соответствует такой-то ответ (уж чего-чего, а мистики в программировании предостаточно). Даже само понимание (!) вопроса машиной - это сложный набор алгоритмов, программных реализаций и семантической базы входного языка. Ответы ИИ будет формировать не только логическая схема программы, но и наполнение базы знаний, которая постоянно должна "дышать" и изменяться, и статистические методы, которые, конечно, формализованы, но работают с разными входными данными, и что-то другое, недоступное наблюдателю. Поэтому повторение вопроса "Погода на завтра?" повторит предыдущий ответ, но протоколы по одинаковым запросам будут отличаться хотя бы по причине обновления данных по метеообстановке.
Скорей всего, "Китайская комната" придумана в пику отношению к функционирующему комплексу ИИ-машина как к "черному ящику", когда есть вопрос к "ящику" и есть ответ "ящика", а был ли "китаец" внутри "ящика" - это уже не существенно. А подглядывание и протоколирование работы ИИ в "Китайской комнате" предполагает, что на любой вопрос всегда можно получить протокол ответа. И как бы сложно не выглядел протокол, не следует сводить процесс формирование ответа к человеческому мышлению.
Но также резонно задать вопрос: "Может ли человек мыслить?" и понаблюдать в замочную скважину за его "Китайской комнатой". Но вот же проблема: нет датчиков и инструментов для протоколирования процесса формирования ответа на поставленный вопрос: хотя понятно, что ответ будет сформирован, активизируя определенные цепочки нейронов. Даже, если бы был протокол сформированного ответа, эталон процесса мышления непоколебимо остается за венцом природы, человеком , не оставляя шансов машине претендовать на такие высоты. Но зачем "слабому ИИ" на что-то претендовать? Полагаю, что амбиции программистов-разработчиков уходят в сферу реализации целевых установок, а не в маскировку ИИ под человеческий разум.
Так примерно и полагает автор термина "ИИ" Джон Маккарти, когда говорит, что искусственные системы не обязаны повторять в своей структуре и функционировании структуру и протекающие в ней процессы, присущие биологическим системам.
Прагматический подход Макартни базируется на традиционной архитектуре компьютера, предложенной фон Нейманом. Маккарти определил интеллектуальную функцию как вычислительную составляющую способности достигать цели. Само определение ИИ Маккарти объяснил как науку и технологию создания интеллектуальных компьютерных программ.
Но сторонники альтернативного биологического моделирования ИИ полагают, что только феномены человеческого поведения, его способность к обучению и адаптации могут определять структуру и особенности функционирования ИИ.
Сюда можно отнести несколько направлений. Наиболее известны нейросети, которые используются для решения нечётких и сложных проблем, связанных с распознаванием образов и кластеризацией объектов.
Нейросети появились как модель процессов, происходящих в нейросети человеческого мозга, и в настоящее время мозг человека не обделен вниманием исследователей. Исследования и наработки в разных лабораториях охватывают области нейробиологии, физики, биоинформатики, машинного обучения и искусственного интеллекта. В настоящее время ожидается прорыв в новой области коннектомике - "разработка новых вычислительных технологий для картирования связей между нейронами".
Коннектом - это карта всех нейронных связей в мозге человека, будто бы она делает нас теми, кто мы есть.
Первым, в 1986 году, был описан коннектом червя-нематоды, чья нервная система насчитывает всего 302 нейрона. Команда ученых нанесла на карту все 7000 соединений между нейронами. Что касается мозга человека, то он, по последним данным, содержит около 86 миллиардов нервных клеток и в 10 тысяч раз больше соединений. Считается, что в связях между нейронами заключены многие аспекты человеческой индивидуальности, такие как личность и интеллект, поэтому описание коннектома человека может стать большим шагом к пониманию многих умственных процессов. Определение коннектома червя-нематоды заняло более 12 лет упорного труда. Чтобы определить коннектом мозга, сравнимого с нашим, необходимо иметь более продвинутые автоматизированные технологии, которые увеличат скорость нахождения коннектомов.
Возможно, у всех червей-нематоды 302 нейрона, но и это гипотеза, а не факт, тем более уже предполагается, что коннектомы разных особей человечества будут различны. Тогда каков смысл коннектомики? И даже коннектом человека - это не память, не знания, не навыки, не опыт, и уже понятно, что не один конкретный нейрон хранит какой-то факт или событие, а память о них распределена и ассоциируется в обоих полушариях мозга и в разных участках сети нейронов. О таком распределении и восстановлении памяти есть множество подтверждений после инсультов, мозговых травм и оперативного вмешательства.
Похоже оторопь от непознаваемости процессов в человеческом мозге и пролонгация исследований с не очевидным результатом оставляют незыблемой монополию человека на разумность и мышление.
Нельзя отрицать определенные успехи и авансы, выданные биологическим моделированием ИИ, и разработка спецпроцессоров и альтернативной архитектуры вычислительных средств оставляют надежды не в победе какого-либо направления, а в развитии теории и практики ИИ. При том не нужно пытаться обнаружить в программе ИИ то, что мы будто бы находим у себя: разум, мышление и даже сознание. И вот уж совсем немыслимое: "Есть ли душа у ИИ?" Но поскольку ИИ предназначен функционировать в человеческом обществе, далее коснемся этических проблем и правил (законов) формирующих и поддерживающих отношения "ИИ-человечество".
Оставим философам и философии бежать впереди всех разработок ИИ: если не в соответствии с их предположениями, то вопреки им: ИИ входит в нашу жизнь.
Ну, а какие страхи нам испытывать после изложенного? Не заболтали ли нас философы разных мастей? - От пустых разговоров вреда больше, чем от молчания. Но как говорят на Востоке: "Киник лает - арба едет".
Пусть киниками занимаются кинологи. А наши страхи, что нашими руками появится конкурирующий и доминирующий разум, - отнюдь не угроза, важно самим не деградировать, не впасть в зависимость и не быть на иждивении у ИИ, и не поклоняться ему как новому божеству.