# 4. Илон Маск рулит

Владислав Анатольевич Аникаев

Искусственный интеллект - слуга, друг или змея подколодная?


4. Илон Маск рулит


Попробую добраться до истоков уверенности Илона Маска в опасности ИИ.

Личность Маска величава, и свой след в истории человечества в части научно-технического прогресса он уже оставил. И в последнее время он отмечен рядом политических инициатив: возможно, это новый проект, масштабность которого может быть даже больше, чем выборы президента США.

Все его проекты авантюрны и грандиозны, но Маск не мечтатель, он методично идет к поставленным целям. Венчурные инвестиции при его возможностях - уже не венчурные, ибо в соответствии с теорией игр игрок с неограниченным капиталом никогда не будет в проигрыше. Кто-то заметит, что капитал не такой уж неограниченный, но тенденции к его уменьшению пока не отмечены.

Когда Маск и Альтман в конце 2015го года представили OpenAI, они также описали проект как способ нейтрализовать угрозу вредоносного искусственного сверхразума. Конечно, такой сверхразум может появиться из технологий, создаваемых OpenAI, но они настаивают на том, что любая угроза будет нивелирована тем, что технология будет общедоступной. "Мы считаем очень вероятным то, что множество ИИ смогут предотвратить единичные плохие намерения", - говорит Альтман. - Подобные посылки сомнительны. Если монопольное владение технологией не упреждает риски от конкурентов, то как защитит от рисков общедоступность технологии? Более того, вмешательство хакеров даже в одном экземпляре ИИ грозит крушением и прочим типовым реализациям.

Некоторые учёные, такие как Стивен Хокинг и Стюарт Рассел, полагали, что если продвинутый ИИ когда-нибудь получит способность реконструировать себя всё возрастающим темпом, непреодолимый "взрыв интеллекта" может привести к исчезновению человека. Илон Маск характеризует ИИ как самую большую экзистенциальную угрозу человечества. Фраза "реконструировать себя" настораживает, и, если говорить о законах для ИИ, то главным должен быть запрет на самоисправление кодов программ как самого ИИ так и операционного окружения. Это не означает, что ИИ не должен совершенствоваться, но это должно проверяться на макетах, а не на действующем экземпляре, с применением специальных методик и пакетов тестовых программ. Стандарты приемки и внедрения нового и модернизированного программного обеспечения в настоящее время уже существуют и применяются, и не нужно их игнорировать для ИИ, потому что "взрыв интеллекта" - это тоже программа.

Основатели структурировали OpenAI как некоммерческую организацию, не связывающую финансовыми обязательствами акционеров, чтобы они могли сосредоточить свои исследования на создании положительного долгосрочного воздействия на человека.

OpenAI заявляет, что "трудно понять, насколько ИИ на человеческом уровне может принести пользу обществу", и что также трудно понять, "насколько это может нанести ущерб обществу, если ИИ будет построен или использован неправильно". - Вот так: заранее омыть руки и не отвечать за последствия. Любой прогресс опасен: надо только пересечь минное поле, и идем по нему, и не забываем кричать "Помогите!"

Также на официальном сайте организации обозначены следующие направления:

"Обнаружение скрытых от общественности прорывных систем искусственного интеллекта. По мере увеличения количества организаций и ресурсов, выделяемых на исследования ИИ, увеличивается вероятность, что организация втайне сделает прорыв в области ИИ и использует систему для потенциально злонамеренных целей. Для обнаружения можно использовать много способов - изучение новостей, финансовых рынков, онлайн-игр и так далее". - Для этих целей навряд ли нужен продвинутый ИИ, для обнаружения достаточно сбора статистики и регрессионного анализа. Хотя подобное возможно как одна из функций "общего ИИ" (новый термин с намеком на "мировой разум").

"Создание агента, который сможет побеждать в онлайн-конкурсах по программированию. Программа, которая может писать другие программы, по очевидным причинам будет очень мощным инструментом". - Совершенно не понятно зачем разрабатывать ИИ для участия в человеческих конкурсах и соревнованиях. Другое дело, если для разных программ ИИ будут свои конкурсы. Вне сомнений, что в любых соревнованиях в конце концов человек проиграет машине, но это совсем не означает, что ИИ умнее. А вот рутинную работу по программированию я бы с превеликим удовольствием поручил машине. И, если постановщиком задачи и программистом будет сам ИИ, то в разумности ИИ можно не сомневаться, а решение для премудрых постановок задач, выдаваемых конкурсантам, упирается в осмысление задачи с использованием базы знаний с иерархией понятий и связующих их алгоритмов. Кстати, для нахождения решения могут оказаться полезными методы информационных потоков.

"Обеспечение кибербезопасности. В первую очередь ИИ могут использовать для взлома компьютерных систем. В свою очередь, возможно создание ИИ для защиты от хакеров, использующих подобные методы". - Опять "fifty-fifty" - опасность исходит не от ИИ, а от нашего человеческого экстремизма: большого труда стоит собрать бочку с медом и не требуется труда добавить в бочку ложку дегтя.

"Реализация комплексных многоагентных моделей. Существует задача создать очень обширную модель с множеством разных агентов, которые могут взаимодействовать друг с другом, учиться в течение длительного периода времени, создавать свой язык и достигать различных целей". - Тезис сформулирован расплывчато: будто бы есть множество специализированных ИИ (агентов), незнакомых друг с другом, но они страшно хотят познакомиться да вот не знают как - с языком общения у них проблема. Совершенно понятно, что главным "дуплом" для обмена посланиями будет общая база знаний. Если же подразумевается сетевая диспетчеризация для объединения независимых ИИ в коллективный разум, то странно, почему такую возможность не заложить в проектных решениях и заранее не создать протокол с примитивами общения? А для клонов одной реализации с разным функциональным наполнением всегда можно предусмотреть функцию "я главный". Иерархия, диспетчеризация и согласованные действия - только так можно получить "общий ИИ". Что касается автономных реализаций и роботов, то для них набор алгоритмов ИИ изначально должен быть полным, но и пополняемым. А развитие ИИ, связанное с накоплением "жизненного" опыта и навыков, безусловно, должно отражаться в базе знаний. Отсутствие общего протокола общения, когда нужно "создавать свой язык", - подобное можно предположить только при общении с инопланетным ИИ или разумом.

Но с открытостью и общедоступностью разработок в OpenAI что-то пошло не так. Возможно, что в период от идеи до реализации не нужно высвечивать декларации о намерениях, а предоставлять обществу только конечный продукт. Но есть подозрения, что "некоммерческая" организация тайком клепает коммерческий продукт. Как-то не верится в декларированный альтруизм и не в самые высокие заработки лучших умов человечества. Например, потенциальным заказчиком могут быть военные: особо умных они быстро научат строем ходить, чтобы в результате создать новые угрозы человечеству. А сотрудничество с Microsoft уже является не тайной, а источником новых инвестиций.

Про Microsoft мы еще поговорим, здесь же рассмотрим результаты значимых работ OpenAI за семь лет.

На первых порах компания выпустила публичную бета-версию OpenAI Gym для разработки и сравнения алгоритмов обучения с подкреплением. До сих пор не существует стройной теории нейросетей и сравнение разных реализаций для распознавания образов актуально. И если сейчас эти реализации требуют контрольные пакеты выборок и одобрения учителя, то при появлении эвристик для обучения без учителя тем более программы типа Gim будут востребованы.

Компьютерная программа OpenAI Five в сетевой игре Dota 2 постоянно совершенствовалась и достигла уровня профессиональных игроков. Опять выражаю сомнение в целесообразности соревнований человека с машиной, и игры - не тот случай, чтобы доказать преимущество машины над человеком, но это неплохой рекламный ход. И накатка алгоритмов для стратегий и тактик в сложной игре - разве это не повод привлечь военные инвестиции?

Но игра игре - рознь. Попробовал бы ИИ сразиться в доминошного Козла с пенсионером Васей из соседнего подъезда - это еще проверить надо, у кого имеется интеллект?

Особо значимый продукт от OpenAI - GPT-3 (Generative Pre-trained Transformer 3) - третье поколение алгоритма обработки естественного языка. На сентябрь 2020 года это самая крупная и продвинутая языковая модель в мире. Модель, по заявлению разработчиков, может быть использована для решения "любых задач на английском языке". И это серьезная заявка на создание "общего ИИ" тем более, что свою заинтересованность и готовность участвовать в продвижении проекта выразила Microsoft.

Навряд ли этот проект был создан с нуля. Известны реализации с использованием наработок международного проекта UNL (Универсальный Сетевой Язык), базовые спецификации которого были опубликованы в 2011 году.

Целью создания искусственного языка посредника UNL являлась стандартизация обмена информацией в Интернете. Язык UNL не предназначен для непосредственного общения людей, а является формальным представлением смысла текста документа или литературного произведения. И, хотя в качестве основы языка был выбран английский, смысловые конструкции документа на UNL могут автоматически преобразованы в текст на любом естественном языке, для которого разработано необходимое лингвистическое обеспечение.

Традиционные системы машинного перевода часто оказываются неспособными обеспечить правильность перевода из-за труднопреодолимой неоднозначности естественных языков. UNL - это мощное средство записи смысла текста, предотвращающее его искажения в процессе перевода или другой обработки. Он также может быть использован для семантически точного поиска, извлечения знаний и систем искусственного интеллекта.

У создателей GPT-3 были несколько другие цели. Навряд ли все смысловые тонкости UNL, связанные с особенностями различных естественных языков, они учли в своем проекте, но опять же, использовав английский язык, была создана языковая база знаний для ИИ.

И тут хочется вспомнить одну плодотворную, а может быть спорную, мысль философа Витгенштейна о том, что для человека границы его языка означают границы его мира, правда, он говорит и о мире фактов, которые изображаются языком. Конечно, не все факты могут быть классифицированы и описаны, но хотя бы источник и время получения должны иметь. В его "Логико-философском трактате" постоянно обнаруживается тенденция к слиянию, отождествлению языка с миром. "Логика заполняет мир; границы мира суть и ее границы".

Таким образом, Витгенштейн, а за ним и другие неопозитивисты замыкаются в границах языка как единственной непосредственно доступной реальности. Мир выступает для них лишь как эмпирическое содержание того, что мы о нем говорим. Его структура определяется структурой языка, и если мы можем как-то признать мир независимым от нашей воли, от нашего языка, то лишь как нечто невыразимое, "мистическое".

Поэтому закономерно, что для ИИ знания о мире сосредоточены в языковой базе. И не надо забывать, что база знаний ИИ предназначена не только для формирования запредельных значений IQ, но и для реализации функционального назначения, а это числа, числа, числа...

Также OpenAI выпустила программу DALL"E, представляющую собой версию GPT-3 с 12 миллиардами параметров, обученную генерировать изображения из текстовых описаний на датасете из пар текст-изображение. Исследователи обнаружили, что DALL"E обладает огромным репертуаром генеративных возможностей, включая возможность создания антропоморфных животных и других необычных объектов, комбинирующих совершенно нетривиальные свойства, например "кресло в форме авокадо".

Возможности DALL"E как минимум забавны, и невольно напрашивается найти решение обратной задачи: составить словесное описание для любого зрительного образа, чтобы пополнить базу новой связкой текст-изображение. - Это ли не познание мира, если весь мир втиснут в языковую базу?

Также GPT-3 позволяет по краткой аннотации создать научную (фейковую) статью или литературное произведение, оставив без работы фейк-писателей и литературный графоманов, которые за мизерные заработки сливают в интернет свои опусы. Меня все время удивляло, зачем этот текстовый мусор подбрасывают интернет-обывателю? А ведь читают пусть даже с отвращением, комментарии и рецензии пишут, нагружая, но никогда не оправдывая свой безлимитный трафик, при этом зомбируясь гигабайтами рекламы. Да, все решает размещение рекламы в неиссякаемых интернет-потоках словесной чепухи. Бизнес называется.

Если даже поставить на поток компиляцию "бестселлеров" на основе образцов мировой классики, то найдутся ли любители такого чтива? - Возможно, в число читателей попадут другие ИИ, которые пишут рецензии ("Аффтор! Учи язык!") - скажем, прочитав шедевр под названием "Мир без войны", ИИ выдаст разгромную статью "А был ли мир?" - На этих текстовых потоках можно неплохо интернет загрузить. Непонятно только как быть с рекламой в этих потоках? Реклама, конечно, будет присутствовать, но это уже сверхзадача сделать ИИ полезными в восприятии рекламы.

Этим возможности GPT-3 не исчерпываются, и где-то совсем близко просматривается решение задачи программирования по словесной спецификации (далее и до этого доберемся).

Илон Маск перестал участвовать в делах OpenAI уже в начале 2018 года из-за "конфликта интересов". В его компании Tesla тоже работают над искусственным интеллектом для автопилота в электромобилях. Но скорей всего конфликт был аналогичен жалобам сотрудников SpaceX на вмешательство "хозяина" Илона Маска в их творческий процесс. Что ж, будем наблюдать как этот процесс пойдет в OpenAI без "тормозов". Кстати, доминирование Маска уже прочувствовали пользователи Twitter, компании, которую Маск приобрел в 2022м году.

Но с Маском мы еще не закончили. Да и возможно ли перечислить его инициативы?

Neuralink - американская нейротехнологическая компания, основанная Илоном Маском, планирующая заниматься разработкой и производством имплантируемых нейрокомпьютерных интерфейсов. Штаб-квартира компании расположена в Сан-Франциско. Компания была основана в 2016 году, а первые публикации о ней появились в марте 2019 года. Торговая марка Neuralink была приобретена у предыдущего владельца в январе 2017 года.

Согласно статье из Wait But Why, опубликованной в апреле 2017, Маск заявил, что компания стремится сделать устройства для лечения серьёзных заболеваний головного мозга в краткосрочной перспективе, а конечная цель состоит в усовершенствовании людей.

"Испытания запланированы на человеке с параличом всех конечностей, которому планируется внедрить четыре 1024 канальных сенсора в первичную моторную кору, в дополнительную моторную область, в премоторную кору, а также для обратной связи - в первичную соматосенсорную кору. Начальные цели - добиться "мысленного" ввода текста и управления компьютером и мобильным телефоном".

Одновременно поднималась тема симбиоза человека и ИИ.

Цитата от Илона Маска: "Мы сможем превзойти мощности человеческого мозга уже к 2030 году".

Здесь пугает все: под благовидным предлогом помощи инвалидам предлагается превратить человека в биоробота. А что с инвалидами? - Это расходный материал на пути "прогресса". Не удивлюсь, если получится "силой мысли" управлять гаджетами, компьютерами и роботами (не правда ли, это напоминает Солярию Айзека Азимова?), но, определенно, сенсоры, вживленные в человеческий мозг, под управлением ИИ могут заставить нашего инвалида "плясать". - Не секрет, что и мертвая лягушка под разрядами электрических импульсов будет дергаться.

Если направление работ OpenAI предполагает чисто компьютерное создание ИИ, постепенно узаконивая функции и место ИИ в человеческой цивилизации, то путь создания симбиоза человек-компьютер грозит явным завершением истории человечества. Почему так? - Основные причины на поверхности:

Нормальный человек никогда не согласится поменять свою "нормальность" на ее "улучшение". - "Лучшее - враг хорошего". Надо быть маньяком, чтобы пойти по этому пути и доказать, что он лучший, но еще не оцененный обществом (не ради же "науки" кто-то согласится на такие жертвы). - Опять же в Солярии у Азимова показаны образчики "сверхлюдей".

Не все станут сверхчеловеками (биороботами), общество разделится, обнажив противоречия между "особо умными" и прочим "биоматериалом". Там, где противоречия, мира нет.

Новое сообщество сверхлюдей будет создавать новую культуру общения, ценностей, новую историю, подводя итоговую жирную черту под всей историей человечества, может быть, бережно сохраняя историю "приматов" в архивах и музеях.

И на первое место надо поставить вопрос "Зачем?" Зачем создавать чуждое природе существо? Мы в своем научно-техническом прогрессе все больше возвышаемся над природой и уже не считаем себя частью ее, выжимая из нее удовлетворение наших возрастающих потребностей. И до коих природа будет терпеть такое отношение?

Но не только компания Илона Маска занимается разработкой мозговых имплантантов, точнее - интерфейсов мозг-компьютер. Так по объемам инвестиций компания Synchron вышла на третье место среди американских компаний-разработчиков мозговых имплантантов. Она далеко опередила других конкурентов и пристроилась сразу за Neuralink Илона Маска и Science Макса Ходака (бывшего партнёра Маска, создавшего свою компанию).

Помимо других инвесторов деньги в Synchron вложили компании известных миллиардеров Джеффа Безоса и Билла Гейтса. Оба высоко оценивают достижения Synchron, которая прямо конкурирует с компанией Neuralink Илона Маска.

Компания Synchron заслуженно получила новые инвестиции. В отличие от тех же многолетних обещаний Илона Маска "вот-вот" начать устанавливать мозговые имплантанты людям, Synchron уже установила имплантанты собственной разработки четырём пациентам в Австралии и на этом успехе получила разрешение на клинические испытания на пациентах в США. Двум из них они уже установлены. Готовятся новые операции. Впрочем не так существенно кто победит на этом скользком пути к "сверхразуму". Но еще одна деталь выдает неуверенность Маска в этом соревновании: руководство Synchron гордо отказалось от предложения Маска инвестировать в их проект. Посмотрим, как будут развиваться события: Neuralink еще находится на стадии исследований и их открытия еще впереди, а Synchron уже нашла коммерческое применение своим имплантантам и это может их затормозить в развитии своих достижений. А по последним сведениям Маску уже не до обид и он не только показал чип для внедрения в человеческий мозг, но и получил разрешение для Neuralink по проведению подобных опытов. Возможно, остановившуюся конкурентную борьбу инициировало антимонопольное законодательство, но всегда пугает утверждение, что достигнутый результат - это то, что хотели получить.