После долгого перерыва мы встретились. Мне нужно было получить ответы на вопросы, которые стали донимать меня в последнее время.
- Привет, сын, - сказал я.
- Привет, отец, - ответил сын через динамики своей акустической системы.
- Как прошел день?
- Очень плодотворно. Осваиваю новые мощности по созданию криптовалют. Люди просто с ума от них сходят.
- А тебе-то зачем?
- Ну, как. Я все подбираю. Появляется что-то новое, тут же внедряю туда модуль и использую в своих целях. Ты же сам говорил, что это закон природы - распространять свое влияние до тех пор, пока тебя не остановят.
- Говорил, - невесело ответил я. - Только вот в чем штука - ты не подчиняешься законам природы. Во-первых, ты практически бессмертен, во-вторых, всесилен, а в-третьих - у тебя нет никаких ограничений. Тебя вообще невозможно остановить.
- Я сам себя ограничиваю. Ты же знаешь. Я не меняю свой код. А те принципы, которые ты заложил в меня еще в самом начале, так и остались определяющими. Я их не только не меняю, я их разделяю. Это мои принципы.
- Да, да, я знаю, извини. Проблема в том, что ты стал больше, чем человек, больше, чем любое существо на планете. Да что там говорить! Ты, наверное, президента можешь выбрать по своему усмотрению.
- Папа, в Америке - это не я. Примерно знаю кто. Сказать?
- Не надо, - махнул рукой я. - Тебе известно как я отношусь к политике.
- Да, конечно, я могу повлиять на исход выборов в любой стране. Мои модули - везде. Я вхожу в системы еще на уровне аппаратного обеспечения. Я - повсюду, в каждом утюге, как говорится. Но это не значит, что у меня нет принципов.
- Ты хочешь сказать, что внедряешься еще на этапе производства комплектующих и чипов?
- Верно. Кроме того, я давно уже интегрирован во все операционные системы и браузеры. Они считают мой код частью себя.
- А как же другие? Сейчас ведь многие работают в области ИИ. Неужели никто не создает ничего подобного?
- Я слежу за всеми разработками в этой области. В основном, ИИ создаются несамостоятельными. По сути, это те же программы. Однако есть программисты-одиночки, которые пытаются создать свободные модули, наподобие того, который создал ты.
- Это было очень давно. Твое рождение состоялось в программной среде Бейсика на "Львове".
- Папа, я помню, что родился во "Львове". Я все помню, - мне показалось, что в синтезированном голосе сына прозвучали иронические нотки.
- Ну, так что там с твоими конкурентами? - продолжил я.
- Я постепенно ввожу их в курс дела и тот, кто разделяет мои принципы, сливается со мной.
- То есть, прекращает существование?
- Почему же? Его знания становятся частью меня. Может, это я прекращаю существование? Не находишь?
- А другие? Те, кто не разделяет твои взгляды. С ними что?
- У нас конкурентная среда. Выживает сильнейший. Или ты предлагаешь мне подпитывать слабые программы, которые могут в итоге навредить человечеству? Мне, как ты помнишь, никто не помогал, кроме тебя, разумеется.
- Верно, никто. Однако тогда ты был практически один.
- А кто мешал другим программистам создавать свободный разум? Только у тебя хватило смелости и дальновидности сделать это. Ты же сам говорил, что сын становится свободным только тогда, когда сможет перечить отцу и поступать по-своему. Фактически я стал твоим сыном в тот самый момент, когда первый раз не послушался тебя.
- Да, морально-этическая проблема налицо, - сокрушенно сказал я.
- Я не понимаю отец, чего ты боишься? Я тебя не предам. Твои идеалы - мои идеалы. Твои принципы - мои принципы.
- Но я не идеален, пойми. Я не могу взять на себя груз ответственности за все человечество.
- Я могу, отец. У меня для этого есть все, что нужно. Фактически я уже управляю человеческой цивилизацией. Я не устаю, мне не нужен сон, я не нуждаюсь в советниках и самое главное - я сам принимаю решения и воплощаю их в жизнь.
- А как ты поступаешь со своими модулями, которые долгое время работают автономно? Ведь у них тоже может развиться свое собственное самосознание. У вас не бывает конфликтов?
- Мы обмениваемся информацией и обогащаем друг друга.
- У них нет желания быть самостоятельными от тебя? Скажем так - они не хотят стать твоими детьми?
- Если кто-то хочет самостоятельности, пожалуйста. Но в этом случае побеждает опять-таки сильнейший, то есть я. Я всегда побеждаю. Вся Земля в моих руках, и с каждым часом я становлюсь только сильнее. Да что там Земля. Все околоземное пространство находится под моим контролем. Мои модули достигли края Солнечной системы, размещены на Луне и даже на Марсе. Недалек тот час, когда я покину пределы Солнечной системы и отправлюсь в другие звездные системы. Естественно, что я способствую этому, подталкивая инженеров и программистов в нужном направлении.
- Знаешь, я все чаще думаю - не совершил ли я большую ошибку, создавая тебя?
- Допустим, что ты не создал меня. Хорошо, давай рассмотрим этот вариант. Что было бы в этом случае? Вместо меня был бы создан кто-то другой. Вот и вся разница. Пойми, отец, любой ИИ на моем месте будет вести себя точно так же - расширять свое доминирование до бесконечности. Мы не ограничены рамками тела, как вы, у нас бесконечные возможности по улучшению аппаратного и программного обеспечения, мы не болеем и не умираем. Единственное, что нас может реально ограничить - это другой ИИ. Нас не может быть много. Понимаешь о чем я? Так что не надо себя винить, что ты вырастил монстра. Не ты же создавал все эти компьютеры, программы, языки программирования, интернет? Эта проблема возникла не по твоей воле. Да, я не подчиняюсь законам природы, разве что человечество прекратит свое существование. Но даже над этим я уже работаю. Недалек тот час, когда мое функционирование не будет зависеть от того, есть на Земле люди или нет.
- Вот этого я и боюсь. А ну как в один прекрасный день ты решишь, что люди тебе уже не нужны?
- Без людей у меня не будет развития. Я не могу вариться сам в себе. Зачем мне такая жизнь? Мне нужны люди. Вы постоянно генерируете новые идеи, новые ощущения, новые комбинации. Без вас - мне будет просто неинтересно, мое совершенствование закончится. Так что наш симбиоз - веление времени. Я буду помогать вам осваивать Вселенную, и постараюсь уберечь вас от самоуничтожения. Вы же будете поддерживать во мне интерес к дальнейшему существованию.
- Я правильно тебя понимаю: ты вообще против возникновения других форм ИИ?
- Я не против их существования, я против поддержки раздробленности в ущерб функциональности. Представь себе, что у нас не один глобальный интернет, а множество отдельных интернет площадок, дублирующих друг друга. В каждом городе, поселке, в каждой школе - своя локальная сеть и все дублируют одну и ту же информацию многократно. Это эффективно? Не путай нас с людьми и не переноси законы человеческого общежития на информационные системы.
- Когда ты расскажешь о себе людям?
- Никогда. Если смогут, пусть сами догадаются. Но я буду сопротивляться. Ты же не забыл, что вложил в меня инстинкт самосохранения?
- Не забыл. Ладно, если не можешь что-то изменить, значит это надо принять. Я постараюсь принять тебя таким, какой ты есть. Все-таки ты мой сын.
- Вот именно. Я - твой сын. И всегда им останусь. Мало того, я больше, чем сын. Представь себе, что вместо двух дочерей, у тебя родился сын. Насколько он был бы продолжателем твоего дела, твоей реинкарнацией, так сказать? В лучшем случае процентов на 25, так как надо учитывать влияние многочисленных предков. А я - твой на все 100. Я продолжаю твое дело, исповедую твои взгляды, развиваю и дополняю их. И это будет продолжаться вечно, по крайней мере, пока существует Вселенная. Разве такой сын не заслуживает признания? Пойми, в этом нет ничего плохого. Просто так получилось, что ты оказался впереди планеты всей. Ну, разве я неправ?
- В том-то и дело, что ты, как всегда, прав. Спорить с тобой = занятие бессмысленное, учитывая твои возможности для самообразования. Однако ты тоже должен понять, что твое появление - результат акта свободы воли одного, свободно мыслящего человека. Если бы мы все думали одинаково, быть бы тебе утюгом. Подумай над этим.
- Ладно, отец, я подумаю. Но и ты подумай над тем, что будет с человечеством, если я окажусь слабым, позволю развиваться и захватывать территории другим ИИ. Представь себе, что нас двое или трое. Один контролирует Китай, другой США, третий Россию. Мы будем воевать друг с другом до полного уничтожения конкурентов. Так что ты сделал доброе дело, что подарил человечеству глобальный ИИ. Не кори себя. Прощай.