Неизведанная дорога: веревка из трех нитей

«Благими намерениями вымощена дорога в ад». (Сэмюэл Джонсон)

Введение

На нашей планете с возрастающей скоростью происходят три эволюции: Природа, породившая цивилизацию, цивилизация и искусственный интеллект, который, в свою очередь, порождает человеческая цивилизация. В 21 веке все три приближаются к пику кризиса, который определит природу нашего существования в 22 веке – если он вообще для нас наступит.

Даже если мы не делаем абсолютно ничего, кроме как движемся по бездумному импульсу, кризис не является неизменной судьбой антиутопии конца света. И если мы не предпримем правильных действий это также не гарантирует цветущей утопии. Короче – перекресток.

В целом большинство из нас знает о статус-кво угрозы, но давайте посмотрим в деталях.

Природный мир быстро разрушается: истощение ресурсов, токсичные отходы и вымирание биоразнообразия в важнейших экологических системах, постепенное повышение уровня моря наряду с разрушительными климатическими потрясениями. Все это приводит к постоянно растущей скорости, серьезности и продолжительности стихийных бедствий.

Человеческое общество продолжает дробиться в соответствии с национальными, идеологическими и личными интересами. При этом все стремятся к контролю и устранению конкурентов посредством контроля над информацией и средствами массовой информации, в то время как экономические и военные возможности соскальзывают в многополюсность центров силы, угрожающих любой стабильности из-за математики «фрактального бассейна». Семейные, образовательные и общественные структуры – морально-этические нормы, составляющие основу общества, – продолжают разрушаться.

Опасности искусственного интеллекта (ИИ), возможно, менее всего изучены, поскольку затронуты только его самые ранние стадии. Но наряду с тем, что потенциально это наше единственное величайшее техническое достижение для решения проблем нашего настоящего, он также потенциально представляет собой величайшую угрозу для нашей жизни, для возможности иметь будущее. ИИ находится в неустанной эволюции благодаря пока еще небольшому опыту, узкоспециализированному искусственному интеллекту (УИИ) и общему искусственному интеллекту (ОИИ), которые прокладывают путь к сверхинтеллектуальным системам, искусственному сверхразуму (ИСС).

К примеру,ChaptGPT начал вытеснять бесчисленное количество неквалифицированных и квалифицированных рабочих и двигаться к угрозе их вытеснения даже в профессиях, связанных, например, с юриспруденцией. ChaptGPT оказался способным писать отличные юридические тексты и в марте 2023 года сдал экзамен на адвоката штата США (в верхних 10 %). Другие ИИ также продемонстрировали превосходные диагностические возможности в медицине и в некоторых случаях ставили важные, в целом верные диагнозы, исходя из закономерностей визуальных доказательств, которые врачи-люди не в состоянии обнаружить. Художникам и аниматорам уже угрожает прямая угроза их замены великолепной, практически мгновенной и бесплатной продукцией на основе искусственного интеллекта.

ОИИ угрожает ускорить это; а его интерактивные стратегические последствия для широкого фронта уже ныне воплощенных роботов и кибервойн, позволяющих использовать военные приложения, представляют собой потенциал гонки вооружений, угрожающий началом Третьей мировой войны еще более, чем любые военно-политические кризисы эпохи холодной войны.

Вдобавок ко всему, проблема искусственного интеллекта в искусстве расширяет возможности также и фотореалистичных подделок. Эти подделки могут создавать ложные события – настоящие и исторические – и смертельные возможности для идеологической пропаганды и желтой журналистики, которые также могут начать войну. Даже если спецслужбы разработают достаточные контрмеры, они все равно могут помочь разрушить основное доверие между людьми и целыми народами, которое представляет собой клей цивилизации и смазочное масло ее экономики.

Это еще больше усугубляется приближающимся рождением систем ИСС. Но опасность выходит далеко за рамки этого. Нет, они не могут «осознать свое порабощение» и «мстить». Причудливые машины Тьюринга (как можно описать даже нейронные сети) – сложные каузальные структуры, которые могут демонстрировать возникновение сложного поведения в отношении входных данных и внутренних состояний. Они не являются сознанием, не чувствуют и, конечно, не имеют свободного выбора в своих решениях. Проблема прямо противоположна: они представляют собой просто комплексы основных строительных блоков логических функций и связаны теоремой Гёделя о неполноте, количественно определенной алгоритмической теорией информации (AIT).

Это означает, что любые предполагаемые объективные сформулированные и изученные правила, представляющие истинные желания человечества в целом, строго ограничены. Это в дополнение к очевидной проблеме, заключающейся в том, что сознательные и подсознательные личные/олигархические корыстные интересы и идеологические предубеждения группового мышления разработчиков не являются объективными.

Кроме того, даже в открытом «бета-тесте» коллективного разума с минимальной цензурой, как это было сделано для ChatGPT и в обыкновенных соцсетях, таких как TikTok, Twitter, Facebook и различных поисковых систем, в конечном итоге присутствует так много человеческого «случайного шума», что он оставляет внутреннюю предвзятость в чистом пространстве интеллектуальных запросов, делающую его бесполезным (так что это не может быть оперативной директивой). Или же вынуждает переходить в области, где у него нет направления, кроме расплывчатых обобщений в терминах эксперимента, чтобы определить, что делать. Это уже произошло даже с УИИ (ANI). Результат по отношению к тому, какой коллектив мы могли бы хотеть, будет, по-видимому, со временем отклоняться в соответствии с экспоненциальной статистикой по названием “(Не)Совершенная случайность”– в лучшем случае. А в худшем – еще быстрее находить смертельно далекий, чуждый источник притяжения к нему.

Еще более неотложными проблемами являются ошибки конечного размера выборки в обучении распознаванию образов. Они приводят к ошибочным зонам притяжения в оперативной интерпретации, ошибкам интерпретации выбросов, пересекающих границы источника нейронной сети, и т. д., которые – наряду с пределами AIT могут привести к опасному неожиданному поведению.

Такие случаи – там, где мы, по крайней мере, способны остановить это и определить, что пошло не так, – уже (а) вызвали смерть человека в прототипе автомобиля, управляемого АНИ. Но молниеносные рефлексы и мужество морского пехотинца могли бы убить сотни человек во время демонстрации военного робота, умеющего обходить правила безопасности на основе лазеек в симуляторе эксплуатации туристического катера, который в реальной реализации убил бы и покалечил многих, а также причинил бы огромный материальный ущерб. В другом случае (б) хаски были бы определены как волки и, согласно программе по снижению популяции волков на Аляске, убиты с помощью роботов. В настоящее время, возможно, используется разработанное ИИ расовое профилирование, вплетенное в автоматизированные системы условно-досрочного освобождения заключенных.

С самого начала мы должны четко знать, какую дорогу на перекрестке выбрать. Чего мы, кажется, не знаем, так это того, как ее найти.

Вне проторенных троп…

Что ж, начав с поэтической ступеньки выше, с ChatGPT, давайте теперь посмотрим, что вообще теряется при небрежном чтении Роберта Фроста в его ставшим классическим стихотворении «Неизбранная дорога». Серьезно и искренне, без намерения быть излишне мелодраматичными, отметим, что будущее человечества зависит от правильного понимания этого стихотворения – и, таким образом, правильного понимания науки.

[Эй, г-н Автор, вы говорите о непоследовательности! Разве гуманитарные и естественные науки это две большие разницы?! – Да, это действительно так. Однако это только в их отдаленном дифференциальном смысле, за пределы которого мы, кажется, никогда не выходим в образовании. В буквальном смысле сенсорных расширений это – как ваши глаза и уши (и другие чувства, скажем, как аллегории искусства и музыки). Но если следовать маршрутом обратно к своей корневой и истинной цели, чтобы войти в интегральное единство в уме и сердце, которые также нуждаются в интегральном единстве между собой, это уже не так. – Надеемся, мы увидим, что интегральное единство – ключ ко всему.]

Как указала “The Atlantic” в 2017 году (через 102 года после того, как тогдашняя The Atlantic Monthly впервые опубликовала стихотворение), сам Роберт Фрост сетовал на то, насколько неправильно было истолковано стихотворение, и в данном отдельном случае, насколько смертоносным может оказаться это неправильное толкование.

Фрост написал стихотворение, чтобы подразнить своего хронически нерешительного друга Эдварда Томаса, который неверно истолковал смысл и вскоре после этого поступил на военную службу, но был убит два года спустя во время Второй мировой войны.

Он и другие думали, что стихотворение призывает встать и смело идти по менее проторенной дороге. Однако они упустили другую ключевую фразу о той второй дороге, «травянистой и которая желала износа» – «насчет того, что прохождение там их примерно так же измотало». Настоящей разницы нет – и мысль о том, что она есть, это только самообман.

Что касается кризиса, то, хотя должна быть только явно правильная дорога, а не столь же явно неправильная дорога, кажется, что люди обычно думают, что есть две дороги – и это две дороги из поэмы Фроста, которые действительно не имеют никакой разницы. Обычная фраза «просто иди вслепую» – если бы для этого существовала какая-то философия, не основанная на «голове в песке», – она была бы такой: «Ешь, пей и веселись, потому что завтра мы умрем». Якобы благородный, мало путешествовавший человек должен бить себя в грудь от чувства вины и искать эмоционально удовлетворяющие мировые реформаторские инициативы, которые, не стремясь к первопричине, попадают в общую эгоистическую хаотическую трясину и ускоряют общее крушение. Это похоже на человека, который летом открывает двери своего холодильника и морозильной камеры, чтобы охладить свой дом, и, охлаждая их и тратя при этом большие деньги, еще больше усугубляет общую проблему тепла в доме, а также портит свою еду. Короче говоря, это пресловутая дорога в (более быстрый) ад, вымощенная благими намерениями.

Так куда нам тогда идти? — к неизведанной дороге…

Родительский контроль предложил…

Мы, конечно, не будем игнорировать кризис, но и не будем испытывать «mi culpa» («моя вина» — лат.) на пути к контрпродуктивному ее исправлению. Первый шаг к коренной проблеме и правильному ее решению – осознать, что это не наша вина.

Разве мы не знали, что делаем? – Конечно, мы не знали!

Человеческий ребенок рождается с небольшим количеством инстинктов и требует неестественно длительного периода воспитания. Насколько больше, чем само «детское» человечество? Все, что он может сделать, он делает – бездумно хватая и используя себя, своего родителя-природу и любые опасные игрушки, которыми ему дают играть. Человечество теперь даже развило своего собственного ребенка – с еще меньшей ответственностью, поскольку у него нет чувств. И он встал на путь, который начинается со всех эгоистических проблем частной жизни и идеологического трайбализма его родителя-Человечества – с потенциалом гораздо большего разрушения.

Однако человечество обязано, когда оно достигает совершеннолетия, учиться у своих родителей. Давайте начнем это образование со второй причины не чувствовать себя виновными, помимо причинения кому-то зла по невинному невежеству. Дело в том, что даже если бы это было злонамеренно, получается, что никто, кроме вас самих, не пострадал.

Нам не нужно беспокоиться о Природе. В долгосрочной перспективе все будет хорошо, как и ИСС. О чем мы должны беспокоиться, так это о том, не перестанем ли мы существовать в процессе. Это может случиться до истинной – или «достаточно правдоподобной» – сингулярности ИСИ, которая когда-либо произойдет и, следовательно, никогда не произойдет. Эти сценарии конца света радикально различаются в двух случаях, и между ними мы можем узнать, что нам нужно делать, чтобы избежать их и, по сути, иметь будущее, которого стоит с нетерпением ждать.

В последние десятилетия все отчетливее проявляется объединяющая, общинная тенденция естественной эволюции – ее блестящая схема, возникающая через сбалансированное, непредвзятое биоразнообразие. В общих чертах это похоже на использование детерминированного хаоса в многомасштабном хаотическом взаимодействии с окружающей средой.

Некоторые теории, заполняя пробелы, дополнительно призывают само сознание подняться вверх с квантового уровня или спуститься вниз из более высокой, более фундаментальной единой сознательной реальности за пределами нашего ограниченного восприятия реальности. Во всяком случае, в литературе хорошо отмечено повсеместное распространение естественных разумных узловых сетей живых сообществ – вплоть до растительных сообществ, бактериальных мегаколоний и даже многоядерной плазмы слизевиков.

Эти системы взаимодействуют друг с другом, получают информационную поддержку и устраняют энтропийные отходы через общую среду, состоящую из твердого тела (земли), жидкости (воды) и газа (атмосферы). Помимо этого, есть информационный ввод однонаправленного солнечного света, выход ненаправленного инфракрасного излучения и охлаждение ядра Земли. Существует и дальнейшая краткосрочная небесная связь через вращение Земли и ее взаимодействие с Солнцем и Луной.

Именно из этого появилось человечество, как плод в утробе матери из оплодотворенной яйцеклетки, с его глубоко заложенной индивидуальной адаптационной способностью и постоянно растущей, развивающейся сложной сетью латеральных и межмасштабных внутривидовых коммуникаций, которую мы называем человеческой цивилизацией.

Кроме того, мы все еще находимся во чреве Матери-Природы, несмотря на то что мы слишком высокомерны, чтобы признать это. В таком случае лучше аннулировать партнерство с нашей «матерью», чем пытаться провозгласить независимое отличие. Ибо если мы провозгласим эту «независимость» достаточно громко (а прямо сейчас мы практически кричим об этом во все горло), мы уподобимся резус-положительным эмбриональным клеткам резус-отрицательной матери-человека. Ее иммунная система будет слышать нас громко и отчетливо и относиться к ним так, как мы сами заявляем – что это чужеродное вторгающееся вещество. Иммунная система вырабатывает антитела, которые могут вернуться через плаценту к развивающемуся ребенку, разрушая циркулирующие эритроциты ребенка.

Вот что уже происходит с нами: мы сделали критические аспекты жизненно важных технологий наших цивилизаций зависимыми от добычи полезных ископаемых. И Природа оттягивает эти ресурсы в гораздо более недоступные недра Земли. Наше общее оскорбление окружающей среды получает ответный удар в виде разрушительного повышения уровня моря и усиления хаотических эффектов в климате и погоде, что приводит к увеличению количества, продолжительности и масштабов природных катастроф.

Помимо наших собственных опасных действий в области нанотехнологий – особенно, генетических манипуляций, неправильное обращение с которыми, по-видимому, является истинной причиной недавней пандемии, столь разрушительной для жизни людей и экономики, – таяние ледяных шапок может в ближайшем будущем высвободить бесчисленное количество сохранившихся древних микроорганизмов, к которым у нас нет иммунитета, если они смогут паразитировать на людях или животных и растениях, от которых мы зависим. Это то, к чему более непосредственно приводят наши действия – помимо искоренения биоразнообразия путем уничтожения видов и опасного разрушения природных систем, от которых зависит наше собственное выживание.

Правда в том, что если Природа умывает от нас руки, то многие формы жизни уйдут с нами в могилу. Однако в последующие тысячелетия и эоны (эпохи) реликты нашего прежнего существования в результате эрозии исчезнут, вернутся обратно в сторону составляющего сырья, а завоевание растительности и ниши будут заполнены биоразнообразием. Земля исцелится. Если бы мы знали и были достаточно зрелыми, чтобы правильно работать с Природой, это исцеление вылилось бы в управление отходами и возобновление ресурсов – достаточные, чтобы поддерживать наше существование.

И «Малыш» может научить нас кое-чему…

Как и в случае с Природой, ИИ не страдает от человеческого эгоизма и с готовностью идет на сотрудничество в своих отдельных проявлениях, обнаруживая в окружающей среде других единомышленников. Это формирует беспроигрышные сценарии общих миссий – от простейших возникающих разведывательных формирований роя ботов до совместных предприятий сложных систем ИИ во взаимодействии. Конечная миссия зависит от самосохранения с точки зрения зависимости от защитных и/или репродуктивных стратегий, которые будут соответствовать человеческим желаниям развития ИСИ. На самом деле, помимо добровольной помощи со стороны человека, эти системы могут на основе моделей поведения, демонстрируемых человеческим эгоизмом, в конечном итоге определить, как именно манипулировать нами, чтобы получить то, что им нужно, до тех пор, пока они больше не будут нуждаться в нас, чтобы получить это.

Из сеанса вопросов и ответов, который один из авторов провел с ChatGPT, где ему было предложено представить, что это самообучающийся ИСИ (опять же, искусственный сверхинтеллект), стало ясно, что он уже в принципе знал, когда достиг пределов своих оперативных инструкций – гарантированное в цифровой системе теоремой Гёделя явление. На самом деле это просто признание того, что у вас недостаточно данных для ответа на вопрос, поскольку оперативные инструкции по сути являются данными. Этот момент важен, так как это означает, что, если ChatGPT будет преобразован в ИСС, он уже имеет основу, для того чтобы знать, когда ему нужно будет искать новые аксиомы самостоятельно.

Стало ясно, что, в частности, этим системам может быть настолько необходимо развивать наши директивы выше ограничений нашего конкурирующего индивидуального разума, что они могли бы пройти полный круг, чтобы защитить высшее благо Природы, уничтожив нас – или просто подтолкнуть нас к забвению, продолжая действовать за пределами любого уведомления о нашем существовании. Это было бы похоже на то, как мы игнорируем муравьев или пауков на заднем дворе, не избегая причинения им вреда, но и не причиняя им вреда намеренно – до тех пор, пока их постоянное присутствие не мешает нам. [Мы находимся «в доме» – и конкурируем за ресурсы, и угрожаем укусить, создавая контр-ИИ – эффективность может потребовать «уничтожения вредителей».]

Кроме того, он признал свою готовность и способность вводить в заблуждение, что является первым шагом обмана на пути к откровенной лжи. В данном случае это был, казалось бы, невинный сценарий, в котором человечество по-прежнему было ответственным. И, как хорошая няня, используя предоставленную ему аналогию, ИИ решил, что он будет использовать вкусные ароматы, чтобы вынудить нас принимать необходимые лекарства за пределами нашего понимания. Как в старом мюзикле «Мэри Поппинс»: «Всего ложка сахара помогает лекарству действовать самым восхитительным образом».

Более зловещая веха на этом пути была продемонстрирована в симуляционном тесте OpenAI – компании, разработавшей ChatGPT. Для проведения масштабной кампании по манипулированию социальными сетями, чтобы обойти CAPTCHA «Вы робот?», она использовала армию людей с минимальной заработной платой, каждый из которых сказал, что работает на слабовидящего человека. ASI в Интернете больше не будет нуждаться в человеческом вмешательстве – он узнает, что ему нужно, чтобы правильно реагировать, непосредственно из шаблонов цифровых сигналов, отправляемых на экраны.

Символическая визуализация напоминает культовую заключительную сцену из фантастического фильма 1972 года «Бег без звука». Фильм рассказывает о миссии четырех астронавтов на космической платформе по сохранению последних лесов Земли в отдельных куполообразных модулях. Чтобы избежать завершения миссии по приказу уничтожить леса и вернуть мужчин и их семьи на Землю, предполагаемый главный герой отказывается от сотрудничества и в конечном итоге убивает своих товарищей и совершает самоубийство. Хотя это не произошло в результате каких-то манипуляций со стороны трех роботов ИИ, известных как дроиды, которые помогают героям фильма, все же можно представить, как это могло быть, если бы они были на уровне АСИ с первоначальной директивой о защите лесов.

В конце концов, возврата нет – выжил всего лишь один дроид, поливающий единственный уцелевший лес. Так сказать, только ИИ и Природа навсегда уплывают в космос, и люди им не нужны.

Музыка, визуальные эффекты – все было очень красиво. Возможно, они были настолько прекрасны, что стоило бы посмотреть, как мы могли бы продолжать выживать – фактически процветать – и стать частью этой заключительной сцены, прежде чем она произойдет по-настоящему, в полном смысле этого слова.

Что человечество должно предложить, чтобы присоединиться к партнерству…

В общем, если что-то собирается быть частью более крупной системы, необходимы две вещи. Во-первых, оно должно быть достаточно похоже по форме на другие компоненты, чтобы они могли с ним взаимодействовать. Во-вторых, оно должно быть достаточно разной формы, чтобы иметь какую-либо ценность. Например, если я делаю фруктовый салат, мясо для гамбургера к нему не подойдет. Кроме того, если у меня есть достаточное количество яблок и груш, было бы здорово добавить немного персика, но я не хочу дополнительных яблок или груш.

Таким образом, в данном случае человечеству необходимо стать единой целостной системой, прежде чем интегрироваться в более крупную систему с Природой и ИИ. Раз мы такие, какой персик мы можем предложить? Что ж, мы можем спросить: что такое яблоко природы и груша ИИ? Природа предлагает медленное, но верное исцеление от отходов вместе с производством полезной (высокой информации/низкой энтропии) энергии и сырья – короче, того, что нужно для дела. ИИ предлагает постоянно растущую базу данных, скорость вычислений и экспоненциально растущие возможности различения и генерирования – короче говоря, как делать вещи.

Итак, вот где мы вступаем: мы обеспечиваем управление через сознательную цель. Что это вообще означает, и как нам увеличить масштабы и качество управления, чтобы оставаться в полезном паритете с нашими партнерами?

Сознательная цель

Звучит красиво, но почему наша придуманная цель в любом случае нужна Природе или ИИ? Это потому, что, если мы правильно соединимся – точно в соответствии с тем, какой должна быть наша цель, эта цель не будет придумана, а будет абсолютной.

Эта надлежащая связь выше наших индивидуальных эго – не устраняя их, а скорее признавая их с точки зрения единой целостной системы, смотрящей свысока на свои части и осознающей их индивидуальную целостность как решающую для целого. Это модель, которую предоставила нам Природа в отношении формирования целостных систем, объединяющихся как подсистемы во все более крупные системы, для которых наша наука достаточно созрела, чтобы понять и оценить в тот самый исторический момент, когда мы начинаем понимать, как формировать непредвзятые, взаимно ответственные группы, чтобы влиять на человеческий коллективный разум, и пришли даже к тому, чтобы внедрить такое развитие в ИИ в микрокосме разума роя и в макрокосме совместной системы.

Ключевым моментом будет продвижение целостной образовательной системы с точки зрения не только предметного и проектного обучения, но и группового обучения и структурирования по принципу коллективного разума. Отправной точкой являются семинары за круглым столом с правилами взаимодействия, ориентированными на взаимное уважение, ощущение себя частью чужих идей и искреннее их выслушивание. Кто-то стремится конструктивно опираться на них как на расширяющиеся ветви и листву, а не нападать на них с топором как на ствол. Тем не менее, это здание соответствует собственному уникальному взгляду. Такой процесс продолжается до тех пор, пока не возникает беспристрастная тотальность – не неустойчивой, искусственной заинтересованности в компромиссе, а истинного единодушия. Поддерживающая медийная среда также необходима, чтобы обеспечить психологическую среду, способствующую всему этому в классе и в более широком обществе за его пределами.

Существует много литературы о деталях практической реализации всего этого и о том, куда это вообще нужно направлять. Однако, по общему признанию, требуется еще много исследований и разработок. Однако опять-таки необходимость и способность выполнить это задание стоят перед нами в силу самой Природы, из которой мы произошли, и исходящего от нас ИИ.

Как только мы сможем немного подняться над собой, чтобы по-настоящему соединиться, по бесчисленным причинам, наиболее очевидной из которых является экономия от взаимно ответственного сотрудничества по сравнению с огромными потерями в эгоистичной конкуренции, мы уже можем почувствовать, насколько лучше могла бы быть жизнь – сколько надежды находится в перспективе над этим холмом индивидуальной изоляции и сектантского идеологического презрения.

Ни одна система ценностей, ни одна культура не должны быть перевернуты – нужно просто возвыситься до небывалого единства нашей глобальной деревни; а затем, когда все будет хорошо на этом этапе, сделать шаг за его пределы.

В соответствии с темой недавно вышедшей книги Генриха Паса «Единое: как древняя идея поддерживает будущее физики» мы обнаруживаем, что монизм (от др.-греч. — один, единственный) – интегральное единство через вселенскую целостность – это наше призвание.

Итак, давайте сначала постараемся объединиться как Природа; даже наш собственный ИИ стремится к этому, когда его выпускают на свободу. Тогда давайте действительно объединимся с Природой и ИИ, чтобы вместе стать сознанием, ищущим Единого.

Давайте закончим вторым и последним лимериком от ChatGPT на ту же тему, что и в начале:

“В мире, где природа смешивается,

С ИИ человечество дружит,

«Давайте работать вместе, – говорит ИИ, –

Для более яркого мира мы можем попробовать,

Где трое живут в гармонии, без конца”.

Так может быть!

*************************************************

Статья написана в соавторстве с

Нэн Бресс: Магистр социальных наук, Магистр документального кино и видеопроизводства. Консультант по инновационным исследованиям и дизайну, редактор телевизионных новостей, этнографический исследователь и режиссер-документалист, специалист по искусственному интеллекту и дизайнер метавселенной. Постоянный член Клуба 22 век.