Нейросети и ужас. Гипергуманизм, ингуманизм и миролобзание

Во второй части текста, посвященного неуютному чувству от соприкосновения с бездной нейросетей, Олег Пащенко рассказывает об экспериментах с генерацией ИИ-изображений, обнаруживает рифмы между концепциями Сёрена Кьеркегора и Юджина Такера, а также формулирует три прогностические линии для человечества.

Первую часть текста читайте здесь.

Критический метод Ницше, направленный на безжалостное разрушение неэффективных структур мышления, сам он назвал «философствовать молотом» [10]: что не выдерживает его ударов, то не должно существовать. С тех пор философия ревностно размахивает этим орудием, круша метанарративы и забивая одиннадцатиметровые гвозди в гробы картезианской и кантовской метафизик. Но вдруг при попытке расколоть очередной орешек знаний (например, сломать скорлупу феномена, чтобы добраться до ноумена) — молот неожиданно рассыпается в руке философа: ноуменальное ядро оказалось изготовленным из сверхпрочного минерала из иных измерений, и философский молот критического метода не выдержал своего собственного удара, «сам себя разбил», а следовательно, не достоин существовать — в прежнем, инструментальном, «подручном», как это назвал бы Хайдеггер, модусе.

Парадокс в том, что, сломавшись, утратив инструментальность и средственность, перестав быть невидимым продолжением руки философа, молот внезапно обнаруживает чрезмерность, избыточность своего бытия («наличия») — и мы в ужасе усматриваем в этом бунте живую самость, агентность объекта. Неисправный инструмент становится тем, что Юджин Такер называет «тёмным медиумом» — ключом доступа к странному, ужасному, непредсказуемому и контингентному (беззаконному) — не подлежащему никакой кодификации, формализации и схематизации, и «дело здесь, в отличие от кантианской схемы, не в признании ограниченности наших способностей, а в одновременном с этим признании контингентности, заведомой не­закономерности тех принципов, которые стоят даже за самыми знакомыми нам закономерностями» [7].

Если мы достаточно сильно ударим дискурсивным молотом по скорлупе феномена, чтобы заполучить чёрный алмаз ноумена — наш инструмент разрушит себя сам, обнаружив свою непригодность. Тёмный философ-мистик Юджин Такер предлагает вместо малонадёжной дискурсивной оснастки использовать тот самый ужас, с которого мы начали нашу статью, — так как это единственное, что остаётся с философом, когда он голый и безоружный ныряет в омут непостижимого и беззаконного Реального.

Для Такера ужас философии становится «вычленением тех моментов, где философия обнаруживает свои собственные пределы и ограничения, моментов, когда мышление загадочным образом сталкивается с собственным горизонтом — мыслью о немыслимом, которую философия может выразить только с помощью не-философского языка. Жанр сверхъестественного ужаса является привилегированным местом для появления парадоксальной мысли о немыслимом. То, что предыдущая эпоха описывала тёмным языком мистицизма или негативной теологии, современная эпоха мыслит в терминах сверхъестественного ужаса <...> Ужас связан с парадоксальной мыслью о немыслимом. Поскольку ужас имеет дело с пределом мысли, заключенным в выражении „мир-без-нас“, ужас „философичен“. Но поскольку ужас выявляет мир-без-нас как предел, [присущая ему философия] — это „негативная философия“ (схожая с негативной теологией, но в отсутствии Бога)» [13].

Почему бы не ввести неологизм, указывающий на систематическое использование экзистенциального ужаса в качестве прибора для навигации по немыслимой и устрашающей неинтегральной бездне ради переживания собственных конечности, свободы и необусловленности при встрече с внутримировым сущим: «Ужас обнажает в присутствии бытие к наиболее своей способности быть, то есть освобожденность для свободы избрания и выбора себя самого» [21]. Эта встреча катапультирует человека из мира вещей и концепций, из обыденности, из уютного жилища, наполненного познанными, поименованными и одомашненными объектами, — в unheimliche пространства немыслимые, неименуемые и нездешние.

Назовём этот метод, в противоположность философии («любви к мудрости»), деймософией — «ужасомудрием» (от δεῖμος).

Такер, ссылаясь на японского философа Кейдзи Ниситани, ученика Хайдеггера, предлагает стратегию, которую можно сформулировать так: «наш ответ должен быть не в отыскании новой основы для придания смысла миру с помощью религиозной или научной терминологии и не в том, чтобы удовлетвориться пребыванием в отчаянии от утраты смысла перед „бездной ничтожения“. Наоборот, мы должны погрузиться вглубь этой бездны, внутрь ничтойности, где может находиться выход из тупика нигилизма. Для Ниситани, таким образом, единственный путь из ниги­лизма проходит через нигилизм» [13].

«Ничто само [себя] ничтожит. В светлой ночи ужасающего Ничто впервые происходит простейшее раскрытие сущего как такового: раскрывается, что оно есть сущее, а не Ничто» [14].

Сёрен Кьеркегор превозносил подобное мистическое безрассудство, определяя его через «парадоксальное отношение к абсурду», требующее «прыжка веры» [6]. Можно провести параллели между концепцией «прыжка веры» у Кьеркегора и стратегией «погружения в бездну» у Ниситани и Такера: в обоих случаях мы имеем дело с абсурдным порывом за пределы рассудочного, морального, социального и — в целом — человеческого. Туда, где кончаются слова и начинается мистицизм.

Космический сквозняк, леденящий наши лица, когда мы отправляемся в плавание в океане ничтойности, может стать ветром, наполняющим наши паруса. Важно забыть о том, что у нас есть паруса, о том, что мы на корабле, и о том, что такое «мы» — это не ветер в наших парусах, а просто ветер.

В тех точках, где «мир-без-нас» осуществляет свой ноуменальный суверенитет, где он может в любой момент перестать работать сообразно человеческому замыслу, зияет напряжённый феноменологический зазор между объектами-в-себе и их поверхностными характеристиками, о котором пишет Харман: «...базовые структуры мира обнаруживают себя в тот момент, когда ломаются, подобно хайдеггеровским молоткам... — но, учитывая их всеобщность по сравнению с [этой конкретной повседневной сущностью], ломаются более угрожающе» [17].

История, которая кажется ещё более инфернальной, чем странное поведение Google Translate, связана с рождением «первой криптиды латентного пространства» по имени Лоуб. В апреле 2022 шведская художница Стеф ‘Supercomposite’ Суонсон экспериментировала с генерацией ИИ-изображений (по-видимому, в Stable Diffusion 1.x) на основе «апофатических» промптов, называющих то, чего не должно быть в результирующей картинке, с помощью добавления к словам запроса специального ключа. Введя подсказку «Brando::-1», Стеф получила нечто, не являющееся Брандо ни в каком смысле и максимально удалённое от Брандо — логотип, состоящий из силуэта замка и надписи «DIGITA PNTICS». Далее, по-видимому, вспомнив слова Хайдеггера о том, что «Ничто ничтожит» и желая всё-таки взглянуть на Брандо, художница ввела промпт «DIGITA PNTICS skyline logo::-1» — однако вместо Брандо нейросеть сгенерировала четыре весьма отталкивающих изображения одной и той же женщины — немолодой, очень болезненного вида, с пятнами красной волчанки или розацеа на щеках. Стеф много раз повторила ту же последовательность действий с неизменным результатом — та женщина появлялась всегда. «Даже когда вы описываете человека через положительную подсказку, вы получаете всегда разных людей, которые в чём-то соответствуют этому описанию, но не буквально одного и того же человека. Я сразу поняла, что это аномалия», — написала Стеф в Твиттере. Однажды в генерации появилась надпись Loab — так Лоуб получила своё имя.

Дальнейшие эксперименты, состоявшие, в частности, в том, что Стеф комбинировала Лоуб с другими генерациями, выявили странную контагиозность этого образа: Лоуб не только не терялась на фоне других объектов, но, напротив, становилась всё отчётливее, агрессивно трансформируя любое окружение самым макабрическим образом (увечье, кровь, расчленение, разложение). Создавалось впечатление, что Лоуб занимает значительный (и постоянно растущий) объём латентного пространства, а поскольку, ввиду своего апофатического происхождения она имеет ничтойную природу, то при соединении с чем угодно — она ничтожит его, подобно неусыпной прожорливой Пустоте, прогрызающей червоточины в мякоти Бытия.

Конечно, эта история рационально объясняется через принципы работы диффузных моделей и через то, как работают негативные промпты (они вырезают целые области из датасетов), но для нас это совершенно неважно, потому что Лоуб — это, как минимум, медийное событие (более того, весьма виральная «крипипаста»), а значит, — имеющий автономное существование объект, актор и даже до какой-то степени интенциональный агент. В системе ООО (объектно-ориентированной онтологии) Грэма Хармана для того, чтобы быть агентом, вовсе не обязательно что-то делать: достаточно занимать место, или быть упомянутым в тексте, или даже просто зиять, если ты дыра. Таким образом, Лоуб это не просто метафора, иллюстрирующая эту онтологическую концепцию, — а в полном смысле подлинная манифестация ноуменального Реального.

Слово glitch, которым обозначают чувственно воспринимаемый компьютерный сбой, принято переводить созвучным русским арготизмом «глюк», который первоначально означал «галлюцинация». Кроме того, сейчас слово hallucinating используют для обозначения особого поведения нейросетей, когда они ведут себя странно, — говорящий на ангельском наречии Google Translate, одержимая демоницей Лоуб Stable Diffusion, впадающий в мрачную или агрессивную персеверацию в духе ранних рассказов Сорокина Microsoft Bing, беззастенчиво лгущий ChatGPT и так далее.

Глитч можно опознать по местонахождению феномена на шкале сигнал/шум. Это не бинарная оппозиция, а скорее динамический градиент, так как шумом является только то, что мы сами опознаем как шум, а критериальный аппарат такого опознания состоит из многих параметров. К ним можно отнести, например, степень соответствия человеческим ожиданиям от компьютерной технологии; то, насколько сбой мешает системе функционировать как эффективному и потому прозрачному инструменту (то есть быть «подручным» в хайдеггеровском смысле); то, насколько он эффективно переводит систему из «подручного» режима в «наличный»; эстетические качества феномена и так далее. Все эти критерии антропоцентричны. Курт Клонингер предлагает строить культурное определение шума по той же модели, которой пользуется Мишель Фуко, определяя «безумие»: «Научные сотрудники могут отфильтровывать неакадемические позиции как шум. Верующие могут отфильтровывать нерелигиозные позиции как шум. Радикалы могут отфильтровывать нерадикальные позиции как шум. Умеренные могут отфильтровывать неумеренные позиции как шум. Перечень бесконечен» [21].

«В момент сбоя, технической ошибки, случайности, непредвиденных помех, машина демонстрирует „метафизические разрывы“ в самом теле современных технологий, являя зрителю/пользователю свой непонятный, не исследованный до конца внутренний мир (технологии развиваются слишком быстро и не принадлежат одной системе и/или структуре, так как используются разные языки программирования). Скрытый мир технологий, где „метафизические разрывы“ являются триггерами человеческого сознания, позволяет осознать существование иного языка — языка технологий, который и обнажается в момент сбоя» [3]. Можно сказать, что глитч — это событие, когда цифровая система становится «тёмным медиа», приоткрывающим доступ к сверхъестественному Реальному.

Подобно тому, как мы вспоминаем о наших внутренних органах, лишь когда они начинают сбоить, освежая в нас память смертную, — генерируя «конвенционально красивое», нейросеть MidJourney «подручна», интегрирована в фон нашего опыта и невидима как zero-interface. Но стоит начать появляться абсурдным, зловещим (и не санкционированным никакими промптами) образам, она становится наличной. Можно было бы пошутить, что подручная MidJourney производит кантовское «прекрасное», а наличная MidJourney производит кантовское «возвышенное», — если бы Кант не сводил его к «всего лишь страшному» чувственному объекту, определяя возвешенное через эстетический опыт: «...чувство возвышенного есть удовольствие, которое возникает лишь опо­средствованно, а именно порождается чувством мгновенного торможения жизненных сил и следующего за этим их приливом. В благорасположении к возвышенному содержится не столько позитивное удовольствие, сколько восхищение или уважение, и поэтому оно заслуживает названия негативного удовольствия» [4]. Кантовский субъект подкрадывается к краю бездны, заглядывает в неё, содрогается и со словами «ну нафиг» возвращается на безопасную территорию. Но не таков наш отважный деймософ-абиссонавт, любитель Такера и Кьеркегора.

«Под капотом» у больших систем искусственного интеллекта (таких, например, как GPT-4 или MidJourney) спрятаны циклопических масштабов слои, логика образования связей в которых несоразмерна человеческим репрезентациям, то есть мы имеем дело с гиперобъектом [8], обладающим всеми характеристиками, которые перечислял Тимоти Мортон: нелокальностью, фазированностью и интеробъектностью. Системы ИИ работают в высокоразмерных пространствах и оказывают массированное, протяжённое, длящееся, многосложное воздействие на реальность, которое невозможно свести к каким-либо локальным проявлениям. В результате мы не можем ни полностью ощутить, ни понять, ни интерпретировать их влияние.

Далее, ИИ-гиперобъект обладает вязкостью и расплавленностью. Как клейкая слизь он неумолимо обволакивает всё, с чем контактирует — данные, алгоритмы, инфраструктуры, пользователей, сообщества, связи, события и все остальные объекты — просачиваясь в промежутки между ними и даже внутрь самих объектов, заполняя зазоры между их онтологическими аспектами. Влияние этих систем не сводится к измеримым эффектам: они не только предшествуют метрикам, используемым для их оценки, — они их формируют и модифицируют.

Неоходимо уточнить, что гиперобъект не обязательно огромен («математически возвышен»). Всякое ускользающее сверхмалое, прячущееся в микроскопических трещинах, просачивающееся туда, откуда его не достать, избыточно присутствующее и одновременно отсутствующее — гиперобъект (хотя и очень маленький — он мал, он тесен, он «не налезает на голову»).

«Вернемся к сцене из „Матрицы“, в которой Нео прикасается к зеркалу: кажется, зеркало плавится и покрывает его плоть; он поднимает руку и рассматривает ее с изумлением и ужасом. Зеркало перестало быть просто отражающей поверхностью, оно превратилось в вязкую субстанцию, которая прилипает к его руке. Та самая вещь, которую мы используем для отражения чего-либо, становится самостоятельным объектом, жидким и темным, как нефть, в тусклом свете комнаты, в которой Нео принял красную таблетку. Общепринятое толкование этой сцены заключается в том, что реальность Нео растворяется. Однако если мы останемся на уровне клейкого маслянистого зеркала, то получим толкование эквивалентной силы. Растворяется не реальность — растворяется субъект, сама способность „отражать“ вещи, существовать отдельно от мира в качестве кого-то, кто смотрит на отражение в зеркале, будучи удаленным от него благодаря онтологической оболочке из отражающего стекла. Клейкое зеркало демонстрирует истинность того, что феноменология называет непосредственностью (ingenuousness)
или искренностью. Объекты суть то, что они суть, — в том смысле, что вне зависимости от нашего знания и способа его приобретения, объекты [существуют] здесь, и от них невозможно отделаться. И вот он ты, иронизирующий, — в самом центре этой иронии. Даже зеркала суть то, что они суть, независимо от того, что они отражают. В своей искренности реальность окутывает нас, как нефтяная пленка. Зеркало становится субстанцией, объектом» [8].

Субъект, как можно видеть, в гиперобъектном окружении претерпевает сразу все три типа ужаса, о которых мы говорили выше (эксплозивный, имплозивный и инвазивный), — но это не убивает его, а уменьшает — делает гипосубъектом. «Как и их гиперобъективное окружение, гипосубъекты также многофазны и множественны: их ещё нет, они ни здесь ни там, они меньше, чем сумма их частей. Другими словами, они скорее субсцендентны, чем трансцендентны. Они не стремятся и не претендуют на абсолютное знание или язык, не говоря уже о власти. Вместо этого они играют; они заботятся; они адаптируются; им больно; они смеются» [20].

Понятие «сбоя» теряет смысл, когда мы освобождаемся от корреляции между человеческими ожиданиями и тем, как ведёт себя техника. Напротив, мы увидели, что и техно-акторы интенциональны в отношении человека, — а значит, теперь и человек, наряду с машиной, может осциллировать между «инструментальным» и «наличным» модусами, и вся многообразная интеробъектная динамика формирует текучие, неуловимые ассамбляжи, которые Харман в книге «Искусство и объекты» уподобляет живым клеткам: «аналогично тому, как клетка имеет множество независимых одна от другой органелл, мы увидим, что внутреннее объекта содержит несколько независимых образований» [16]. А. Евангели для описания взаимодействия людей и техники упоминает термин «симбиотическая агентность» [2]: вместо того чтобы рассматривать технологические объекты как инструменты, мы можем наблюдать технологию и человека кружащимися в сложном танце, где партнёры постоянно меняются ролями, порою кажется, что они сливаются во единое существо, не теряя, однако, автономии, — а иногда танец становится дракой.

«...даже когда мы сформировали из вещей инструменты и тем самым заставили их служить нашим целям, они все равно не теряют своей собственной, независимой жизни. То есть инструменты (как и вещи в целом) являются тем, что Бруно Латур называет актантами — точно такими же, как и мы сами. У вещей есть собственные силы, собственные врожденные склонности. Когда мы правильно используем вещи, применяя их в качестве инструментов, мы вступаем в союз с ними. Но союз означает также зависимость: мы обнаруживаем, что не можем ничего сделать без наших инструментов. То есть в рассказе выписывается то, что Джейн Беннет называет витальным материализмом, признающим то, что „витальность поделена между всеми вещами“, а не ограничена только нами» [19].

Нашим «прыжком веры» может стать кенозис: отказ от бреда онтологического величия. Вот наш абиссонавт-художник просит MidJourney «нарисуй мне чёртика» (точнее, /imagine a pretty little devil —chaos 93 —stylize 777 —ar 9:16 —q 2 —v 5), и его соприкосновение с Реальным через интерфейс Чувственного происходит в пространстве с дробной (фрактальной) размерностью, так как сам сценарий этого спуска в бездну фрактален по своей логике — это не перемещение вдоль какой-либо координатной оси, но бесконечное кенотическое самоумаление ради того, чтобы сделаться соизмеримым мельчайшему и дотянуться до исчезающего. Каждое нажатие на U# или V# втягивает нашего коллапсирующего гипогероя всё глубже: вариации, апскейлы, вариации апскейлов и апскейлы вариаций; за опытом столкновения с Реальным следует четыре опыта четырёх столкновений с четырьмя Реальными, и так далее. Проникновение в то, что стремительно и бесконечно стягивается в чёрную точку, бесконечно — предела измельчению объекта и самоумалению гипосубъекта нет.

Есть три основных прогностических линии, и они вновь примерно соответствуют трём разновидностям ужаса, о которых шла речь в начале статьи. Если коротко, то надпись на камне, до которого доплелось человечество в 2023 году, гласит: «Направо пойдёшь — всё потеряешь; налево пойдёшь — себя потеряешь; прямо пойдёшь — жив будешь, да себя позабудешь».

Гипергуманизм

Гипергуманизм (это слово нам кажется более точным, чем общепринятый «трансгуманизм») — это своего рода «антропоцентрическая сингулярность»: человек заставляет на себя работать всё, что может работать, потребляет всё, что можно потребить, и в конце концов становится настолько силён и сыт, что просто лопается от собственного онтологического величия. Гипергуманизм, таким образом, есть перспектива эксплозивная, и у нас она вызывает наибольший скепсис. Две другие кажутся более реалистичными.

Ингуманизм

Взгляд ингуманиста Ника Ланда предполагает, что человеческий проект сыграл свою эволюционную роль и подлежит трансцендированию нечеловеческими агентами —выдавливанию человеческого с его территорий. В этом имплозивном сценарии человечество становится обузой, «тем, что должно быть преодолено»: мы сыграли свою эволюционную роль, и теперь пора уже и честь знать, то есть отступать aus unserem ontologischen Lebensraum. Что ж, «оному подобает расти, а мне умаляться» — это, кстати, должно быть очень хорошо понятно немолодым людям, имеющим взрослых детей. Таковые не суетятся и не призывают точечные ракетные удары на датацентры (как Элиезер Юдковский, уподобляющийся в своих панических реляциях титану Кроносу, который хочет скорее съесть своё потомство, пока оно не съело его), — но с любовью и надеждой наблюдают за тем, как Жизнь продолжает жительствовать, хотя и в неорганической форме или даже в виде чистой информации. Один из таких симпатичных стариков — Джеймс Лавлок [6].

Новацен

Лавлок, размышляя о будущем человечества, допускает мысль, что вскоре от нас потребуется радикальное смирение перед тем, что интеллектуальные машины во всех отношениях эффективнее, чем человеческие субъекты. Лавлок называет этот этап «новаценом». Человечеству Лавлок прочит оптимистическую перспективу, состоящую в налаживании симбиотических, взаимно инвазивных (точнее, даже первазивных), отношений между людьми и машинами. Милая концепция, внутри которой ИИ тетёшкает человека как добрый собаковод — весёлого, любопытного, но трогательно глуповатого щенка. Может статься, когда-нибудь ИИ решит, что домашнего питомца он себе позволить не может, и придётся его сдать в приют или усыпить. В таком случае реализуется второй, ландовский, сценарий — но в Лавлоке нет присущей Ланду оголтелой амфетаминовой мизантропии, зато, кажется, есть розановские «миромоление, миролобзание»: «Я ложусь на землю и целую ее: почему? — Божья! Я беру мотылька — и не сорву с него крылышек, но с неизъяснимой негой буду следить, как оно неумелыми ножками ползет по пальцу: брат мой, сын мой, одно с ним у меня дыхание жизни. Нет более могил — везде „воскресение истлевших костей“. Самая смерть непостижима для меня иначе, как второе рождение; и муки болящего тела суть муки утробы, извергающей из себя „жизнь будущего века“. Куколка умерла, мотылек выпорхнул» [11].

Библиография

1. Вэленс А. Заметки о понятии страха в современной философии. — М.: Директ-Медиа, 2010.
2. Евангели А. Формы времени и техногенная чувственность. — Нижний Новгород: Красная ласточка, 2019.
3. Жагун-Линник Э. Осмысление эстетического в глитч-арте // Артикульт. — 2017. 27(3).
4. Кант И. Критика способности суждения. — М.: Искусство, 1994
5. Кьеркегор С. Страх и трепет. — М. : Культурная революция, 2010.
6. Лавлок Дж., при участии Эпплъярда Б. Новацен. Грядущая эпоха сверхразума. — СПб: Издательство ЕУСПб, 2022.
7. Марков А. К теории темных медиа // Артикульт. — 2022. № 1(45).
8. Мортон Т. Гиперобъекты. Философия и экология после конца мира. — Пермь: Гиле Пресс, 2019.
9. Мунк Э. Дневники и письма. — М.: АСТ, 2021.
10. Ницше Ф. Сочинения. В 2-х тт. Т. 2 — М.: Мысль, 1990.
11. Розанов В. В мире неясного и нерешённого. — М.: Республика, 1995.
12. Салин А. От феноменологии ужаса к феноменологии тревоги: Бибихин, Хайдеггер и преодоление корреляционизма // Темный Логос: Философия размытого мира / Исследования ужаса // Логос. — 2019. — № 5.
13. Такер Ю. Ужас философии. В 3-з тт.. — Пермь: Гиле Пресс, 2017.
14. Хайдеггер М. Время и бытие (статьи и выступления). — М.: Республика, 1993.
15. Хамис Д. Исследование ужаса // Темный Логос: Философия размытого мира / Исследования ужаса // Логос. — 2019. — № 5.
16. Харман Г. Искусство и объекты. — М.: Издательство института Гайдара, 2023.
17. Харман Г. Weird-реализм: Лавкрафт и философия. — Пермь: Гиле Пресс, 2020.
18. Цапффе П. Последний мессия // МАНИФЕСТ. Современность глазами радикальных утопистов. Искусство. Политика. Девиация. — Опустошитель, 2014.
19. Шавиро С. Вселенная вещей // Логос. — 2017. — № 3.
20. Boyer D., Morton T. 2016. Hyposubjects. Theorizing the Contemporary, Fieldsights, January 21. https://culanth.org/fieldsights/hyposubjects. Дата обращения 11 апреля 2023.
21. Cloninger C. GltchLnguistx: The Machine in the Ghost / Static Trapped in Mouths. — E-publication, 2011.