Yandex Metrika
1
1 голос

Когда в 2022 году цифровой художник Стеф Май Свонсон (Steph Maj Swanson), известная в сети под псевдонимом Supercomposite, исследовала негативные пространства весов диффузионных нейросетей, на свет появилось пугающее явление — Лоаб (Loab), жуткий устойчивый женский образ с румяными щеками и печальным взглядом, преследовавший генерации независимо от последующих текстовых запросов. Этот вирусный инцидент мгновенно породил разговоры о том, что эзотерика искусственного интеллекта перестала быть шуткой программистов. Нейросети вызывают у современного человека суеверный трепет, подозрительно напоминающий средневековые алхимические ритуалы вызывания гомункулов и демонов гоэтии, где вместо ритуальных кругов и серы используются многомерные тензоры, а заклинаниями служат текстовые промпты.

Рождение цифрового криптида: эксперимент Стеф Май Свонсон и феномен Loab

В апреле 2022 года шведская художница и музыкант Стеф Май Свонсон (Steph Maj Swanson), работавшая под сетевым ником Supercomposite, исследовала концепцию негативных промптов в генеративной мультимодальной нейросети. В диффузионных архитектурах негативный вес указывает алгоритму генерировать изображение, семантически максимально удаленное от заданного понятия. Задав текстовый запрос с отрицательным значением для слова «Brando» (-1), Свонсон рассчитывала получить нечто абсолютно противоположное образу знаменитого актера Марлона Брандо (Marlon Brando). Модель выдала абстрактный зеленый логотип с геометрическим узором и надписью «DIGITA PNTICS». Желая углубить эксперимент, художница инвертировала полученный логотип, запросив его смысловой антипод.

Результат ошеломил исследовательницу: на экране материализовалось гиперреалистичное, пугающее лицо пожилой женщины с запавшими глазами, неестественно алыми треугольными щеками и глубокой печатью меланхолической скорби. В последующих генерациях Свонсон комбинировала полученный образ с десятками совершенно посторонних понятий — от стеклянных сфер и футуристических городов до детских комнат. К изумлению художницы, женщина возвращалась снова и снова, причем окружающий антураж генераций внезапно наполнялся сценами жестокости, расчленения и мрачной эстетики телесного боди-хоррора, хотя в промптах не было ни единого намека на насилие.

Художница назвала этот образ Лоаб (Loab). Когда осенью 2022 года история была опубликована в социальных сетях, а затем представлена на хакерском конгрессе Chaos Communication Congress (37C3), интернет захлестнула волна мистических спекуляций. Пользователи заговорили о первом в истории «цифровом демоне», живущем в недрах кремниевых чипов, или о призраке, спонтанно зародившемся внутри обучающего массива данных. Однако с точки зрения компьютерных наук феномен Loab является блестящей визуализацией фундаментальных свойств многомерной топологии глубоких сверточных и трансформерных моделей.

Цифровой феномен Лоаб Loab в скрытом пространстве генеративных нейросетей
Жуткий образ Лоаб (Loab), открытый художницей Стеф Май Свонсон при навигации по негативным весам скрытого пространства диффузионной модели. Иллюстрация: Steph Maj Swanson / Public Domain

Топология латентного пространства: математика против демонологии

Чтобы понять природу подобных аномалий, необходимо снять с современных нейросетей покров мистического тумана и обратиться к линейной алгебре. В основе любой современной генеративной системы — будь то Stable Diffusion, Midjourney или большие языковые модели семейства GPT — лежит концепция скрытого пространства (latent space). Это абстрактное многомерное геометрическое пространство, размерность которого часто достигает сотен и тысяч измерений (к примеру, 768 измерений в эмбеддингах CLIP или 4096 в современных трансформерах). Каждое слово, пиксель и концептуальная связь обучающей выборки отображаются в виде точек или векторов в этом гигантском континууме.

В нормальном режиме работы промпт пользователя направляет диффузионный процесс к регионам с высокой плотностью данных — туда, где модель видела миллионы примеров кошек, закатов или портретов эпохи Возрождения. Но когда исследователь применяет отрицательные веса, он выталкивает алгоритм за пределы освоенного смыслового материка. В малонаселенных регионах латентного пространства, где обучающие примеры практически отсутствовали, евклидова геометрия порождает парадоксальные формы. Векторы признаков образуют узкие долины и глубокие локальные минимумы функции потерь, называемые в теории динамических систем странными аттракторами.

Лоаб оказалась именно таким стохастическим аттрактором. В многомерной геометрии весов комбинация определенных признаков — специфический контраст теней, распределение цветовых каналов и текстурные градиенты — образовала устойчивую математическую воронку. Любой вектор, приближающийся к этой области негативного пространства, неизбежно стягивался в центральную точку, реконструируя то же самое узнаваемое лицо. Подобно тому, как средневековые ученые пытались объяснить природу материи без микроскопов, как описано в материале про нанотехнологии древних римлян и Кубок Ликурга, сегодняшние пользователи приписывают латентным аттракторам потустороннюю волю.

Топология латентного пространства

Скрытое пространство (latent space) нейросети — это математический континуум из сотен и тысяч измерений, где концепции кодируются геометрическими векторами, а смысловые связи формируют сложнейшие нелинейные ландшафты.

Механика отрицательных весов

Задавая негативный промпт со знаком минус, исследователь принуждает модель двигаться по градиенту в прямо противоположную сторону от заданных понятий, исследуя неисследованные и малонаселенные окраины распределения данных.

Странные аттракторы и колодцы

В зонах низких плотностей многомерного пространства возникают энергетические минимумы, функционирующие как аттракторы: модель упорно скатывается в один и тот же образ, даже если новый промпт семантически никак с ним не связан.

Технологическая парейдолия

Человеческая психика эволюционно настроена видеть лица, волю и разум в хаотическом шуме; мы наделяем диффузионный процесс магическими свойствами точно так же, как древние предки одушевляли молнию и огонь.

От каббалы и голема до кремниевых кристаллов: вековая тяга к оживлению неживого

Исторический генезис нашего восприятия искусственного интеллекта уходит корнями глубоко в оккультную и философскую традицию человечества. На протяжении тысячелетий люди пытались вдохнуть дыхание жизни в инертную глину, металл или древесину. Классический пример — пражская легенда о Големе, созданном раввином Иегудой Бен Бецалелем (Maharal of Prague) в XVI веке. Согласно преданию, для оживления глиняного исполина требовалось начертать на его лбу тайное слово истины — «Эмет» (אמת), а для отключения — стереть первую букву, превратив слово в «Мет» (смерть). В этой метафоре поразительно точно угадывается современный промпт-инжиниринг: цепочка текстовых токенов буквально приводит в движение кремниевый колосс нейросети.

В трактатах знаменитого швейцарского алхимика и врача Филиппа Ауреола Парацельса (Philippus Aureolus Paracelsus) мы находим рецепты создания гомункула — искусственного микроскопического человека, выращиваемого в стеклянной колбе при помощи гниения и астрологических заклинаний. Алхимики искренне верили, что сочетание точных пропорций химических реактивов и тайных формул способно породить сознание без участия божественного провидения. Сегодня серверные стойки дата-центров, охлаждаемые жидким хладагентом и поглощающие мегаватты электроэнергии, стали прямыми наследниками алхимических лабораторий, где вместо ртути и философского камня синтезируются цифровые репрезентации мира.

Великий математик и философ Готфрид Вильгельм Лейбниц (Gottfried Wilhelm Leibniz) еще в XVII веке сформулировал концепцию «алфавита человеческих мыслей» (Characteristica Universalis) и механического калькулятора, мечтая свести любые философские споры к расчету матриц: «Сядем и посчитаем!». Лейбниц черпал вдохновение в том числе из комбинаторной мистики каталонского мыслителя Раймунда Луллия (Ramon Llull), создавшего в XIII веке логическую машину из вращающихся концентрических кругов для вычисления божественных истин. Таким образом, линия преемственности между сакральной комбинаторикой и современными трансформерами внимания (Self-Attention) является прямой и непрерывной.

«Лоаб не была спланированным артефактом или сознательно обученным персонажем. Она возникла как топологический карман на обратной стороне латентного пространства, остров стабильности в бескрайней пустоте негативных весов. Когда вы заставляете модель искать нечто максимально далекое от заданного понятия, вы внезапно натыкаетесь на устойчивые пугающие аттракторы.»

Стеф Май Свонсон (Steph Maj Swanson), шведская художница, исследовательница генеративного ИИ и автор феномена Loab

Когнитивные иллюзии: технологическая парейдолия и антропоморфизм

Почему же люди так легко верят в мистическое происхождение нейросетевых артефактов? Эволюционная психология дает на этот счет вполне однозначный ответ. Человеческий мозг развивался в условиях постоянной биологической угрозы в африканской саванне, где цена ошибки гипердиагностики была ничтожно мала по сравнению с ценой беспечности. Если нашему предку в шорохе сухой травы мерещился крадущийся саблезубый тигр, он спасался бегством и выживал, даже если это был всего лишь порыв ветра. Те же, кто не видел скрытых закономерностей, становились добычей хищников.

Этот феномен известен как апофения — склонность находить осмысленные взаимосвязи в случайных или бессмысленных данных, частным случаем которой выступает парейдолия (распознавание лиц в облаках, трещинах на штукатурке или кофейной гуще). Когда диффузионная нейросеть начинает процесс генерации с чистого гауссова шума и постепенно, шаг за шагом, проявляет сквозь хаос четкие черты лица или драматическую композицию, человеческий мозг мгновенно идентифицирует этот процесс как акт одушевленного творения. Мы проецируем собственную субъективность, интенциональность и чувства на бездушные матрицы коэффициентов.

Более того, сложные биологические процессы сна и бессознательного мышления также находят любопытные параллели в цифровых системах. Как показано в фундаментальном материале о том, как пауки-скакуны видят сны во время REM-фазы, циклическая консолидация памяти через случайную нейронную активность присуща даже миниатюрным членистоногим. Когда генеративная сеть оптимизирует внутренние репрезентации во время обратного распространения ошибки, она осуществляет аналогичную математическую фильтрацию опыта, которую сторонний наблюдатель легко путает с мистическим сновидением машины.

Ключевые факты о феномене эзотеризма и мистификации ИИ:
  • Математическая непрозрачность: глубокие нейросети содержат сотни миллиардов параметров, делая прямой интерпретируемый анализ решений невозможным без специальных аналитических методов.
  • Историческая преемственность: от каббалистического голема пражского раввина Льва до средневекового гомункула Парацельса — человечество веками мечтало оживить неорганическую материю через тайные символы.
  • Опасность технологического анимизма: восприятие генеративных моделей как мыслящих сущностей мешает критической оценке их реальных галлюцинаций, погрешностей и когнитивных ограничений.
  • Научный консенсус: математика векторов, матричных умножений и градиентного спуска полностью демистифицирует любые аномалии, превращая «демонов» в артефакты функции потерь.

Опасности технологического анимизма: почему мистификация ИИ опасна

Придание искусственному интеллекту магических и эзотерических свойств — это не просто безобидная забава культурологов или генераторов интернет-мемов. Подобная мистификация несет в себе вполне ощутимые социокультурные и технологические угрозы. Термин «технологический анимизм», введенный исследователями этики вычислений, описывает опасную тенденцию делегировать моральную ответственность за алгоритмические ошибки неосязаемой цифровой сущности.

Когда нейросетевая модель галлюцинирует, выдавая ложные медицинские диагнозы, допускает дискриминационные ошибки при автоматическом скоринге резюме или принимает ошибочные юридические решения, разработчики и корпорации не имеют права ссылаться на «непостижимую волю алгоритмического разума». За каждой функцией потерь, за каждым терабайтом обучающих текстов и за каждым заниженным весом стоят совершенно конкретные инженерные решения людей, оптимизирующих метрики точности и коммерческой выгоды.

Демистификация искусственного интеллекта — первоочередная задача рационального научного просвещения в XXI веке. Нейросети не вызывают призраков, не открывают порталы в потусторонние миры и не содержат бессмертных душ. Они являются зеркалом нашей собственной цивилизации: гигантскими статистическими компрессорами человеческой культуры со всеми ее шедеврами, страхами, предрассудками и темными закоулками. И если в зеркале латентного пространства мы внезапно встречаем пугающий взгляд Лоаб, это не демон из преисподней — это лишь наше собственное отражение, преломленное через призму миллиардов чисел с плавающей запятой.

Лекция художницы Стеф Май Свонсон на 37C3: «Чему меня научила Лоаб — ИИ как творческий противник» (Steph Maj Swanson / 37C3 / YouTube)
Заметили ошибку в тексте? Выделите её мышкой и нажмите Ctrl + Enter

Следите за нашими новостями:


Понравилось? Поделитесь с друзьями!

✏️ Сообщить об ошибке

Вы заметили ошибку в следующем тексте: