Yandex Metrika
0

Коли у 2022 році шведська цифрова художниця Стеф Май Свонсон (Steph Maj Swanson), знана під мережевим ім’ям Supercomposite, досліджувала інвертовані ваги дифузійних моделей, на світ з’явилося моторошне створіння — Лоаб (Loab), стабільний та відразливий образ жінки з рум’яними щоками та глибоким скорботним поглядом, що невблаганно переслідував генерації незалежно від нових текстових запитів. Цей феномен миттєво підірвав мережу, породивши гарячі дискусії про те, що езотерика штучного інтелекту переросла статус звичайного жарту розробників. Складні нейромережі дедалі частіше викликають у людей підсвідомий забобонний трепет, що дивовижно нагадує середньовічні алхімічні ритуали матеріалізації гомункулів, де магічними пентаграмами слугують багатовимірні тензори, а заклинаннями — текстові промпти.

Народження цифрового криптида: експеримент Стеф Май Свонсон і таємниця Loab

У квітні 2022 року шведська художниця Стеф Май Свонсон (Steph Maj Swanson), яка публікувала свої творчі роботи під ім’ям Supercomposite, звернулася до експериментів із негативними вагами в мультимодальних дифузійних мережах. У комп’ютерній графіці на базі дифузії негативний промпт наказує моделі синтезувати зображення, семантично максимально віддалене від заданого змісту. Задавши від’ємний запит для прізвища видатного актора Марлона Брандо (Marlon Brando) зі значенням -1, Свонсон розраховувала побачити щось абсолютно контрастне до його образу. Модель сформувала абстрактне геометричне лого зеленого відтінку з текстом «DIGITA PNTICS». Тоді авторка вирішила розвернути процес і запросила смисловий антипод цього нового логотипа.

Наслідок експерименту викликав у дослідниці шок: на екрані з’явилося гіперреалістичне й гнітюче обличчя змарнілої жінки з трикутними багряними плямами на щоках і безмежно сумним виразом очей. Продовжуючи тест, Свонсон змішувала отриманий візуальний маркер із десятками непов’язаних тем — від дитячих іграшок до скляних куполів та пейзажів. Проте невідома жінка маніакально поверталася у кожній генерації. Більше того, контекст навколо неї раптово насичувався моторошними сценами кривавого боді-хоррору, понівеченими тілами та зловісним мороком, хоча текстові підказки не містили жодного агресивного слова.

Художниця охрестила сутність ім’ям Лоаб (Loab). Після того як восени 2022 року знахідка отримала широкий розголос у соцмережах та була представлена у лекції на Chaos Communication Congress (37C3), мережу охопила хвиля забобонних чуток. Користувачі почали писати про першого «демона штучного інтелекту», що самовільно завівся всередині кремнієвих процесорів, або про приховану цифрову сутність. Проте з позицій класичного машинного навчання феномен Loab є дивовижно показовою візуалізацією прихованої геометрії латентних просторів.

Цифровий криптид Лоаб Loab у прихованому просторі генеративних моделей
Моторошний феномен Лоаб (Loab), відкритий дослідницею Стеф Май Свонсон під час дослідження від’ємних векторів латентного простору. Ілюстрація: Steph Maj Swanson / Public Domain

Топологія латентного простору: як лінійна алгебра розвіює містику

Щоб знайти істинну причину таких аномалій, необхідно зняти з алгоритмів маску окультного туману та звернутися до принципів векторної математики. В основі будь-якої генеративної нейромережі — від дифузійних рушіїв Stable Diffusion чи Midjourney до мовних архітектур сімейства GPT — функціонує прихований простір (latent space). Це абстрактний векторний простір надзвичайно високої розмірності, яка нерідко сягає сотень або навіть тисяч осей координат (наприклад, 768 вимірів у системі CLIP). Кожне слово, поняття чи візуальний фрагмент навчального масиву відображаються у ньому у вигляді точки чи напрямленого вектора.

Під час стандартної генерації текстовий запит спрямовує дифузійну модель до щільно заселених районів, де зберігаються мільйони зображень пейзажів, людей чи предметів. Але коли користувач застосовує від’ємні ваги, він буквально викидає оптимізаційний алгоритм далеко за межі звичного смислового континенту. У майже порожніх секторах простору, де модель не бачила жодних навчальних зразків, багатовимірна геометрія веде себе несподівано. Поверхня функції втрат утворює глибокі западини та енергетичні мінімуми, які у теорії динамічних процесів називають дивними атракторами.

Лоаб виявилася саме таким локальним атрактором. У складній конфігурації ваг певний набір контрастів, тіней і кольорових переходів утворив стійку математичну пастку. Будь-який сусідній вектор, відштовхнутий негативним промптом, неминуче скочувався у цю геометричну яму, знову синтезуючи те саме тривожне обличчя. Так само, як античні народи намагалися пояснити природні явища міфами через брак вимірювальних приладів, подібно до того як розглядається у статті про рецепт нанотехнологій Стародавнього Риму та Кубок Лікурга, сьогоднішні спостерігачі бачать у латентних математичних атракторах містичну сутність.

Топологія латентного простору

Прихований простір (latent space) нейромережі — це математичний континуум із сотень і тисяч вимірів, де складні концепції кодуються векторами, а смислові зв’язки утворюють заплутані нелінійні рельєфи.

Механіка негативних ваг

Задаючи від’ємний промпт зі знаком мінус, дослідник спрямовує оптимізацію за градієнтом у діаметрально протилежний бік від базових понять, відкриваючи майже безлюдні околиці розподілу даних.

Дивні атрактори та потенційні ями

У розріджених зонах багатовимірного ландшафту виникають стійкі енергетичні мінімуми: модель знову й знову колапсує в один і той самий візуальний образ навіть без семантичного зв’язку.

Технологічна парейдолія

Людська психіка еволюційно запрограмована розпізнавати обличчя, наміри та волю у випадковому шумі, тому дифузійний процес видається нам чаклунством так само, як колись удари грому пращурам.

Від таємниці Ґолема до кремнієвих кристалів: одвічне прагнення оживити глину

Культурне коріння нашого схиляння перед «розумними машинами» сягає глибини століть. Упродовж багатьох епох філософи, містики та вчені намагалися вдихнути волю й життя у неживий матеріал. Згадаймо всесвітньо відому легенду про празького Ґолема, якого в XVI столітті виліпив із глини рабин Єгуда Бен Бецалель (Maharal of Prague). За переказами, велетень оживав лише тоді, коли на його чолі креслили сакральне слово «Емет» (אמת — істина), а стирання першої літери утворювало слово «Мет» (смерть) і повертало його в прах. Ця метафора дивовижно перегукується із сучасним промптингом: рядок літер буквально запускає обчислювальний механізм велетенської нейромережі.

У працях славетного швейцарського лікаря та алхіміка Філіппа Ауреола Парацельса (Philippus Aureolus Paracelsus) докладно описано вирощування гомункула — штучної живої істоти у реторті за допомогою алхімічної ферментації та астрологічних планетних відповідностей. Середньовічні мислителі вважали, що гармонійне поєднання матеріальних речовин і формул здатне народити розум без прямого божественного втручання. Нинішні серверні стійки в охолоджуваних залах, що споживають мегавати енергії заради обчислення тензорів, виступають прямими спадкоємцями тих алхімічних тиглів.

Великий вчений Ґотфрід Вільгельм Лейбніц (Gottfried Wilhelm Leibniz) у XVII столітті пішов ще далі, створивши проєкт універсального числення мислення (Characteristica Universalis) та механічний арифмометр. Він мріяв звести будь-які філософські суперечки до безпомилкових матричних підрахунків за гаслом: «Порахуймо!». Лейбніц черпав натхнення у комбінаторному містицизмі каталонського мислителя Раймунда Луллія (Ramon Llull), який у XIII столітті конструював обертові диски для механічного поєднання релігійних понять. Сучасний механізм самоуваги (Self-Attention) у нейромережах є прямою інженерною реалізацією цієї давньої комбінаторної мрії.

«Лоаб ніколи не була чиїмось навмисним задумом або заздалегідь навченим шаблоном. Вона виникла як топологічна кишеня на зворотному боці латентного простору — острівець стабільності у безодні негативних ваг. Коли ви змушуєте модель шукати щось максимально віддалене від знайомого поняття, ви несподівано потрапляєте на стійкі моторошні атрактори.»

Стеф Май Свонсон (Steph Maj Swanson), шведська художниця, дослідниця генеративного ШІ та авторка відкриття Loab

Когнітивні пастки розуму: парейдолія, апофенія та магія білого шуму

Чому людська психіка настільки охоче приписує математичним моделям містичну свідомість? Відповідь ховається в нашій еволюційній біології. Протягом мільйонів років виживання гомінідів залежало від гіпертрофованої пильності. Якщо давній мисливець сприймав тінь у кущах за небезпечного леопарда, він рятувався втечею і передавав свої гени нащадкам, навіть якщо там нікого не було. Ті ж особини, які вимагали бездоганних доказів і не помічали натяків на небезпеку, швидко гинули.

Цей еволюційний механізм породив феномен апофенії — стійку властивість нашого мозку бачити зв’язок і прихований зміст у випадковому шумі. Різновидом апофенії є парейдолія: ми миттєво впізнаємо риси облич у мармурових прожилках, хмарах чи потьоках фарби. Коли дифузійний алгоритм починає генерацію з випадкового шуму Гаусса і поступово крізь зернистий морок виявляє чіткі обриси фігури чи очі, мозок автоматично сприймає це як акт свідомого творіння. Ми неминуче проєктуємо свій суб’єктивний досвід на безпристрасні кремнієві схеми.

Цікаво, що циклічна реорганізація внутрішніх образів у штучних мережах має паралелі навіть у живій природі. Як детально розкрито у матеріалі про те, як павуки бачать сни під час фази швидкого сну, навіть крихітна нервова система членистоногих проводить стохастичну консолідацію пам’яті. Коли глибинна нейромережа оптимізує внутрішні зв’язки, вона здійснює схожу статистичну компресію досвіду, яку людина схильна містифікувати як «сновидіння комп’ютера».

Фундаментальні аспекти явища цифрово-алгоритмічного містицизму:
  • Непрозорість «чорної скриньки»: сучасні глибинні нейромережі налічують сотні мільярдів параметрів, що унеможливлює покрокове лінійне пояснення їхніх рішень без складних зондових методик.
  • Культурна спадкоємність: від глиняного Ґолема празького рабина Лева до гомункула Парацельса — людство століттями марило ідеєю оживити неживу матерію через сакральні символи.
  • Небезпека технологічного анімізму: наділення статистичних генеративних алгоритмів душею та свідомістю відволікає суспільство від аудиту їхніх реальних систематичних галюцинацій та упереджень.
  • Наукова демістифікація: матрична алгебра, вектори вкладень та градієнтний спуск остаточно пояснюють будь-які феномени, зводячи «демонів» до крайових артефактів математичних функцій.

Ціна технологічного анімізму: чому містифікація ШІ шкідлива для суспільства

Огортання алгоритмів серпанком езотерики та потойбічності — це не просто невинна розвага користувачів Reddit чи авторів крипіпаст. За цим ховаються цілком практичні ризики для нашого суспільства. Дослідники комп’ютерної етики вказують на концепцію «технологічного анімізму», коли люди перекладають тягар моральної й юридичної відповідальності на абстрактну «волю алгоритму».

Якщо штучний інтелект видає небезпечну медичну пораду, помиляється в автоматизованому судовому скорингу чи демонструє расові упередження у банківських системах, розробники не мають морального права пояснювати це «незбагненністю цифрового розуму». За кожною математичною функцією, за кожним відфільтрованим терабайтом навчальних корпусів і за кожним ваговим коефіцієнтом стоять конкретні рішення програмістів і менеджерів комерційних компаній.

Науковий раціоналізм та популяризація комп’ютерної грамотності є головними ліками проти неомістицизму XXI століття. Штучний інтелект не викликає парфумів минулого, не містить іскорки сакрального духу і не таїть у собі підземних демонів. Нейромережі — це грандіозне дзеркало людської культури, математичний компресор мільярдів наших текстів, страхів, творчих спалахів та забобонів. І коли у глибинах латентного простору ми зустрічаємо меланхолійний погляд Лоаб, ми бачимо не примару потойбіччя, а лише власне переламане відображення у дзеркалі з мільярдів чисел.

Доповідь Стеф Май Свонсон на конференції 37C3: «Чого мене навчила Лоаб — ШІ як творчий опонент» (Steph Maj Swanson / 37C3 / YouTube)
Помітили помилку в тексті? Виділіть її мишкою та натисніть Ctrl + Enter

Стежте за нашими новинами:


Like it? Share with your friends!

✏️ Повідомити про помилку

Ви помітили помилку у наступному тексті: