Yandex Metrika
0

Засновник корпорації Microsoft та один із найвпливовіших філантропів планети Білл Гейтс (Bill Gates) виступив із надзвичайно відвертим маніфестом щодо реальних загроз генеративного штучного інтелекту. У серії резонансних інтерв’ю та аналітичних есе мільярдер закликав світову спільноту позбутися наївної ейфорії: головний виклик цивілізації криється не у повстанні людиноподібних роботів, а в діях терористів та злочинних картелей. Отримавши доступ до відкритих нейромережевих архітектур, зловмисники здатні паралізувати цифрову інфраструктуру та синтезувати смертоносні біологічні патогени за лічені години.

Реалістичний аналіз загроз: чому сьогодення небезпечніше за фантастику

Протягом десятиліть академічні дискусії щодо безпеки штучного інтелекту зводилися до абстрактних роздумів про технологічну сингулярність і самоусвідомлення алгоритмів. Проте стрімкий розвиток технологій у 2020-х роках вивів на арену принципово інші виклики. Великі мовні моделі, мультимодальні трансформери та обчислювальні біологічні мережі вже сьогодні перевершують людину у швидкості аналізу інформації, програмуванні та проєктуванні складних молекул.

Гейтс звертає увагу на фундаментальну асиметрію сучасних комп’ютерних технологій: наступальні алгоритми розвиваються випереджальними темпами порівняно із засобами оборони. Якщо раніше створення витонченого кіберозброєння вимагало фінансування цілих державних інститутів і років клопіткої праці, то завдяки генеративним моделям поріг входу у небезпечні технології різко впав.

Сьогодні, паралельно з розвитком автономних нейромережевих систем, кіберпростір перетворюється на полігон швидкісних автоматизованих атак, здатних обходити традиційні засоби моніторингу.

За словами Гейтса, світові уряди критично запізнюються з регулюванням: суспільство намагається контролювати нейромережі законами минулої епохи, коли обчислювальні моделі колосальної потужності вже вільно поширюються мережею.

Automated bio-containment laboratory with illuminated bioreactor and robotic liquid handler
Автоматизований біореактор і роботизований дозатор у лабораторії: виклики подвійного використання сучасних технологій. Фото: Vinegret

Кібертероризм нового покоління: автономний пошук вразливостей і колапс мереж

Першим безпосереднім ризиком Білл Гейтс вважає тотальну зміну ландшафту кібербезпеки. Традиційні кібератаки вимагають високої кваліфікації інженерів-зломщиків, які вручну шукають уразливості нульового дня (zero-day), розробляють код експлойтів та тестують проникнення крізь мережеві брандмауери.

Сучасний штучний інтелект ламає цю парадигму. Автономні агенти на базі трансформерів здатні сканувати мільйони рядків коду за хвилини, знаходячи найтонші логічні помилки пам’яті та протоколів маршрутизації. Виявивши слабке місце, алгоритм самостійно генерує цільовий шкідливий скрипт, адаптує його під захисні системи жертви та розгортає атаку з блискавичною швидкістю.

Особливу небезпеку становить атака на критичну інфраструктуру: розподільні енергомережі, насосні станції водопостачання, лікарні та диспетчерські вежі аеропортів. Віруси-вимагачі (ransomware), керовані алгоритмами машинного навчання, можуть одночасно блокувати ключові вузли фінансової системи країни, завдаючи колосальних збитків до того, як фахівці з безпеки встигнуть локалізувати загрозу.

Загроза кібервійни

ШІ автоматизує пошук вразливостей нульового дня та генерує віруси, що здатні паралізувати енергосистеми й фінансові шлюзи.

Синтетична біозброя

Генеративні біоінформатичні моделі дозволяють екстремістам конструювати патогени із підвищеною стійкістю та смертністю.

Ненадійність захисту

Етичні фільтри моделей легко обходяться методами джейлбрейку, а відкриті моделі позбавляються обмежень за лічені години.

Оборонний щит Гейтса

Мільярдер пропонує тотальний скринінг синтезу ДНК, міжнародну сертифікацію ШІ та розгортання захисних нейромереж.

Синтетична біологія: як штучний інтелект спрощує створення патогенів

Другий і найтривожніший сценарій, про який попереджає Гейтс, полягає в синергії штучного інтелекту та синтетичної біології. Прориви в галузі глибокого навчання дозволили алгоритмам, подібним до AlphaFold, із небувалою точністю розшифровувати 3D-структуру білків. Наступним кроком стала поява генеративних дифузійних моделей, здатних створювати абсолютно нові макромолекули за заданими біохімічними параметрами.

Історично здобутки в галузі структурної біології та генетичного коду відкривали шлях до порятунку людства від невиліковних недуг. Проте технології комп’ютерного моделювання мають подвійне призначення (dual-use). Зловмисник може використати ці ж моделі, щоб спроєктувати модифікований білок вірусу, стійкий до наявних противірусних препаратів та імунітету вакцинованого населення.

У поєднанні з доступністю технологій синтезу ДНК ця загроза набуває матеріальних обрисів: комерційні ДНК-принтери дозволяють відтворювати геноми патогенів у звичайних лабораторіях. Якщо штучний інтелект розрахує генетичний ланцюжок інфекції з високою трансмісивністю та летальним ефектом, наслідки можуть перевершити масштаби найтяжчих пандемій в історії людства.

Особливу небезпеку становлять так звані хімерні віруси — штучно створені гібриди, де висока летальність одного мікроорганізму поєднується з безсимптомним розповсюдженням іншого. Нейромережеві генеративні системи здатні моделювати взаємодію спайкових білків із рецепторами ACE2 людини на квантовому рівні, перетворюючи розробку патогенів на доступну математичну оптимізацію.

«Суспільство зосереджене на голлівудських страхах перед машинами, проте реальна небезпека значно ближча: що станеться, коли екстремістська група зніме обмеження безпеки з відкритої моделі ШІ та доручить їй спроєктувати вірус із летальністю віспи?»

Білл Гейтс (Bill Gates), співзасновник корпорації Microsoft та співголова Фонду Білла і Мелінди Гейтс

Крах безпекових фільтрів: загроза відкритих моделей і джейлбрейків

Розробники провідних комерційних систем ШІ докладають значних зусиль для обмеження небезпечних відповідей за допомогою навчання з підкріпленням людським зворотним зв’язком (RLHF) та стрес-тестування так званими “червоними командами”. Проте Білл Гейтс констатує, що ці бар’єри є надзвичайно ненадійними.

Методи “джейлбрейку” (jailbreaking) дозволяють обходити цензуру за допомогою складно побудованих текстових контекстів, ролевих ігор або шифрування запитів. Модель, яка відмовляється створити шкідливий код напряму, легко виконує завдання, якщо її попросити зробити це “в академічних цілях” або у форматі вигаданого сценарію.

Ще глибшою проблемою є витік відкритих вагових коефіцієнтів (open-weights). Коли передова модель викладається у загальний доступ, будь-який досвідчений фахівець може повністю видалити всі моральні обмеження за кілька годин донавчання на звичайному графічному процесорі. Після цього алгоритм стає повністю неконтрольованим інструментом у руках радикальних груп.

Більше того, дослідники з кібербезпеки вже продемонстрували феномен непрямих ін’єкцій промптів, коли шкідливий алгоритм може бути активований через прихований текст на вебсторінці або в документі, який аналізує корпоративний ШІ-асистент. Це створює невидимі шпарини в системах корпоративної та державної аналітики.

Головні тези Білла Гейтса щодо контролю штучного інтелекту:
  • Реальна загроза походить не від повстання роботів, а від використання ШІ кримінальними угрупованнями.
  • Кібератаки нового покоління здатні за лічені хвилини вивести з ладу банківську систему та критичну інфраструктуру.
  • Сучасні генератори білків створюють ризик появи патогенів, стійких до відомих вакцин та антибіотиків.
  • Світова спільнота повинна терміново укласти міжнародні договори з безпеки ШІ за аналогією з ядерними конвенціями.

Оборонна стратегія цивілізації: скрінінг ДНК, регуляція та захисний ШІ

Аналізуючи ризики, Білл Гейтс наголошує: цивілізація має реальні важелі для захисту, якщо діятиме швидко та злагоджено. Першим обов’язковим кроком має стати запровадження суворого міжнародного контролю над замовленнями на синтез ДНК і РНК. Усі компанії-виробники генних конструкцій зобов’язані впровадити автоматичний біоінформатичний скринінг будь-яких послідовностей на наявність небезпечних фрагментів патогенів.

Другий важливий компонент — випереджальний розвиток оборонного штучного інтелекту. Системи захисту повинні виявляти цифрові вразливості автоматично і закривати дірки в коді до того, як їх експлуатують хакери. У біологічній сфері оборонні нейромережі мають цілодобово аналізувати глобальні медичні бази даних для раннього виявлення спалахів невідомих захворювань.

Насамкінець, світ потребує створення глобального регуляторного органу з контролю над штучним інтелектом за зразком МАГАТЕ. Лише координація між урядами, технологічними лідерами та науковцями дозволить спрямувати потенціал штучного інтелекту на прогрес, надійно захистивши світ від катастрофічних наслідків його неконтрольованого використання.

Цифрова та біологічна безпека майбутнього залежатимуть від здатності суспільства зберігати паритет між швидкістю інновацій та надійністю захисних механізмів, де етика технологій має стати обов’язковим стандартом проектування будь-яких моделей.

Відео: архітектура нейромереж, біологічні зв’язки та проблеми керованості складних алгоритмів
Помітили помилку в тексті? Виділіть її мишкою та натисніть Ctrl + Enter

Стежте за нашими новинами:


Like it? Share with your friends!

✏️ Повідомити про помилку

Ви помітили помилку у наступному тексті: