Каждый крупный технологический прорыв всегда сопровождался не менее серьёзными проблемами — и искусственный интеллект (ИИ) тут вовсе не исключение. Его недостатки сегодня уже хорошо известны: он вредит экологии; он плохо влияет на наш мозг; всё чаще он становится смертельно опасным — и, честно говоря, он не настолько хорош в работе, чтобы оправдать все эти минусы.
Однако, как утверждается в новой статье юристов Марии Сальватриче Рандаццо (Maria Salvatrice Randazzo) и Гузиял Хилл (Guzyal Hill), на этом дело не заканчивается. В нынешнем виде ИИ-модели представляют собой не более чем «проблему чёрного ящика»: есть входные данные, есть выходные, а посередине зияет огромная дыра «поверьте на слово», где неизвестно, какие права и границы нарушаются — и почему.

Это, отметила Рандаццо в недавнем заявлении, «очень серьёзная проблема», которая «будет только усугубляться без адекватного регулирования». Алгоритмы ИИ непрозрачны и не подотчётны, пояснила она: они принимают решения, которые человек не может воспроизвести или объяснить. В результате мы не в состоянии даже понять, нарушены ли наши права при их использовании.
Примеры далеко искать не нужно. Всего месяц назад компания Anthropic согласилась выплатить тысячам авторов в общей сложности 1,5 миллиарда долларов в рамках коллективного иска за то, что якобы загрузила миллионы пиратских книг для обучения своего чат-бота. А ещё раньше в Великобритании ИИ-системы подверглись критике за применение в судебной и социальной сферах: в силу особенностей их обучения они лишь закрепляли человеческие предубеждения, несправедливо наказывали невиновных и ставили под сомнение действующее законодательство о защите данных.
Разумеется, виноват в этом не сам ИИ — он просто работает так, как был задуман. Проблема в том, что мы ждём от него слишком многого.
«ИИ не обладает интеллектом в человеческом смысле этого слова, — пояснила Рандаццо. — Это триумф инженерии, а не когнитивного поведения.»
«Он не понимает, что делает и зачем, — добавила она. — Нет никакого мышления, в том виде, как его понимает человек: только распознавание шаблонов, лишённое тела, памяти, эмпатии и мудрости.»
Необходима система строгого регулирования — и в этом направлении уже выделяются три подхода. Есть «государственно-центричная» модель, применяемая Китаем; «человеко-центричная» модель Европейского Союза (ЕС); и, наконец, «рыночно-центричная» модель США.
«Китайский ‘государственно-центричный’ подход к управлению ИИ предполагает, что именно государство, а не частный сектор, должно контролировать развитие и использование технологий», — пишут Рандаццо и Хилл.
Такой подход укрепляет авторитарную систему Китая как внутри страны, так и за её пределами.
В то же время «человеко-центричный» подход ЕС «стремится гарантировать, что западные ценности будут ключевыми в разработке, внедрении и мониторинге систем ИИ», отмечают авторы. «Главный приоритет отдаётся защите фундаментальных прав, закреплённых в договорах ЕС и Хартии основных прав Европейского Союза».
«Это также включает заботу об окружающей среде и других живых существах, являющихся частью человеческой экосистемы, а также устойчивый подход, направленный на сохранение прав будущих поколений», — продолжают они.
И, наконец, американский путь — «так называемый ‘снизу-вверх мультистейкхолдеризм’, где ключевую роль должны играть частные компании и гражданское общество», поясняется в статье. «США подчёркивают важность ‘свободы ИИ’ — расплывчатого выражения, основанного на риторике прав человека и свободы слова, которое подразумевает отказ от жёсткого государственного контроля и опору на саморегулирование и инициативы частного сектора».
Но такая система «может представлять серьёзные риски для стабильности, безопасности и защиты самих США», отмечают авторы.
Фактически это оставляет компании по разработке ИИ в роли маленьких суверенных государств, обладающих властью, выходящей далеко за рамки географии и законов США — и ставящих прибыль выше человеческих интересов, если это необходимо.
Неудивительно, что Рандаццо и Хилл в итоге симпатизируют европейскому подходу — строгому регулированию и приоритету человеческого достоинства. Однако они предостерегают: без глобального принятия даже страны с такими системами останутся уязвимыми перед угрозой неуправляемого ИИ.
«Если мы не привяжем развитие ИИ к тому, что делает нас людьми — к нашей способности выбирать, чувствовать, рассуждать с заботой, проявлять эмпатию и сострадание, — мы рискуем создать системы, которые будут обесценивать человечность, сводя её к набору данных, вместо того чтобы улучшать человеческое существование», — предостерегает Рандаццо.
«Человека нельзя рассматривать как средство для достижения цели.»
Статья опубликована в Australian Journal of Human Rights.


