Распространение изображений, созданных с помощью искусственного интеллекта (ИИ), вызывает множество проблем. Модели ИИ сталкиваются с обвинениями в обучении с использованием украденных произведений искусства, а также в чрезмерном использовании воды и вызывающем тревогу выбросе углекислого газа. Существует также угроза – как политическая, так и иная – усиления дезинформации, связанной с созданием фальшивых изображений с пропагандистскими целями (или другими гнусными средствами). Но даже безобидные изображения способны распространять бессмыслицу.
Изображения, созданные с помощью искусственного интеллекта, в крупных поисковых системах отображаются в верхней части результатов поиска. Google заявила, что в ближайшие месяцы они добавят к учетным данным для этого изображения информацию о том, что изображение было сгенерировано или изменено с помощью искусственного интеллекта. Это касается только изображений, содержащих метаданные о происхождении и аутентичности контента (C2PA) – в настоящее время нет объявленного плана о том, как они будут работать с изображениями искусственного интеллекта, которые не используют стандарты C2PA.
Поисковые системы, выдающие результаты, сгенерированные с помощью искусственного интеллекта, не очень хороши — на это недавно обратили внимание пользователи социальных сетей, которые указывают на множество различных примеров неверных результатов поиска. Особенно тревожным является поиск изображений «маленького павлина». На момент написания статьи в Bing одним из первых результатов поиска изображений было сгенерированное с помощью искусственного интеллекта стоковое изображение. На момент написания статьи в Google Images также появлялись эти и другие изображения, сгенерированные с помощью искусственного интеллекта, хотя некоторые из них были связаны со статьями, разоблачающими поддельные изображения.
«Павлинёнок» — с оленьими глазами в стиле Диснея, голубыми перьями и какими-то жутковатыми лапками — выглядит довольно эффектно. Это изображение совершенно неправильное; их птенцы, как правило, коричневые, с обычными глазами и лапками.
Internet was such an awesome tool.
— The Spaceshipper 🚀 (@thespaceshipper.bsky.social) 7 жовтня 2024 р. о 13:51
Но проблема не только с павлинами. На странице поиска Google Images по запросу «Галактика» на момент написания статьи есть реальные изображения, изображения, созданные с помощью искусственного интеллекта, которые помечены как таковые, если вы перейдете к их источнику, и те, которые явно не являются подлинными, но не помечены как созданные с помощью искусственного интеллекта.
Как распознать изображение, созданное с помощью искусственного интеллекта
Многие изображения, созданные с помощью искусственного интеллекта, легко распознать — более сложные из них часто имеют схожие ограничения, но вам придется потратить немного больше времени, чтобы найти ошибки, которые более очевидны в других фрагментах.
Глаза, конечности и другие странности
Поиск ошибок — это всегда отправная точка. Если вспомнить о павлине, то глаза у него могут быть симпатичными (хотя и ненастоящими), а вот лапы — нет. Искусственному интеллекту часто бывает трудно воспроизвести их точно. На самом деле, с помощью глаз можно проверить даже очень реалистичные фальшивые изображения людей – отраженный свет (получивший название «звезды в их глазах») очень трудно воспроизвести. Спасибо, физика!
Ошибки, не связанные с телом
Ошибки могут быть более тонкими: странные цвета; текстуры, которые меняются там, где не должны; проблемы с тенями, архитектурой и освещением; вещи, которые художник-человек обычно не делает. Часто встречаются предметы, люди или другие мелкие детали, которые не на своем месте или которых там быть не должно. Иногда изображение кажется слишком идеальным — выглядят ли персонажи так, будто их чрезмерно отретушировали?
Также обратите внимание на фоновые объекты, которые могут быть отображены не совсем точно, а также на текст, который может оказаться бессмысленным. Одним из известных примеров, ставших интернет-мемом, стал проект The Willy’s Chocolate Experience, чьи постеры, созданные с помощью искусственного интеллекта, приглашали людей в «пасадиз сладких сисек».
Можете ли вы проследить источник?
Некоторые изображения имеют водяные знаки (как, например, у малыша-павлина), поэтому их легко проверить, при этом важно иметь возможность проверить авторство. Постарайтесь выяснить, откуда пришло изображение, и обратиться непосредственно к его источнику.
В конечном счёте, главное правило исследования — просмотреть разные источники и посмотреть, совпадают ли они. Найти правдивый ответ может быть непросто из-за всего этого мусора, но, по крайней мере, вы будете знать, где подделки.
