Данный материал является переводом оригинальной статьи, размещённой на сайте The Conversation.
На уроке цифровых технологий я попросила студентов задать вопрос ChatGPT, чтобы потом обсудить полученные результаты. К моему удивлению, некоторые ребята спросили ChatGPT о моей биографии.
ChatGPT сказал, что я получила докторскую степень в двух разных университетах и по двум разным предметным областям, только одна из которых действительно была предметом моей докторской работы.

Это сделало занятие занимательным, но также помогло пролить свет на основной риск использования инструментов на базе искусственного интеллекта (ИИ), повышающий вероятность того, что мы станем жертвами навязчивой дезинформации.
Чтобы преодолеть эту угрозу, педагогам необходимо обучать своих подопечных навыкам функционирования в мире с дезинформацией, генерируемой искусственным интеллектом.
Усугубление проблемы дезинформации

Генеративный ИИ призван ещё больше усложнить существующие проблемы отделения доказательной информации от дезинформации, чем они уже есть сейчас.
Текстовые инструменты, такие как ChatGPT, могут создавать убедительно звучащие научные статьи по определённой теме, дополненные цитатами, которые могут ввести в заблуждение людей, не имеющих опыта работы с темой статьи. ИИ на основе видео, аудио и изображений может успешно имитировать лица, голоса и даже манеры людей, создавая очевидные доказательства поведения или разговоров, которых вообще никогда не было.
Поскольку текст, изображения или видео, созданные ИИ, объединяются для создания фальшивых новостей, мы должны ожидать увидеть больше попыток теоретиков заговора и оппортунистов, занимающихся дезинформацией, использовать их, чтобы обмануть других ради собственной выгоды.
Невзирая на то, что и до того, как генеративный ИИ стал широко доступен людям, можно было создавать фальшивые видеоролики, новости или научные статьи, этот процесс обычно ранее требовал времени и ресурсов. Теперь же убедительную дезинформацию можно создать гораздо быстрее, отчего открываются новые возможности для дестабилизации демократических государств по всему миру.
Необходимы новые приложения для критического мышления
На сегодняшний день основное внимание в обучении критической медиаграмотности как в государственных школах, так и на уровне высших учебных заведений уделяется тому, чтобы учащиеся глубоко погрузились в текст и хорошо его изучили, чтобы они могли обобщить его, задать вопросы о нём и, конечно же, поддать его критике.
Этот подход, вероятно, будет менее эффективным в эпоху, когда искусственный интеллект станет без особых проблем подделывать те самые сигналы, на которые мы обращаем внимание, чтобы оценить качество.
И хотя простых ответов на проблему дезинформации не существует, я полагаю, что обучение этим трём ключевым навыкам поможет всем нам быть более устойчивыми перед лицом этих угроз:
1. Латеральное чтение текстов
Вместо того чтобы сразу и основательно читать одну статью, блог или веб-сайт, нам нужно подготовить студентов к новому набору навыков фильтрации, часто называемых «литеральным чтением».
При литеральном чтении мы просим студентов искать подсказки перед более углубленным чтением. Вопросы, которые можно задать, включают: Кто автор статьи? Откуда он это знает? Какие у него академические достижения, и связаны ли они с обсуждаемой темой? Какие утверждения делает автор, и насколько хорошо они подкреплены академической литературой?
Хорошее выполнение этой задачи подразумевает необходимость подготовить студентов к рассмотрению различных типов исследований.

2. Исследовательская грамотность
В большей части общественного представления и повседневной практики концепция исследования сместилась в сторону интернет-поиска. Однако это представляет собой непонимание того, что отличает процесс сбора доказательств.
Нам нужно научить студентов отличать обоснованные утверждения, основанные на фактических данных, от теорий заговора и дезинформации.
Студентам всех уровней необходимо научиться оценивать качество академических и неакадемических источников. Это означает обучение студентов качеству исследований, качеству выбираемых ими журналов и различным видам экспертных знаний. Например, врач может выступать в популярном подкасте о вакцинах, но если этот врач не является специалистом по вакцинам или если совокупность доказательств не подтверждает его утверждения, не имеет значения, насколько убедительны эти утверждения.
Размышления о качестве исследований также означают знакомство с такими вещами, как размеры выборки, методы и научный процесс рецензирования и фальсифицируемости.
3. Технологическая грамотность
Многие люди не знают, что современный ИИ на самом деле не разумен, а вместо этого состоит из алгоритмов обработки языка и изображений, которые распознают шаблоны, а затем повторяют их нам случайным, но статистически значимым образом.
Точно так же многие люди не осознают, что контент, который мы видим в социальных сетях, продиктован алгоритмами, которые отдают приоритет вовлечённости, чтобы заработать деньги рекламодателям.
Мы редко задумываемся, почему мы видим контент, который нам показывают с помощью этих технологий. Мы не задумываемся о том, кто создаёт технологию и какую роль в том, что мы видим, играют предубеждения программистов.
Если мы все сможем выработать более решительную критическую ориентацию по отношению к этим технологиям, следя за деньгами и спрашивая, кто получает от этого выгоду, когда нам предоставляют конкретный контент, тогда мы станем более устойчивыми к дезинформации, которая распространяется с помощью этих инструментов.
Благодаря этим трём навыкам: литеральному чтению, исследовательской грамотности и технологической грамотности мы будем более устойчивы к дезинформации всех видов — и менее восприимчивы к новой угрозе дезинформации, основанной на искусственном интеллекте.
2. Информационная грамотность: Учеба в области информационной грамотности помогает людям разбираться в том, как работают алгоритмы по созданию и распространению информации. Это включает в себя знание о том, как искать надежные источники, как различать фейковые новости и как защищать свою частную информацию.
3. Технологическое образование: Понимание того, как работают искусственные интеллекты и генеративные модели, способствует более эффективной борьбе с ИИ-генерированной дезинформацией. Обучение в области технологий помогает лучше понимать, какие возможности и ограничения у таких систем.
Эти навыки помогают людям более эффективно отслеживать и бороться с дезинформацией, созданной с использованием искусственного интеллекта.



