Генеральный директор Google и Alphabet предупреждает, что обществу необходимо действовать быстро, чтобы адаптироваться к быстрому распространению искусственного интеллекта (ИИ).
В прошлом месяце Google выпустила своего чат-бота Bard — конкурента ChatGPT, широко известного чат-бота, созданного OpenAI, — несмотря на резкие отзывы во время внутреннего тестирования, согласно The Byte.
Изображение: Unsplash/Choong Deng Xiang
Такие программы, как ChatGPT и Bard, могут создавать уверенно звучащий текст в ответ на запросы пользователей, и они уже зарекомендовали себя в некоторых задачах, таких как написание кода, сказал Эрнест Дэвис (Ernest Davis), специалист по информатике из Нью-Йоркского университета. Однако они часто искажают основные факты и «галлюцинируют», то есть выдумывают информацию. В одном из недавних примеров ChatGPT изобрёл скандал о сексуальных домогательствах и назвал преступником настоящего профессора права, сопроводив материал цитатами из несуществующих газетных статей об этом деле.
Мощь этих программ в сочетании с их несовершенством заставляет экспертов беспокоиться о столь быстром внедрении искусственного интеллекта. Хотя до Скайнет из «Терминатора» єтим разработкам ещё далеко, программы искусственного интеллекта способны усилить человеческую предвзятость, затруднить отличение правдивой информации от ложной и подорвать занятость, сообщили эксперты Live Science.
Польза или предвзятость?
Во время обсуждения в шоу «60 Minutes» интервьюер Скотт Пелли (Scott Pelley) назвал возможности чат-бота Bard «тревожными» и сказал: «Бард, похоже, думает».
Однако большие языковые модели, такие как Bard, не обладают разумом, считает Сара Гударзи (Sara Goudarzi), заместитель редактора отдела прорывных технологий в Bulletin of the Atomic Scientists.
Эти чат-боты с искусственным интеллектом создают похожий на человеческий текст, делая статистические выводы о том, какие слова, вероятно, будут следующими в предложении, после обучения на огромных объёмах ранее существовавшего текста. Этот метод означает, что, хотя ИИ может звучать уверенно в том, что он говорит, на самом деле он этого не понимает, сказал Дэмиен Уильямс (Damien Williams), доцент Школы наук о данных Университета Северной Каролины, изучающий технологии и общество.
Эти чат-боты с искусственным интеллектом «не пытаются дать вам правильные ответы; они пытаются дать вам ответ, который вам нравится», — сказал Уильямс Live Science. Он привёл пример недавней дискуссии по искусственному интеллекту, на которой он присутствовал: вступительный докладчик попросил ChatGPT подготовить биографию для Шеннон Валлор (Shannon Vallor), специалиста по этике ИИ в Эдинбургском университете в Великобритании. Программа пыталась приписать Валлору более престижный образовательный бэкграунд, чем у неё он на самом деле был, потому что статистически было маловероятно, что человек её статуса в этой области получил образование в общественном колледже и государственном университете.
Для искусственного интеллекта легко не только копировать, но и усиливать любые существующие в обучающих данных предубеждения. Например, в 2018 году Amazon отказалась от инструмента сортировки резюме на основе искусственного интеллекта, который демонстрировал постоянное предвзятое отношение к женщинам. Как отметил Уильямс, искусственный интеллект оценивал резюме с женскими именами как менее квалифицированные, чем те, в которых присутствовали мужские имена.
Программы искусственного интеллекта, такие как ChatGPT, запрограммированы на то, чтобы избегать расистских, сексистских или иных нежелательных ответов. Но правда состоит в том, что не существует такого понятия, как «объективный» ИИ, сказал Уильямс. Искусственный интеллект всегда будет включать в себя человеческие ценности и человеческие предубеждения, потому что он создан людьми.
Обеспечение безопасности ИИ
Пичаи предупредил, что ИИ может увеличить масштабы дезинформации. Так, например, созданные искусственным интеллектом видеоролики, получившие название «дипфейки», становятся всё более убедительными, и их всё труднее отличить от реальности. Хотите оживить «Мону Лизу» или вернуть к жизни Марию Кюри? Технология Дипфейк уже может выполнять убедительную работу.
Пичаи сказал, что обществам необходимо разработать правила и договоры, чтобы гарантировать ответственное использование искусственного интеллекта.
По словам Уильямса, пока правила, касающиеся ИИ, в основном подпадают под действие законов, разработанных для защиты старых технологий. Однако уже были попытки создания более всеобъемлющей регулирующей структуры. В 2022 году Управление научно-технической политики Белого дома (OSTP) опубликовало «Билль о правах в области искусственного интеллекта», план, призванный способствовать этичному развитию искусственного интеллекта, ориентированного на человека. По словам Уильямса, документ охватывает вопросы справедливости и возможного вреда, но в нём не затрагиваются некоторые волнующие проблемы, такие как разработка и внедрение искусственного интеллекта правоохранительными органами и военными.
По словам Уильямса, всё чаще политические кандидаты в федеральные агентства и департаменты набираются из людей, которые имеют представление о затратах и преимуществах искусственного интеллекта. По словам Уильямса, Альваро Бедойя (Alvaro Bedoya), нынешний уполномоченный Федеральной торговой комиссии США, был директором-основателем Джорджтаунского юридического центра по вопросам конфиденциальности и технологий и обладает опытом в области технологий и этики, в то время как Алондра Нельсон (Alondra Nelson), бывший временный директор OSTP, долгое время изучала науку, технологии и неравенство. Но предстоит пройти ещё долгий путь, чтобы повысить технологическую грамотность среди политиков и директивных органов, сказал Уильямс.



