Yandex Metrika
0
2 репоста

Генеральный директор Google и Alphabet предупреждает, что обществу необходимо действовать быстро, чтобы адаптироваться к быстрому распространению искусственного интеллекта (ИИ).

«Это повлияет на каждый продукт во всех компаниях», — сказал 16 апреля в интервью «60 Minutes» Сундар Пичаи (Sundar Pichai).

В прошлом месяце Google выпустила своего чат-бота Bard — конкурента ChatGPT, широко известного чат-бота, созданного OpenAI, — несмотря на резкие отзывы во время внутреннего тестирования, согласно The Byte.

Вызывающее беспокойство распространение ИИ, обнажает его недостатки. Насколько мы должны быть обеспокоены?Изображение: Unsplash/Choong Deng Xiang

Такие программы, как ChatGPT и Bard, могут создавать уверенно звучащий текст в ответ на запросы пользователей, и они уже зарекомендовали себя в некоторых задачах, таких как написание кода, сказал Эрнест Дэвис (Ernest Davis), специалист по информатике из Нью-Йоркского университета. Однако они часто искажают основные факты и «галлюцинируют», то есть выдумывают информацию. В одном из недавних примеров ChatGPT изобрёл скандал о сексуальных домогательствах и назвал преступником настоящего профессора права, сопроводив материал цитатами из несуществующих газетных статей об этом деле.

Мощь этих программ в сочетании с их несовершенством заставляет экспертов беспокоиться о столь быстром внедрении искусственного интеллекта. Хотя до Скайнет из «Терминатора» єтим разработкам ещё далеко, программы искусственного интеллекта способны усилить человеческую предвзятость, затруднить отличение правдивой информации от ложной и подорвать занятость, сообщили эксперты Live Science.

Польза или предвзятость?

Во время обсуждения в шоу «60 Minutes» интервьюер Скотт Пелли (Scott Pelley) назвал возможности чат-бота Bard «тревожными» и сказал: «Бард, похоже, думает».

Однако большие языковые модели, такие как Bard, не обладают разумом, считает Сара Гударзи (Sara Goudarzi), заместитель редактора отдела прорывных технологий в Bulletin of the Atomic Scientists.

«Я думаю, что это действительно [всем] должно быть ясно», — сказала Гударзи.

Эти чат-боты с искусственным интеллектом создают похожий на человеческий текст, делая статистические выводы о том, какие слова, вероятно, будут следующими в предложении, после обучения на огромных объёмах ранее существовавшего текста. Этот метод означает, что, хотя ИИ может звучать уверенно в том, что он говорит, на самом деле он этого не понимает, сказал Дэмиен Уильямс (Damien Williams), доцент Школы наук о данных Университета Северной Каролины, изучающий технологии и общество.

Эти чат-боты с искусственным интеллектом «не пытаются дать вам правильные ответы; они пытаются дать вам ответ, который вам нравится», — сказал Уильямс Live Science. Он привёл пример недавней дискуссии по искусственному интеллекту, на которой он присутствовал: вступительный докладчик попросил ChatGPT подготовить биографию для Шеннон Валлор (Shannon Vallor), специалиста по этике ИИ в Эдинбургском университете в Великобритании. Программа пыталась приписать Валлору более престижный образовательный бэкграунд, чем у неё он на самом деле был, потому что статистически было маловероятно, что человек её статуса в этой области получил образование в общественном колледже и государственном университете.

Для искусственного интеллекта легко не только копировать, но и усиливать любые существующие в обучающих данных предубеждения. Например, в 2018 году Amazon отказалась от инструмента сортировки резюме на основе искусственного интеллекта, который демонстрировал постоянное предвзятое отношение к женщинам. Как отметил Уильямс, искусственный интеллект оценивал резюме с женскими именами как менее квалифицированные, чем те, в которых присутствовали мужские имена.

«Это потому, что данные, на которых он был обучен, были связаны с сортировкой резюме, выполненной людьми», — сказал Уильямс.

Программы искусственного интеллекта, такие как ChatGPT, запрограммированы на то, чтобы избегать расистских, сексистских или иных нежелательных ответов. Но правда состоит в том, что не существует такого понятия, как «объективный» ИИ, сказал Уильямс. Искусственный интеллект всегда будет включать в себя человеческие ценности и человеческие предубеждения, потому что он создан людьми.

«Так или иначе, у него будет какая-то перспектива, которая будет лежать в основе того, как он будет построен, — сказал Уильямс. — Вопрос в том, хотим ли мы допустить, чтобы это происходило случайно, как это сделали бы мы … или мы хотим, чтобы это делалось намеренно?»

Обеспечение безопасности ИИ

Пичаи предупредил, что ИИ может увеличить масштабы дезинформации. Так, например, созданные искусственным интеллектом видеоролики, получившие название «дипфейки», становятся всё более убедительными, и их всё труднее отличить от реальности. Хотите оживить «Мону Лизу» или вернуть к жизни Марию Кюри? Технология Дипфейк уже может выполнять убедительную работу.

Пичаи сказал, что обществам необходимо разработать правила и договоры, чтобы гарантировать ответственное использование искусственного интеллекта.

«Это не компания должна решать, — сказал Пичаи. — Вот почему я думаю, что в разработке этого должны участвовать не только инженеры, но и социологи, специалисты по этике, философы и так далее.»

По словам Уильямса, пока правила, касающиеся ИИ, в основном подпадают под действие законов, разработанных для защиты старых технологий. Однако уже были попытки создания более всеобъемлющей регулирующей структуры. В 2022 году Управление научно-технической политики Белого дома (OSTP) опубликовало «Билль о правах в области искусственного интеллекта», план, призванный способствовать этичному развитию искусственного интеллекта, ориентированного на человека. По словам Уильямса, документ охватывает вопросы справедливости и возможного вреда, но в нём не затрагиваются некоторые волнующие проблемы, такие как разработка и внедрение искусственного интеллекта правоохранительными органами и военными.

По словам Уильямса, всё чаще политические кандидаты в федеральные агентства и департаменты набираются из людей, которые имеют представление о затратах и преимуществах искусственного интеллекта. По словам Уильямса, Альваро Бедойя (Alvaro Bedoya), нынешний уполномоченный Федеральной торговой комиссии США, был директором-основателем Джорджтаунского юридического центра по вопросам конфиденциальности и технологий и обладает опытом в области технологий и этики, в то время как Алондра Нельсон (Alondra Nelson), бывший временный директор OSTP, долгое время изучала науку, технологии и неравенство. Но предстоит пройти ещё долгий путь, чтобы повысить технологическую грамотность среди политиков и директивных органов, сказал Уильямс.

«Мы всё ещё позволяем различным крупным корпорациям руководить разработкой и распространением того, что может стать очень мощными технологиями, которые непрозрачны и внедряются в нашу повседневную жизнь способами, которые мы не можем контролировать», — сказал он.
Заметили ошибку в тексте? Выделите её мышкой и нажмите Ctrl + Enter

Следите за нашими новостями:


Понравилось? Поделитесь с друзьями!

✏️ Сообщить об ошибке

Вы заметили ошибку в следующем тексте: