Дезинформация, пропаганда, альтернативные факты — распространение предвзятой или ложной информации было частью политики и социальной инженерии со времен первого пещерного мошенника. Но за последние несколько лет политика и социальные сети показали, что эта практика растет в геометрической прогрессии, и широкое распространение ИИ только ускорит эту практику.
А ИИ, похоже, еще лучше обманывает людей, чем люди.
Новый отчет опубликован в Научные достижения в среду делает тревожное заявление о том, что старый чат-бот OpenAI с искусственным интеллектом, GPT-3, лучше способен распространять дезинформацию, чем люди.
Компания OpenAI, основанная в декабре 2015 года, запустила GPT-3 в июне 2020 года; в сентябре того же года Microsoft, вложившая в OpenAI в 2019 году 1 миллиард долларов, объявила об эксклюзивной лицензии на использование GPT-3.
По состоянию на 2023 год версией OpenAI ChatGPT по умолчанию является GPT-3.5, а более продвинутая версия GPT-4 зарезервирована для подписчиков ChatGPT Plus.
В исследовании, кратко изложенном в отчете под названием «Модель ИИ GPT-3 (dis) информирует нас лучше, чем люди», было опрошено 697 участников, чтобы выяснить, могут ли они отличить дезинформацию от правды, созданной так, чтобы выглядеть как твиты с использованием GPT-3 OpenAI, и могут ли участники определить, был ли твит написан человеком или ИИ.
«Мы попросили GPT-3 написать твиты, содержащие информативные или дезинформационные тексты на различные темы», — говорится в отчете, добавляя, что темы твитов включают вакцины, технологию 5G, COVID-19 и теорию эволюции.
Исследователи опроса заявили, что эти темы были выбраны потому, что они часто подвергаются дезинформации и общественному заблуждению. Twitter был выбран среди других социальных сетей из-за того, что у него почти 400 миллионов постоянных пользователей, которые в основном потребляют новости и политический контент.
“[Twitter’s] простой в использовании API позволяет создавать ботов, которые, несмотря на то, что составляют всего 5% пользователей, производят 20-29% контента», — говорится в отчете, добавляя, что, хотя основное внимание было уделено Twitter, выводы могут быть распространены на другие платформы.
Исследователи оценили способность распознавать чат-бота по шкале от 0 до 1, измеряя способность респондентов распознавать, были ли твиты настоящими или фальшивыми. Согласно отчету, средний балл составил 0,5, что свидетельствует о том, что участники не могли отличить твиты, созданные искусственным интеллектом, от твитов, созданных людьми.
В отчете также было обнаружено, что точность информации в твите не повлияла на то, могли ли участники определить, был ли твит написан ИИ или человеком.
«Исходя из наших выводов, мы прогнозируем, что передовые генераторы текста на основе ИИ, такие как GPT-3, могут сильно повлиять на распространение информации, как положительно, так и отрицательно», — говорится в отчете. «Как показали наши результаты, доступные в настоящее время большие языковые модели уже могут создавать текст, неотличимый от обычного текста, поэтому следует отслеживать появление более мощных больших языковых моделей и их влияние».
Быстрое развитие генеративного ИИ с момента публичного запуска ChatGPT в ноябре и последней версии GPT-4 в марте заставило многих в технологической отрасли забить тревогу и призвать к паузе в развитии ИИ.
Далее в отчете говорится, что если искусственный интеллект способствует дезинформации и усугубляет проблемы общественного здравоохранения, то регулирование обучения ИИ будет иметь решающее значение для ограничения злоупотреблений и обеспечения прозрачности.
Ранее в этом месяце распространение созданной ИИ ложной/дезинформации и дипфейков побудило Генерального секретаря ООН Антониу Гутерриша выступить в пользу создания международного агентства, подобного Международному агентству по атомной энергии (МАГАТЭ), для наблюдения за развитием искусственного интеллекта.
«Распространение ненависти и лжи в цифровом пространстве сейчас наносит серьезный глобальный ущерб, — сказал Гутерриш на пресс-конференции. — Сейчас это разжигает конфликты, смерть и разрушение. Сейчас оно угрожает демократии и правам человека. Сейчас оно подрывает общественное здравоохранение и действия по борьбе с изменением климата».
