«Темная Кларк»: Россия использовала ChatGPT для распространения фейков по Украине
Фото: spravdi.gov.ua
OpenAI заблокировала 2 операции влияния из России и Ирана, участники которых использовали ChatGPT для создания пропагандистского контента и сокрытия его происхождения. Российская кампания была направлена, в частности, на дискредитацию Украины в Латинской Америке, а иранская на распространение материалов о конфликте с США.
Об этом сообщает OpenAI.
По данным компании, российская операция под названием «Темная Кларк» использовала связанные аккаунты ChatGPT для подготовки внутренних отчетов, создания фейков и поддержки деятельности так называемого Центра социологических исследований (SRC). Эта структура позиционировала себя как исследовательская платформа в Латинской Америке.
Операторы, вероятно, находившиеся в России, использовали VPN для доступа к ChatGPT. Они пытались дискредитировать Украину и местных политических лидеров и влиять на внутриполитические процессы в Аргентине и Боливии.
В отчетах участники сделки утверждали, что распространяли фальшивые сообщения, поддельные аудиозаписи и документы. В частности, они заявляли о создании ложных сообщений относительно Украины, которые якобы побуждали школы в Перу проводить мероприятия, посвященные Украине, и о фейковых материалах по вербовке эквадорцев в украинскую армию.
OpenAI отметила, что часть этих утверждений удалось подтвердить по открытым источникам. Некоторые фейки привлекли внимание фактчекеров и повлекли за собой официальные опровержения. В то же время, компания отметила, что операторы также приписывали себе события, к которым не имели отношения, поэтому их внутренние оценки влияния нельзя считать достоверными без дополнительной проверки.
Российская операция также использовала вымышленное лицо по имени «Мия Кларк» для управления SRC и взаимодействия с местными работниками. По оценке OpenAI, работники в Латинской Америке, по всей вероятности, не знали, что работают на российскую группу. На сайте центра компания обнаружила более 60 статей, большинство из которых, похоже, являлись оригинальными материалами.
Вторую операцию, названную «Фальшивые авторы», OpenAI связала с Ираном. Ее участники использовали ChatGPT для редактирования статей, подготовки писем в редакции, создания комментариев в соцсетях и внутренней отчетности.
Операторы предлагали материалы от имени 7 вымышленных авторов, выдававших себя за западных журналистов. Статьи в основном касались конфликта между США и Ираном. По данным OpenAI, компания обнаружила почти 100 таких публикаций или перепечаток примерно в 12 онлайн-изданиях в разных странах.
Иранские операторы также генерировали серии комментариев на английском и персидском языках. Они публиковали их в соцсетях, в частности, в ответ на сообщения о конфликте между Ираном, США и Израилем. В то же время, выявленные комментарии обычно получали немного реакций и составляли лишь небольшую часть ответов под сообщениями.
OpenAI оценила российскую операцию по шкале распространения на уровне 5 из 6, а иранскую — на уровне 4 из 6. Компания пояснила, что обе кампании смогли разместить материалы в реальных онлайн-изданиях, что обеспечивало им потенциально более широкий охват, чем публикации только в фальшивых аккаунтах соцсетей.
В компании подчеркнули, что искусственный интеллект может упрощать отдельные этапы скрытых операций влияния, в частности, создание и редактирование текстов и подготовку отчетов. В то же время OpenAI заявила, что заблокировала обнаруженные группы аккаунтов и передала информацию об обеих операциях соответствующим органам.
Ранее Центр противодействия дезинформации заявил, что российская пропаганда распространяет новый фейк о якобы перепродаже Украиной западного оружия и ударных беспилотников итальянской мафии. В Центре подчеркнули, что эти утверждения не соответствуют действительности и являются частью информационной кампании Кремля.
Также следите за «Прямым» в Facebook, X, Telegram и Instagram.