Компания OpenAI опубликовала отчет о борьбе со злоумышленниками, которые пытаются злоупотреблять ее моделями искусственного интеллекта ChatGPT. В частности, речь идет о российской медиаорганизации Рыбарь (Rybar), которую заблокировали в ходе операции «Корм для рыб». Об этом в четверг, 26 февраля, сообщило dev.ua, ссылаясь на отчет OpenAI.
«Мы заблокировали ряд аккаунтов в ChatGPT, связанных с сетью «Рыбарь»… Сеть генерировала контент, который публиковался в интернете, иногда аккаунтами под брендом Рыбарь, а иногда аккаунтами в социальных сетях, которые не имели с ним никакой официальной связи», — говорится в отчете OpenAI.
Они обнаружили, что россияне использовали ИИ в основном для создания контента для соцсетей.
«Пользователи обычно пишут на русском языке, но создают контент на разных языках, в том числе русском, английском и испанском. Часть этого контента затем публиковалась в интернете на страницах социальных сетей под брендом Rybar и на основном вебсайте Rybar. Один пользователь также создавал видеоролики Sora, рекламирующие бренд Rybar», — указывается в исследовании.
ChatGPT также использовался для генерации комментариев на английском языке. Позже они публиковались в аккаунтах соцсетей, якобы не связанных с Rybar.
Исследователи кибербезопасности отмечают, что один из аккаунтов этой сети попросил ChatGPT помочь составить коммерческие планы от имени Рыбарь для тайных кампаний вмешательства в Африке. В отдельном запросе модель попросили отредактировать предложение по кампании вмешательства в выборы, предположительно, в Африке.
«Контент, созданный в результате этой операции, был типичным для тайных операций России по влиянию на протяжении многих лет. Обычно он восхвалял Россию и ее союзников (таких как Беларусь), критиковал Украину и обвинял западные страны во внешнем вмешательстве», — сделали вывод исследователи OpenAI.