OpenAI нарушает две операции влияния, связанные с Россией и Ираном
OpenAI сообщает, что идентифицировала и нарушила две операции влияния, которые якобы использовали ChatGPT для создания и распространения вводящего в заблуждение контента о геополитических конфликтах. Кампании, известные как «Темный Кларк» и «Ложные подписи», были связаны соответственно с российскими и иранскими актерами, согласно последнему отчету компании о злоупотреблениях искусственным интеллектом.
Полученные данные подчеркивают растущие опасения о том, как инструменты генеративного ИИ могут быть включены в согласованные информационные кампании. Хотя такие системы могут помочь в написании, переводе и исследовании, они также могут быть неправомерно использованы для подготовки обманчивых нарративов, подделки личностей и адаптации контента для различных аудиторий.
Согласно OpenAI, операция Темный Кларк нацеливалась на аудитории в нескольких странах Латинской Америки с контентом, предназначенным для подрыва Украины и критики определенных региональных политических лидеров. Среди выявленных действий было распространение на TikTok якобы поддельной аудиозаписи, приписываемой консулу Украины в Эквадоре. Операторы также якобы использовали фальшивый адрес электронной почты, чтобы побудить школы в Перу организовать мероприятия, связанные с Украиной.
OpenAI оценила кампанию на уровне пять по своей шестибальной шкале для измерения воздействия операций влияния. Тем не менее, компания предостерегла, что некоторые утверждения, сделанные вовлеченными лицами, не могли быть независимо проверены, подчеркивая трудности в определении полного охвата и эффективности скрытой онлайн-активности.
Вторая операция, названная Ложные подписи, якобы была сосредоточена на производстве вводящих в заблуждение статей о конфликте между Соединенными Штатами и Ираном. OpenAI сообщила, что ChatGPT использовался для уточнения черновиков, адаптации статей к редакционным требованиям онлайн-изданий и подготовки электронных писем для подачи на публикацию.
Кампания, как сообщается, полагалась на семи вымышленных авторов, которые представляли себя как западных журналистов. OpenAI сообщила, что она идентифицировала почти 100 статей, опубликованных более чем в дюжине СМИ с июля 2025 года. Сообщаемая активность иллюстрирует, как поддельные личности и помощь ИИ в написании могут быть объединены в попытке сделать вводящий в заблуждение материал выглядящим достоверным.
Использование устоявшихся медиа-платформ может дать вводящему в заблуждение контенту доступ к аудиториям, выходящим за пределы тех, кто достигнут через вновь созданные аккаунты в социальных сетях. Статьи, опубликованные на признанных веб-сайтах, также могут быть поделены в других местах, цитируемы другими пользователями или включены в более широкие онлайн-дискуссии, потенциально делая оригинальный источник и цель контента более трудными для идентификации.
Тем не менее, публикация статьи сама по себе не устанавливает, сколько людей с ней столкнулось, верили ли читатели в ее утверждения или изменила ли она общественное мнение. Оценка реального влияния таких кампаний требует доказательств о распространении, вовлеченности аудитории и более широком информационном окружении.
Эти случаи также поднимают вопросы о роли компаний искусственного интеллекта в выявлении и ограничении согласованного злоупотребления. OpenAI сообщает, что она отслеживает подозрительную активность и принимает меры против аккаунтов, нарушающих ее политику. Такие меры являются частью более широких усилий в технологическом секторе по выявлению автоматизированной манипуляции, выдачи себя за других и преднамеренного распространения ложной информации.
В то же время растущая доступность инструментов написания ИИ усложняет усилия по различению законных политических комментариев от организованного обмана. Следователи и платформы должны учитывать не только сам контент, но и модели поведения, координацию между аккаунтами, поддельные личности и попытки скрыть, кто стоит за сообщением.
Выводы OpenAI указывают на развивающуюся форму цифровой пропаганды, в которой ИИ может поддерживать производство и адаптацию вводящего в заблуждение материала, в то время как существующие социальные сети и онлайн-издания предоставляют потенциальные каналы для распространения. Отчет подчеркивает важность прозрачных источников, независимой проверки и более тесного сотрудничества между технологическими компаниями, медийными организациями и исследователями, изучающими кампании влияния.