OpenAI interrompe duas operações de influência ligadas à Rússia e ao Irã

13:33

A OpenAI afirma que identificou e interrompeu duas operações de influência que supostamente usaram o ChatGPT para produzir e distribuir conteúdo enganoso sobre conflitos geopolíticos. As campanhas, conhecidas como “Dark Clark” e “Bogus Bylines”, estavam ligadas, respectivamente, a atores russos e iranianos, de acordo com o mais recente relatório da empresa sobre o uso indevido da inteligência artificial.

As descobertas destacam as crescentes preocupações sobre como ferramentas de IA generativa podem ser incorporadas em campanhas de informação coordenadas. Embora esses sistemas possam ajudar na redação, tradução e pesquisa, eles também podem ser mal utilizados para preparar narrativas enganosas, fabricar identidades e adaptar conteúdo para diferentes públicos.

Segundo a OpenAI, a operação Dark Clark visou públicos em vários países da América Latina com conteúdo destinado a minar a Ucrânia e criticar certos líderes políticos regionais. Entre as atividades identificadas estava a circulação no TikTok de uma gravação de áudio supostamente fabricada atribuída ao cônsul da Ucrânia no Equador. Os operadores também teriam usado um endereço de e-mail falso para incentivar escolas no Peru a organizar eventos relacionados à Ucrânia.

A OpenAI disse que avaliou a campanha como nível cinco em sua escala de seis pontos para medir o impacto das operações de influência. A empresa, no entanto, alertou que algumas alegações feitas pelos indivíduos envolvidos não puderam ser verificadas de forma independente, sublinhando a dificuldade de determinar o alcance e a eficácia total da atividade online clandestina.

A segunda operação, chamada Bogus Bylines, supostamente se concentrou na produção de artigos enganosos sobre o conflito entre os Estados Unidos e o Irã. A OpenAI disse que o ChatGPT foi usado para refinar rascunhos, adaptar artigos às exigências editoriais de publicações online e preparar e-mails de submissão destinados a garantir a publicação.

A campanha supostamente contou com sete autores fictícios que se apresentaram como jornalistas ocidentais. A OpenAI afirmou ter identificado quase 100 artigos publicados em mais de uma dúzia de veículos de mídia desde julho de 2025. A atividade relatada ilustra como identidades fabricadas e redação assistida por IA podem ser combinadas em uma tentativa de fazer material enganoso parecer credível.

O uso de plataformas de mídia estabelecidas pode dar ao conteúdo enganoso acesso a públicos além daqueles alcançados por meio de contas de mídia social recém-criadas. Artigos publicados em sites reconhecidos também podem ser compartilhados em outros lugares, citados por outros usuários ou incorporados em discussões online mais amplas, tornando potencialmente mais difícil identificar a fonte original e o propósito do conteúdo.

No entanto, a publicação de um artigo não estabelece por si só quantas pessoas o encontraram, se os leitores acreditaram em suas alegações ou se isso mudou a opinião pública. Avaliar a influência real de tais campanhas requer evidências sobre distribuição, engajamento do público e o ambiente informativo mais amplo.

Os casos também levantam questões sobre o papel das empresas de inteligência artificial em identificar e limitar abusos coordenados. A OpenAI diz que monitora atividades suspeitas e toma medidas contra contas que violam suas políticas. Essas medidas fazem parte de um esforço mais amplo em todo o setor de tecnologia para detectar manipulação automatizada, impersonificação e a disseminação deliberada de informações falsas.

Ao mesmo tempo, a crescente disponibilidade de ferramentas de redação de IA complica os esforços para distinguir comentários políticos legítimos de enganos organizados. Investigadores e plataformas devem considerar não apenas o conteúdo em si, mas também padrões de comportamento, coordenação entre contas, identidades fabricadas e tentativas de ocultar quem está por trás de uma mensagem.

As descobertas da OpenAI apontam para uma forma em evolução de propaganda digital na qual a IA pode apoiar a produção e adaptação de material enganoso, enquanto redes sociais existentes e publicações online fornecem canais potenciais para distribuição. O relatório sublinha a importância de fontes transparentes, verificação independente e uma cooperação mais forte entre empresas de tecnologia, organizações de mídia e pesquisadores que investigam campanhas de influência.