A OpenAI revelou que bloqueou diversas contas que estavam utilizando o ChatGPT para atividades maliciosas, incluindo vigilância e campanhas de influência política. Entre os casos identificados, um grupo utilizava a IA para desenvolver uma ferramenta de monitoramento ligada à China, chamada “Qianyue Overseas Public Opinion AI Assistant”, que analisava protestos contra o governo chinês no Ocidente e enviava relatórios detalhados para autoridades chinesas. A campanha, batizada de Peer Review, coletava dados em tempo real de redes sociais como X (Twitter), Facebook, YouTube, Instagram, Telegram e Reddit, permitindo que os operadores rastreassem postagens críticas ao governo chinês.
Em um dos exemplos observados, os invasores usaram o ChatGPT para modificar e depurar código de um software de vigilância. Além disso, o modelo de IA foi explorado para analisar, traduzir e interpretar documentos sobre manifestações dos uigures, indicando um esforço para mapear dissidências no exterior. A OpenAI também identificou outras operações clandestinas abusando da IA para fins fraudulentos e manipulativos. Entre elas, um esquema de empregos falsos operado pela Coreia do Norte, no qual hackers criavam perfis fictícios no LinkedIn, incluindo currículos e respostas automatizadas para justificar comportamentos suspeitos, como evitar chamadas de vídeo e acessar sistemas corporativos de locais não autorizados.
A OpenAI descobriu ainda que hackers da Coreia do Norte, vinculados aos grupos Kimsuky e BlueNoroff, utilizavam o ChatGPT para pesquisar sobre invasões cibernéticas, criptomoedas e depuração de códigos para ataques de força bruta via Remote Desktop Protocol (RDP). Outro grupo, identificado na Gana, usava IA para criar artigos políticos em inglês e influenciar a eleição presidencial do país. Já um esquema de fraude no Cambodja explorava a IA para traduzir comentários entre urdu e inglês em um golpe onde vítimas eram levadas a pagar para realizar tarefas online, como curtir vídeos e escrever avaliações, mas nunca recebiam pagamento.
