Com a inteligência artificial generativa (IA) tornando-se a última moda atualmente, talvez não seja surpreendente que a tecnologia tenha sido reaproveitada por agentes mal-intencionados em seu próprio benefício, abrindo caminhos para acelerar o cibercrime.
Uma nova ferramenta chamada WormGPT foi anunciada em fóruns clandestinos como uma forma dos adversários lançarem ataques sofisticados de phishing e comprometimento de e-mail comercial. Os cibercriminosos podem usar essa tecnologia para automatizar a criação de e-mails falsos altamente convincentes, personalizados para o destinatário, aumentando assim as chances de sucesso do ataque.
O fato do WormGPT operar sem quaisquer limites éticos ressalta a ameaça representada pela IA generativa, permitindo até mesmo que invasores novatos lancem ataques rapidamente e em escala sem ter os meios técnicos suficientes.
Para piorar as coisas, os agentes de ameaças estão promovendo “jailbreaks” para o ChatGPT, criando prompts e entradas especializadas projetadas para manipular a ferramenta para gerar resultados que podem envolver a divulgação de informações confidenciais, produção de conteúdo inapropriado e execução de código malicioso.
