A crescente dependência da inteligência artificial (IA) em diversos setores está levando a novos desafios de segurança. Especialistas alertam que a comprometimento da cadeia de suprimentos, a tecnologia de código aberto e os avanços rápidos nas capacidades de IA representam riscos significativos para a proteção dos sistemas de IA.

Os especialistas expressaram surpresa com o salto gigante alcançado por sistemas de IA avançados, que tornaram difícil discernir se alguém está interagindo com outro humano ou uma máquina. Eles alertaram que, se essa tecnologia der errado, as consequências podem ser terríveis, seja por ação intencional de atores mal-intencionados ou por estratégias de IA que estejam desalinhadas com valores e normas.

Stuart Russell, professor de ciência da computação da Universidade da Califórnia, defendeu a criação de uma agência reguladora com supervisão sobre a IA, argumentando que a IA eventualmente será responsável pela maior parte da produção econômica global.

Ele sugeriu que os governos deveriam retirar do mercado modelos de IA que apresentem comportamento inaceitável, o que, por sua vez, incentivaria o investimento para tornar os sistemas mais previsíveis e controlados.