Pesquisadores de segurança cibernética identificaram mais de 20 vulnerabilidades críticas nas plataformas de MLOps, destacando os riscos crescentes na cadeia de suprimentos de software de aprendizado de máquina. As falhas, que incluem vulnerabilidades inerentes e de implementação, podem ter consequências graves, desde a execução arbitrária de código até a inserção de conjuntos de dados maliciosos em sistemas comprometidos.

As plataformas de MLOps são amplamente utilizadas para projetar e executar pipelines de modelos de aprendizado de máquina, com um repositório de modelos atuando como um local central para armazenar e versionar modelos treinados. Esses modelos podem ser integrados em aplicações ou acessados por outros clientes por meio de uma API, no modelo conhecido como “model-as-a-service”. No entanto, as vulnerabilidades descobertas podem comprometer toda essa estrutura.

Vulnerabilidades inerentes referem-se a falhas causadas pelos formatos e processos subjacentes da tecnologia em questão. Um exemplo disso é o abuso de modelos de ML para executar código do invasor, explorando o fato de que alguns modelos suportam a execução automática de código ao serem carregados. Isso também se aplica a certos formatos de conjunto de dados e bibliotecas, que podem permitir a execução automática de código, abrindo a porta para ataques de malware quando conjuntos de dados públicos são carregados.

A cadeia dessas vulnerabilidades não apenas possibilita a infiltração e propagação dentro de uma organização, mas também pode comprometer servidores críticos. Os pesquisadores alertam que, se uma plataforma permitir a publicação de novos modelos, é essencial garantir que o ambiente que executa esses modelos seja completamente isolado e protegido contra ataques de fuga de contêineres.