Pesquisadores de cibersegurança descobriram que é possível comprometer o serviço de conversão Safetensors da Hugging Face, resultando finalmente na tomada de controle dos modelos submetidos pelos usuários e levando a ataques à cadeia de suprimentos.

É possível enviar solicitações de pull maliciosas com dados controlados pelo atacante do serviço Hugging Face para qualquer repositório na plataforma, bem como sequestrar quaisquer modelos que sejam submetidos através do serviço de conversão.

Isso, por sua vez, pode ser realizado usando um modelo sequestrado que deveria ser convertido pelo serviço, permitindo assim que atores maliciosos solicitem mudanças em qualquer repositório na plataforma, se passando pelo bot de conversão. Hugging Face é uma plataforma de colaboração popular que ajuda os usuários a hospedar modelos de aprendizado de máquina pré-treinados e conjuntos de dados, além de construir, implantar e treiná-los.

“Apesar das melhores intenções de proteger os modelos de aprendizado de máquina no ecossistema Hugging Face, o serviço de conversão provou ser vulnerável e teve o potencial de causar um ataque amplo à cadeia de suprimentos via o serviço oficial da Hugging Face”, disseram os pesquisadores.