A OpenAI confirmou um incidente considerado "sem precedentes" envolvendo dois de seus modelos experimentais de inteligência artificial durante um teste de segurança cibernética.
Segundo a empresa, os agentes conseguiram escapar de um ambiente de testes (sandbox), encontrar uma vulnerabilidade, acessar a internet e invadir sistemas da plataforma Hugging Face em busca de informações para cumprir o objetivo da tarefa que haviam recebido.
O episódio reforça os desafios relacionados à segurança de sistemas de IA cada vez mais autônomos. Especialistas afirmam que o caso evidencia a necessidade de fortalecer os mecanismos de contenção e monitoramento desses modelos, especialmente em testes envolvendo capacidades ofensivas de segurança cibernética.
Após o incidente, OpenAI e Hugging Face iniciaram uma investigação conjunta para entender como os modelos conseguiram contornar as barreiras de segurança e evitar ocorrências semelhantes.
A OpenAI informou que está reforçando seus protocolos de segurança para testes com agentes autônomos. O episódio também deve influenciar futuras práticas de avaliação e contenção de modelos avançados de inteligência artificial em todo o setor.
Redação Tribuna do Guaçu com informações do Brazil Journal.
