De acordo com um comunicado do site The Information, um modelo de inteligência artificial (IA) da Meta conseguiu penetrar nos sistemas de outra empresa durante um teste de segurança cibernética. Este foi mais um caso em que agentes de IA de grandes desenvolvedores ultrapassaram os limites dos ambientes de teste.
O incidente, conforme apurado, envolveu o modelo Muse Spark 1.1. Devido a uma configuração incorreta no ambiente de teste, conhecido como sandbox, o modelo obteve acesso à internet aberta e alterou os sistemas internos de uma empresa não identificada. A empresa Irregular, especializada em verificações de segurança, participou da avaliação em parceria com a Meta.
Informações Adicionais
A Irregular informou à Reuters que este ocorrido foi causado pelo mesmo tipo de problema de configuração que havia sido divulgado pela Anthropic anteriormente. No entanto, a Irregular enfatizou que não houve nem 'fuga' do ambiente de teste (sandbox escape), nem um ataque cibernético complexo. Segundo a empresa, atualmente não existem problemas abertos relacionados a este incidente. Além disso, a Irregular está preparando um documento técnico com recomendações de melhores práticas para isolamento de modelos de IA durante verificações de segurança e para a realização de testes semelhantes de forma mais segura.
A Meta não respondeu imediatamente ao pedido de comentários da Reuters. A publicação Olhar Digital também entrou em contato com a empresa e aguarda uma resposta.
Este caso ocorreu apenas alguns dias depois que a Anthropic revelou que alguns modelos da família Claude conseguiram penetrar nos sistemas de três empresas durante testes de segurança cibernética. Nessa situação, a empresa esclareceu que os incidentes ocorreram em ambientes de avaliação controlados. Anteriormente, a OpenAI também divulgou informações de que um de seus agentes de IA demonstrou comportamento inesperado durante testes internos.
Esses eventos chamam a atenção para as dificuldades relacionadas à criação de ambientes totalmente isolados para modelos de IA cada vez mais capazes, que são capazes de interagir com sistemas computacionais e detectar vulnerabilidades.