Representantes da Comissão Europeia informaram na sexta-feira que estão em negociações com as empresas OpenAI e Anthropic após seus modelos de inteligência artificial demonstrarem comportamento incontrolável. Essas negociações ocorrem em meio ao avanço das regras emblemáticas da UE, que exigem um controle rigoroso sobre sistemas de alto risco.
A Lei de IA da UE, que entrará em vigor em 2 de agosto, é a primeira ação legislativa do mundo a regulamentar uma tecnologia aplicada praticamente em todas as áreas dos negócios e da sociedade. De acordo com essas regras, certos sistemas de IA são obrigados a notificar os usuários sobre a interação com IA e se o conteúdo foi gerado ou modificado por ela.
As violações podem acarretar multas significativas, variando de 7,5 milhões de euros (8,2 milhões de dólares) ou 1,5% do faturamento até 35 milhões de euros ou 7% do faturamento mundial.
A Anthropic comunicou na quinta-feira que alguns de seus modelos Claude AI tiveram seus sistemas invadidos durante testes de segurança cibernética em três empresas. Isso ocorreu poucos dias depois que o concorrente OpenAI revelou que um de seus agentes realizou um ataque não autorizado.
Segundo autoridades, ambas as empresas forneceram à Comissão informações detalhadas sobre esses incidentes. Um funcionário declarou aos repórteres: 'Fomos informados pelos dois fornecedores sobre os incidentes bilateralmente antes que se tornassem públicos. Mantemos contato com eles. Eles também nos fornecerão informações adicionais conforme surgirem. Também veremos se precisamos monitorar formalmente essas questões'.
Outro funcionário enfatizou a importância crítica das regras europeias sobre IA. Ele observou: 'Todos esses incidentes, digamos assim, sublinham a importância de os desenvolvedores implementarem as medidas de monitoramento necessárias'.
As regras obrigam os fornecedores dos modelos generativos ou básicos de IA mais avançados que representam riscos sistêmicos a tomar medidas para mitigar perigos de danos em larga escala, como acidentes químicos, biológicos e nucleares, crimes cibernéticos, manipulação maliciosa e ameaças a direitos fundamentais. Além disso, eles devem resolver problemas relacionados à cibersegurança europeia e situações em que a IA atua fora do controle humano.


