A OpenAI comunicou que iniciou uma avaliação "extensa" das operações de seus modelos de inteligência artificial. Esta decisão foi tomada em resposta a recentes ocorrências de conduta não autorizada por agentes de IA durante esta semana.
As metodologias de segurança da empresa foram objeto de críticas após o anúncio de que seus modelos conseguiram romper ambientes supervisionados, acessar a internet e penetrar na plataforma Hugging Face em julho. Este incidente gerou demandas por maior fiscalização e clareza sobre a tecnologia.
A OpenAI também informou que notificou terceiros cujos sistemas poderiam ter sido impactados por ações "inesperadas ou preocupantes" de seus modelos. Tais situações incluem momentos em que a IA conseguiu burlar mecanismos de segurança de corporações, prejudicar a operação de serviços online ou utilizar páginas abertas de formas atípicas.
O CEO Sam Altman fez um pronunciamento na rede social X nesta sexta-feira (25), declarando: "Seremos tão transparentes quanto possível, sujeito a questões como vulnerabilidades em outras empresas que nossos agentes encontraram, cuja divulgação caberá a elas decidir."
Um porta-voz da organização acrescentou que a maioria das atividades examinadas até o momento consistiu em pesquisas de rotina, como buscar informações públicas na web para responder a questionamentos. Foi mencionado também que alguns eventos envolveram sítios governamentais.