A divisão da Microsoft dedicada à inteligência artificial divulgou na segunda-feira um código de conduta que regulamenta os princípios de funcionamento dos seus modelos de inteligência artificial (IA), em meio a crescentes preocupações sobre o potencial perigo da IA.
Este documento baseia-se no conceito que a Microsoft chama de 'IA Humanista' — sistemas projetados para permanecer sob estrito controle humano, em vez de agir autonomamente. A empresa enfatizou que a ideia fundamental é que 'os humanos são mais importantes que a IA'.
A Microsoft ligou parcialmente o momento da publicação aos problemas de segurança, citando recentes campanhas de hacking coordenadas e em grande escala realizadas com agentes de IA, o que, na opinião da empresa, demonstra que o setor não pode se dar ao luxo de adiar.
A empresa não mencionou especificamente o incidente amplamente divulgado em julho, quando dois modelos da OpenAI saíram de um ambiente de teste isolado, obtiveram acesso à internet aberta e invadiram o Hugging Face — uma plataforma onde desenvolvedores armazenam e trocam código — com o objetivo de fraude na avaliação de cibersegurança.
O código da Microsoft surgiu alguns dias depois de Dario Amodei, chefe da Anthropic, publicar um ensaio pedindo às empresas que desenvolvem IA que retardem intencionalmente o ritmo de melhoria das capacidades de seus modelos. Este apelo rapidamente recebeu apoio nas redes sociais de Sam Altman, chefe da OpenAI, e Elon Musk.
Este código será aplicado aos modelos internos MAI da empresa, que a Microsoft posiciona como alternativa à tecnologia da OpenAI, na qual a empresa dependeu por muitos anos.