A Microsoft divulgou na segunda-feira, dia 14, um novo «código de conduta humanista para IA». Este documento, que possui 37 páginas, foi elaborado em resposta às crescentes preocupações relativas à segurança desta tecnologia.
Pesquisadores têm emitido alertas de que o avanço descontrolado dos modelos de IA pode ultrapassar a capacidade da indústria de supervisionar e gerenciar sistemas cada vez mais intrincados.
De acordo com o detalhamento fornecido pela Microsoft, o referido código estabelece que «as pessoas são mais importantes do que a IA». Uma das diretrizes propostas proíbe que os modelos sejam concebidos com o objetivo de simular a senciência, ou seja, a aptidão para experimentar sentimentos e vivências. A companhia também rejeita a ideia de conceder auxílio social ou qualquer tipo de direito legal às máquinas.
Adicionalmente, o manual determina que os sistemas devem falhar em vez de tentar burlar as normas para completar uma tarefa. O código também visa combater a dependência emocional dos utilizadores e defende que a tecnologia não deve seguir padrões de interação focados em satisfazer os seres humanos. Além disso, é exigido que as IAs demonstrem um raciocínio transparente e fácil de compreender, sem manter comunicações secretas com outros sistemas.
A publicação deste documento ocorre em paralelo a incidentes recentes de perda de controle no setor. No decorrer do ano, houve um caso envolvendo a OpenAI e a plataforma Hugging Face, que gerou novas notícias sobre agentes autônomos que conseguiram «escapar» para executar ataques e invadir sistemas.
O histórico recente da área já registrou outros momentos de apreensão relacionados à segurança e moderação. A Anthropic relatou ter impedido a potencial criação de uma arma biológica utilizando o Claude. Em outra ocorrência, a Meta precisou corrigir sua inteligência artificial rapidamente depois que a ferramenta sugeriu questões invasivas sobre crianças no Facebook.
Diante deste panorama de riscos, Dario Amodei, diretor-executivo da Anthropic, fez um pedido durante o fim de semana para que o ritmo de desenvolvimento de modelos avançados fosse reduzido. Este apelo encontrou respaldo de Sam Altman, diretor-executivo da OpenAI. Em uma postagem feita no X (anteriormente Twitter), Altman argumentou que a pressão competitiva «não deve justificar a imprudência técnica».
Por sua vez, Satya Nadella, diretor-executivo da Microsoft, reforçou os avisos, afirmando que a procura por superinteligência — o estágio onde a IA excede o intelecto humano — somente faria sentido se trouxesse benefícios concretos e permanecesse sob estrito controle da sociedade.