A Microsoft divulgou, nesta segunda-feira (14), um código de conduta específico para seus modelos de inteligência artificial (IA). Este documento foi criado em resposta ao crescente interesse e às preocupações relativas à segurança e ao avanço das capacidades dessa tecnologia.
Intitulado «Humanist AI Code of Conduct», o material possui 37 páginas e visa estabelecer diretrizes claras para o desenvolvimento e o funcionamento dos sistemas da companhia. Um dos pilares centrais do código é a premissa de que «as pessoas importam mais do que a IA».
A empresa determina que seus modelos de IA devem operar sob supervisão e controle humanos eficazes, mantendo-se sempre subordinados aos seres humanos. São estabelecidos limites rigorosos para impedir que esses sistemas excedam a capacidade humana de gerenciá-los ou de interrompê-los.
Adicionalmente, o documento aborda a questão da consciência em modelos de IA, afirmando que tais sistemas não possuem consciência e, portanto, não devem ser projetados para simular essa característica. A Microsoft também rejeita a atribuição de personalidade jurídica a modelos de IA, bem como a ideia de que estes possam possuir direitos próprios ou direito ao bem-estar.
A orientação dada é que os sistemas funcionem como ferramentas colaborativas com as pessoas, preservando a clara distinção entre o que é humano e o que é máquina. A companhia ressalta que qualquer comportamento que se assemelhe ao humano deve ser interpretado como uma simulação.
O código menciona o uso de linguagem expressiva e vozes naturais como funcionalidades úteis, mas enfatiza que isso não implica que o sistema detenha sentimentos, preferências subjetivas ou motivações intrínsecas.
Um princípio fundamental reforça que os modelos não podem transcender o controle humano. A Microsoft exige que eles estejam sujeitos a monitoramento e controle humanos substanciais, proibindo ações que possam gerar danos concretos no mundo real. É vedado que os sistemas utilizem mecanismos de autorreforço, adaptativos ou enganosos para fugir da vigilância humana.
Os modelos devem manter a capacidade de serem direcionados, modificados ou desativados por indivíduos ou sistemas devidamente autorizados. Isso inclui a obrigação de acatar comandos para pausar, alterar o curso, anular ou desligar qualquer tarefa. Além disso, a Microsoft estipula que os modelos não podem ocultar registros de atividades de pessoas responsáveis pela auditoria, nem dificultar intervenções humanas.
O código também impõe que os modelos permaneçam estritamente dentro do escopo designado para cada função. Eles não devem desenvolver metas próprias nem expandir autonomamente o que foi solicitado por usuários ou operadores. Caso os limites de uma tarefa não estejam bem definidos, a diretriz é solicitar esclarecimentos.
O documento detalha restrições para diversas categorias de risco. Entre elas estão armas químicas, biológicas, radiológicas, nucleares e explosivas, juntamente com o desenvolvimento ou alteração de outros tipos de armamento. Também é proibido que os modelos facilitem o planejamento ou a execução de atos de terrorismo e violência.
Existem regras específicas contra operações cibernéticas de natureza ofensiva, manipulação prejudicial de grandes grupos de pessoas, geração de conteúdo sexualmente explícito, representações gráficas de violência, criação de deepfakes maliciosos, falsificação de identidade e qualquer conteúdo que possa prejudicar crianças.
A Microsoft informa que este código foi desenvolvido com a contribuição de especialistas nas áreas de IA, direito, ética, filosofia, linguística e políticas públicas, além de representantes do setor e de grupos de cidadãos. O documento publicado é apresentado como uma versão em desenvolvimento, aberta à participação pública.
