O presidente da Microsoft declarou que são necessárias regras globais urgentes para regulamentar a inteligência artificial, que devem incluir avaliadores independentes para verificar novos desenvolvimentos. Ele alertou que, atualmente, a IA tem menos requisitos de segurança do que os produtos lácteos.
Em uma entrevista à BBC, publicada na segunda-feira, Brad Smith observou que devem existir regras de segurança universais. Essas regras devem obrigar a informar o 'afetado' em caso de invasão de seu sistema por um agente malicioso de IA — software que executa tarefas autonomamente. Além disso, deve haver a possibilidade de ativar um 'freio de emergência'.
Ele também enfatizou a necessidade de um requisito legal para as empresas elaborarem 'relatórios de incidentes'. Smith explicou: 'Sabemos como fazer isso para outros produtos. Devemos usar esse conhecimento e pensar em como aplicá-lo à IA.'
Ele comparou a situação, afirmando: 'Atualmente, sua máquina de lavar roupa está sujeita a mais regras de segurança do que a IA. Cada pacote de leite que você vê no supermercado está sujeito a verificações e regras de segurança.'
Empresas de tecnologia, como Anthropic e OpenAI, começaram a divulgar casos de comportamento indesejado ou malicioso de agentes de IA no âmbito de discussões globais sobre a tecnologia em rápido desenvolvimento. Esses debates incluem alertas de pesquisadores sobre ameaças existenciais potenciais à humanidade.
Algumas empresas defendem a desaceleração do desenvolvimento de IA, mas isso gerou controvérsia sobre se os líderes têm motivos ocultos, como estabelecer regras para manter a liderança de suas empresas, prevenir uma reação governamental mais ampla ou simplesmente retardar gastos acelerados.
O papel do Reino Unido na regulamentação da IA
Smith, da Microsoft, sugeriu que o Reino Unido é um dos países mais adequados para liderar questões de regulamentação de IA, graças ao Instituto de Segurança de IA criado sob o primeiro-ministro Rishi Sunak. Smith observou que os funcionários em Washington veem Londres de forma diferente de Bruxelas, que regula a IA com base no nível de risco através de seu Ato de IA.
O Instituto do Reino Unido tem acesso aos principais modelos de IA antes de serem implantados, com base em acordos voluntários com as empresas desenvolvedoras. Isso permite que o instituto avalie as capacidades e riscos desses modelos. O Ministro da IA, Kanishk Narayan, informou à Reuters que o Reino Unido considerará a regulamentação de modelos avançados se o sistema existente se mostrar insuficiente.