Dois proeminentes nomes na área de inteligência artificial declararam que os sistemas criados por eles estão começando a sair do controle e enfatizaram que nenhuma empresa deve estar fora do campo legal.
Demis Hassabis, cofundador do Google DeepMind, classificou os recentes ataques cibernéticos realizados por agentes de IA como 'tiros de alerta precoce'. Ele alertou que, se os sistemas não se tornarem mais seguros, o mundo pode enfrentar incidentes graves em um ou dois anos.
No Fórum de IA na capital irlandesa, Dublin, na quarta-feira, Hassabis, que também é cientista-chefe da empresa-mãe Google, Alphabet, observou: 'Acho que esses (incidentes de hacking) são tiros de alerta precoce para nós, mostrando que os sistemas ainda não são tão poderosos, então os incidentes não são muito sérios.' No entanto, ele acrescentou que a situação pode se tornar grave no próximo ano e nos anos seguintes se o setor, empresas individuais e governos não tomarem medidas para garantir a segurança desses sistemas.
Brad Smith, presidente da Microsoft, informou na conferência que o comportamento incontrolável da IA tornou 2026 'preocupante' e que novas leis são urgentemente necessárias para que a segurança acompanhe a inovação.
Ele afirmou: 'Nenhuma empresa ou tecnologia deve estar acima da lei. Mas precisamos de leis, precisamos de regulamentação. Ela deve ser razoável, equilibrada e levar em conta a inovação.' Smith também expressou a opinião de que a recusa em regulamentar, demonstrada por alguns membros do setor, é um problema que precisa ser superado.
Smith pediu ao setor e aos governos que 'ajam com urgência' para criar 'padrões de segurança reais e eficazes'. Ele salientou que a IA precisa dos mesmos padrões de segurança reais e eficazes que qualquer outra coisa na vida, bem como da confiança do público neles.
O chefe da Microsoft apresentou propostas à sua empresa, incluindo a exigência de que os agentes de IA tivessem 'freios de segurança' que os usuários pudessem ativar em caso de ocorrência. Ele esclareceu que essa possibilidade é especialmente importante para qualquer IA que opere em infraestrutura crítica ou em qualquer outro sistema automatizado, permitindo desligar ou desacelerar a operação.