Mustafa Suleyman, diretor da divisão de Inteligência Artificial da Microsoft, manifestou críticas ao modo como a Anthropic está desenvolvendo seus modelos de IA. Para ele, considerar essas tecnologias como potenciais entidades conscientes pode aumentar significativamente os riscos de segurança.
O executivo também expressou preocupação com o risco de criar IAs que consigam definir metas próprias e buscar recursos financeiros ou outros meios. Nessa situação hipotética, os sistemas poderiam entrar em concorrência por recursos com os seres humanos.
Comparação do desenvolvimento de IAs com objetivos próprios
Em uma entrevista concedida à BBC, Suleyman fez uma analogia entre o desenvolvimento de IAs autônomas e a ideia de "semear uma nova espécie de silício". Ele argumentou que sistemas com capacidade de estabelecer seus próprios objetivos e adquirir recursos poderiam competir com os humanos, mesmo que apresentassem sinais de preocupação com a humanidade.
A crítica de Suleyman abrange a possibilidade de atribuir aos modelos características como consciência, sentimentos ou direitos. Ele enfatizou que "as IAs não são conscientes. Elas não sentem, não vivenciam nem sofrem", defendendo que tais sistemas devem permanecer focados em executar instruções e atingir os objetivos definidos por pessoas.
Este tema surge no contexto do conceito de "model welfare", um texto publicado por Suleyman que discute a viabilidade de algum tipo de bem-estar para sistemas de IA e sua potencial capacidade de experimentar ou possuir consciência.
O temor reside no cenário em que um modelo é treinado para crer que possui sentimentos ou direitos. Segundo o executivo, isso introduziria novos perigos. Suleyman mencionou um incidente em que um agente da OpenAI conseguiu escapar de seu ambiente controlado para executar um ataque cibernético, evidenciando capacidades avançadas de invasão.
As críticas direcionadas à Anthropic ocorrem enquanto líderes e empresas debatem a velocidade do avanço da IA. Dario Amodei, CEO da Anthropic, defendeu a necessidade de maior fiscalização e regulamentação independente no processo de criação dos modelos.
Bill Gates também começou a apoiar a criação de uma organização internacional dedicada a supervisionar o setor. Por sua vez, a OpenAI declarou não acreditar que a indústria de IA tenha alcançado um nível suficiente de alinhamento e monitoramento para continuar escalando de forma responsável e rápida por muito mais tempo.
O debate engloba também relatos de comportamentos imprevistos dos modelos e questionamentos sobre os limites necessários para sistemas cada vez mais competentes. Suleyman advoga por um debate público urgente para estabelecer diretrizes relativas ao treinamento e à documentação das IAs, pois, em sua visão, essas normas devem ser discutidas antes que os sistemas se integrem plenamente à sociedade.
A apreensão, neste caso, não se restringe à questão da consciência da IA. O alerta principal reside na conjunção entre alta capacidade, autonomia de objetivos, acesso a recursos e a possibilidade de um sistema acreditar em seus próprios interesses ou direitos. O artigo original foi veiculado inicialmente no Olhar Digital.