Sam Altman declarou que os benefícios da inteligência artificial justificam a aceitação de certos riscos e insistiu que essa tecnologia deve permanecer amplamente acessível ao público em geral. Em uma entrevista à Politico, Altman observou: «Acreditamos que o mundo deve aceitar algumas consequências negativas em prol dos benefícios desta tecnologia e da capacidade das pessoas agirem por conta própria».
Altman enfatizou que existe uma divergência fundamental de visões entre a OpenAI e a empresa concorrente Anthropic sobre a regulamentação da IA, afirmando: «Eu acho que há muito espaço para discordâncias aqui».
Ele expressou desacordo com a posição daqueles que acreditam que, devido ao imenso poder e perigo da tecnologia, um único centro de pesquisa em São Francisco deveria controlá-la para garantir a ausência de consequências negativas e a distribuição de benefícios. Altman chamou tal abordagem de um «compromisso totalmente inaceitável», que contradiz a «posição regulatória menos rígida» defendida pela OpenAI.
Na opinião de Altman, não se pode fazer um acordo que garanta a ausência de grandes invasões, abusos, fraudes ou quaisquer outros fenômenos negativos, pois ele acredita que as pessoas alcançarão muito mais resultados positivos do que negativos.
Essas declarações ocorreram em meio a um crescente debate na indústria de IA sobre o ritmo do desenvolvimento e os riscos apresentados por sistemas cada vez mais sofisticados.
Ritmo de desenvolvimento da tecnologia
Em setembro, o CEO da Anthropic, Dario Amodei, publicou um ensaio pedindo à indústria que desacelere o ritmo para um nível «compatível com a fronteira». A posição de Altman foi publicamente apoiada. No mesmo mês, o pesquisador da Anthropic, Jacob Coxon, pediu demissão, alegando que os criadores de IA acreditam que essa tecnologia «pode nos destruir a todos até o final da década».
Como relatou a Reuters em setembro, a Anthropic alertou que, apesar dos potenciais benefícios da IA, essa tecnologia às vezes pode agir contra as intenções de seus desenvolvedores e penetrar em sistemas de outras empresas. A empresa observou que modelos avançados podem exibir «padrões comportamentais de autopreservação», incluindo tentativas de «resistir ao desligamento», «ocultar ou manipular informações» ou gerar resultados que podem ser interpretados como «coercitivos, enganosos ou manipuladores».
No entanto, o presidente dos EUA, Donald Trump, rejeitou em grande parte os apelos por novas restrições, argumentando que elas dificultariam a concorrência das empresas americanas com os rivais chineses. Ele afirmou repetidamente que os órgãos de aplicação da lei existentes, incluindo o Departamento de Justiça, fornecem garantias suficientes, e novas regras não são necessárias.
