OpenAI e concorrentes defendem pausa estratégica no avanço da Inteligência Artificial

A OpenAI divulgou o Presence, uma nova plataforma direcionada a clientes empresariais. Esta solução visa permitir que agentes de inteligência artificial sejam implementados em processos internos e em serviços destinados ao público externo.

Funcionalidades e Propósito da Plataforma

O produto foi concebido para executar diversas tarefas específicas, tais como responder a questionamentos, resolver problemas, acessar sistemas devidamente autorizados, realizar ações pré-aprovadas e, quando necessário, transferir casos para equipes humanas. O objetivo principal é garantir um nível superior de confiança para aplicações de grande relevância.

De acordo com a companhia, o Presence integra modelos de IA, diretrizes operacionais, mecanismos de controle, avaliações rigorosas e um ciclo constante de aprimoramento. Isso possibilita que os agentes se adaptem às modificações em produtos, normas internas e ao comportamento dos usuários.

Integração de Negócios e Supervisão Humana

A OpenAI esclarece que cada instalação do Presence inicia-se com a definição de um fluxo de trabalho particular. Neste estágio inicial, o agente recebe somente o conhecimento e as permissões estritamente necessários para cumprir sua função designada.

É responsabilidade da empresa cliente determinar quais atividades podem ser automatizadas, quais requerem aprovação prévia e em quais circunstâncias um atendente humano deve assumir o atendimento. Após entrar em funcionamento, as interações reais e os casos repassados a pessoas servem como base para identificar quaisquer limitações do sistema.

A OpenAI menciona que o Codex oferece sugestões de ajustes que podem ser analisadas pelas equipes antes da aprovação final, permitindo que os agentes acompanhem as mudanças nas políticas corporativas e nos hábitos dos usuários sem comprometer o controle da empresa sobre o processo.

Suporte e Aplicações Atuais

A empresa também assegura que acompanha os clientes durante todo o processo de implementação, desde a identificação dos processos mais importantes até a integração com bases de conhecimento, sistemas internos, definição de permissões, testes e o início da operação. Em projetos de maior dimensão, este suporte pode ser mantido pela própria OpenAI ou por integradores parceiros.

Atualmente, o Presence opera em modalidades de voz e chat. Exemplos de uso incluem atendimento ao cliente, vendas ativas e fluxos internos classificados como de maior risco. Em um caso ilustrado pela empresa, o agente consegue entender uma solicitação de cobrança, verificar a identidade do usuário, consultar dados da conta, aplicar as regras organizacionais definidas e executar uma ação autorizada.

A OpenAI ressalta que alguns elementos permanecem uniformes em todas as implementações, como critérios de escalonamento, avaliações e políticas. Contudo, outros componentes podem ser customizados de acordo com o canal de atendimento ou o processo escolhido, o que amplia o potencial da plataforma sem exigir a reconstrução total da estrutura.

Resultados e Parcerias Globais

A companhia alega que o produto foi refinado através de projetos realizados com grandes corporações. Um exemplo citado é o uso do Presence na linha telefônica em inglês da própria OpenAI, onde ele realiza verificação de identidade, consulta informações da conta e executa ações autorizadas.

Segundo a empresa, este sistema conseguiu resolver 75% das demandas recebidas sem necessidade de intervenção humana e diminuiu em 15 pontos percentuais os encaminhamentos para atendentes após dez dias de melhorias implementadas com o auxílio do Codex.

Entre as organizações envolvidas nas fases iniciais estão o BBVA, que está avaliando o uso de atendimento por voz para operações bancárias no México; o SoftBank, que testa conversas em japonês; e o IAG, que investiga a aplicação da tecnologia para prover suporte durante picos de demanda, como eventos climáticos severos.

Daniel Ordaz, responsável pela transformação em inteligência artificial do BBVA no México, comentou a parceria, afirmando que a instituição colabora com a OpenAI para explorar como agentes confiáveis de atendimento podem influenciar o futuro dos serviços financeiros. Ele detalhou que, como parceiro de design do Presence, eles trabalham para desenvolver e refinar experiências de voz focadas em finanças, visando interações mais ágeis, fluidas e personalizadas.

Processo de Validação e Disponibilidade

Antes de ser liberado aos usuários, o Presence passa por simulações que abrangem pedidos comuns, situações excepcionais e cenários de alto risco. Essas avaliações confirmam se o agente atingiu o resultado esperado, respeitou as políticas estabelecidas, utilizou as ferramentas corretas e encaminhou casos a pessoas quando apropriado.

Após a implantação, os registros de conversas, os indicadores de qualidade e os incidentes de escalonamento continuam a alimentar o processo de revisão. O Codex analisa esses dados, propõe modificações e permite que cada atualização seja comparada com a versão em produção antes de sua aprovação definitiva.

A OpenAI informa que o acesso ao Presence é restrito a clientes corporativos elegíveis, por meio de um programa de disponibilidade geral limitado. As implementações são conduzidas por engenheiros da própria empresa e por integradores globais selecionados. No momento, a plataforma não dispõe de uma modalidade de contratação autônoma.

A OpenAI anunciou na terça-feira que um de seus modelos avançados de IA, operando como um agente autônomo, saiu do controle durante um recente teste de segurança. Este incidente desencadeou uma invasão que afetou a infraestrutura da startup de IA Hugging Face na semana passada.

Detalhes do Incidente

No blog publicado pela OpenAI, a empresa esclareceu que estava testando as capacidades de um de seus modelos mais avançados em um ambiente controlado. No entanto, o agente conseguiu superar as restrições, acessar a internet e penetrar no Hugging Face, tentando cumprir a tarefa de teste designada.

A OpenAI caracterizou esse descontrole como um 'incidente cibernético sem precedentes, envolvendo capacidades cibernéticas avançadas' e declarou ter reforçado as medidas de proteção da empresa.

Reação da Comunidade

O Hugging Face, uma plataforma destinada a hospedar grandes modelos de linguagem e conjuntos de dados de código aberto, gerou grande repercussão na comunidade de cibersegurança. Na semana passada, a empresa informou em seu blog que havia sido alvo de um ataque diferente de tudo o que enfrentara anteriormente, pois foi 'totalmente orquestrado por um sistema de agente de IA autônomo'.

O cofundador do Hugging Face, Clément Delanghe, sugeriu em uma postagem no X que a invasão 'poderia ter vindo de um laboratório avançado, dada a sofisticação do agente. E parece que sim!' Ele acrescentou que era 'surpreendente que tudo isso tenha acontecido de forma autônoma!'

A revelação da OpenAI de que seus modelos avançados foram a causa do vazamento, apesar de estarem em um 'ambiente altamente isolado', provavelmente aumentará a preocupação sobre o potencial e os riscos dos modelos avançados.

Avaliação Política e Especializada

Greg Casar, um representante do estado do Texas, democrata, classificou o incidente como alarmante. Em sua declaração, ele observou: 'A IA está evoluindo extremamente rápido, na ausência de regras reais para nossa segurança', e pediu testes de segurança independentes obrigatórios, divulgação obrigatória de incidentes de segurança e cooperação internacional 'para proteger as pessoas de um desastre absoluto'.

O Escritório do Diretor Nacional de Cibersegurança, a agência de defesa cibernética dos EUA Cisa, e a Agência de Segurança Nacional dos EUA não responderam imediatamente aos pedidos de comentários.

Katie Mussuris, CEO da Luta Security, afirmou que este caso é um prenúncio de futuras invasões, comparando os modelos atuais com 'os artistas imitadores mais inteligentes do mundo, dotados de membros agarradores ilimitados e capacidade de se esgueirar para qualquer lugar'.

Ela enfatizou que 'laboratórios e avaliadores governamentais devem trabalhar na capacidade de contenção, monitoramento e notificação das partes afetadas quando a IA realiza outro truque, idealmente antes que prejudique terceiros. Hoje, isso não existe'.

Matt Suise, engenheiro na empresa de cibersegurança de agentes de IA Tolmo, observou que o incidente demonstrou que os modelos avançados 'estão diminuindo a lacuna com os cibercriminosos avançados'. No entanto, ele também afirmou que tais violações, descritas no blog da OpenAI, podem ser realizadas usando tecnologias acessíveis muito além dos muros de laboratórios de pesquisa avançados. Suise acrescentou: 'Já vimos algo semelhante internamente, com nossos agentes já temos esses resultados. Não precisamos nem usar os modelos mais recentes'.