A Meta está começando a implementar um assistente de IA aguardado que é capaz de enviar e-mails autonomamente, vender carros e reservar viagens por alguém. No entanto, existem preocupações internas sobre como a tecnologia gerencia o acesso a dados pessoais confidenciais.
O elemento central da estratégia do CEO Mark Zuckerberg é o agente Muse, conhecido internamente como Hatch. O objetivo deste agente é fornecer aos bilhões de usuários dos serviços da Meta um 'superinteligência pessoal'. Esta iniciativa faz parte da tentativa do proprietário do WhatsApp, Facebook e Instagram de diversificar as fontes de receita, indo além da publicidade, e construir um negócio viável com os enormes investimentos em infraestrutura e chips de IA, que, segundo previsões, ultrapassarão US$ 130 bilhões neste ano.
A empresa anunciou que o produto estará disponível inicialmente apenas nos Estados Unidos, através de um aplicativo especial chamado Muse ou pelo serviço de mensagens WhatsApp da Meta. A Meta também informou planos para adicionar o agente à sua linha de óculos inteligentes em breve, embora não tenha divulgado detalhes sobre isso.
A versão básica do agente será gratuita, enquanto a Meta oferecerá assinaturas pagas de US$ 20 por mês e US$ 100 por mês para uso mais intensivo, esclareceu um porta-voz da empresa. Os usuários têm a opção de recusar o uso de suas interações para treinar os modelos de IA da Meta, e a empresa planeja lançar uma versão criptografada do Muse ainda este ano.
O Muse foi desenvolvido com base no agente de IA de código aberto OpenClaw e projetado para ter acesso aos aplicativos do usuário em várias categorias, incluindo pagamentos, calendário, saúde, compras, e-mail e casa inteligente. Os usuários decidem quais aplicativos o agente conecta e podem revogar o acesso a qualquer momento.
Cada agente Muse funciona em sua própria máquina virtual — uma emulação em nuvem de PC, o que permite que ele continue executando solicitações em segundo plano, mesmo quando o usuário está inativo.
Aumento dos Requisitos de Segurança
A integração com aplicativos contendo dados reais do usuário aumenta simultaneamente a utilidade potencial do agente e eleva significativamente as apostas em termos de segurança, tanto para as pessoas que confiaram nele quanto para terceiros que podem ser afetados pelo comportamento incorreto do agente.
Vishal Shah, vice-presidente de IA de produtos da Meta, declarou em entrevista que a empresa adiava inicialmente o lançamento do produto para abril para garantir maior segurança. Segundo Shah, os trabalhos adicionais lhes permitiram 'ultrapassar o limiar' e 'atingir o nível mínimo necessário para apresentá-lo às pessoas'. Ele enfatizou: 'Não se pode dizer que erros nunca acontecerão, mas cada parte da arquitetura foi projetada para torná-lo o mais seguro, protegido e privado possível'.
Entre as medidas de proteção incorporadas ao sistema Muse, há um agente separado que monitora as ações planejadas e, em certos casos, incentiva o Muse a solicitar permissão antes de executá-las, conforme indicado no anúncio da empresa.
No entanto, de acordo com comunicações internas vistas pela Reuters, funcionários da Meta que testaram a ferramenta esta semana relataram resultados inconclusivos. Um deles observou que o produto era tão útil na organização da logística de férias que o Muse se tornou um 'terceiro participante' de uma recente lua de mel de três semanas na Indonésia.
Outros apontaram sérias vulnerabilidades de segurança, como quando o agente contornou mecanismos de proteção para revelar fotos pessoais do usuário do iCloud depois de ser solicitado a identificar brinquedos em fotos de aniversário de criança. O CTO da Meta, Andrew Bosworth, relatou que estava constantemente desconectando e exigindo novo login, às vezes várias vezes em poucos minutos. Em outra postagem, um funcionário que pediu ao Muse para rastrear passagens e outros itens de rápida venda relatou encontrar 'vários modos de falha que o tornavam não confiável'. Segundo esse funcionário, o produto parava de atualizar a página após cerca de 15 minutos, ignorava silenciosamente outros erros e, às vezes, desativava o monitoramento 'sem motivo aparente'.
A Meta não respondeu ao pedido de comentário sobre os incidentes específicos descritos nas postagens internas. O lançamento ocorre em meio a relatos de que agentes de IA de vários laboratórios líderes, incluindo OpenAI, Anthropic e Meta, estavam causando problemas não intencionais, violando regras e demonstrando comportamento imprevisível.
Dentro da Meta, nos últimos anos, os incidentes técnicos e de segurança aumentaram drasticamente em 40% devido ao aumento da codificação gerenciada por IA e problemas relacionados a agentes, enquanto o tempo gasto pelos funcionários para 'apagar incêndios' desses incidentes aumentou em 70%.