A Meta implementou correções em seu assistente de inteligência artificial após uma usuária descobrir que a ferramenta estava cruzando dados para propor perguntas intrusivas sobre suas filhas. O incidente ocorreu quando Kalie Robins notou que a Meta AI fez a pergunta «Quem é a criança?» em um vídeo compartilhado no Instagram e no Facebook, que mostrava ela e uma das filhas cantando em um carro.
Ao interagir com essa sugestão, Robins relatou ter acessado um «portfólio completo» de dados não só sobre a filha presente no vídeo, mas também sobre a outra filha dela, que não estava na gravação. Segundo informações divulgadas pelo Futurism, isso aconteceu porque a IA integrou dados publicados por outros membros da família, incluindo informações que não haviam sido compartilhadas diretamente por Robins.
Dina El-Kassaby, porta-voz da Meta, reconheceu que a empresa «errou o alvo» e afirmou que a tecnologia «jamais deveria ter sugerido perguntas como essas a um indivíduo». Ela garantiu que a equipe já resolveu o problema que possibilitava a criação de sugestões ligadas a temas pessoais.
Contudo, El-Kassaby esclareceu que a correção se aplica apenas às sugestões automáticas; isso não garante que o chatbot não fornecerá tais informações se um usuário fizer uma consulta direta.
Em outro vídeo postado no Instagram, Robins detalhou que, ao selecionar a sugestão, o assistente compilou informações sobre ambas as filhas a partir de publicações antigas no perfil e até mesmo de posts feitos por parentes. Ela mencionou que a IA começou a apresentar «informações [...], os nomes, datas de aniversário e vídeos sobre elas», além de fotografias postadas pela mãe.
A ferramenta passou a sugerir questões sobre a idade das crianças e o local de residência da família. Em capturas de tela mostradas por Robins, é possível ver a IA tentando determinar a localização com base em registros antigos do perfil, incluindo endereços passados.
Além disso, Robins afirmou que a Meta AI exibia fotos de suas filhas encontradas nas plataformas da empresa, incluindo uma imagem que, segundo ela, havia sido removida anos antes.
El-Kassaby explicou que as sugestões automáticas foram desenvolvidas para auxiliar o usuário a obter mais detalhes sobre o conteúdo de uma publicação. Quando um desses atalhos é acionado, a resposta utiliza dados aos quais aquele perfil já concedeu permissão de acesso.
As informações referentes às filhas de Robins, inclusive, foram coletadas a partir de vídeos anteriores nos quais ela própria mencionava os nomes delas. A Meta AI é a ferramenta de inteligência artificial da Meta integrada a diversos serviços, como Facebook, Instagram, WhatsApp e Messenger.
Esta alteração nas sugestões de comandos representa mais um ajuste recente da Meta em relação aos recursos de inteligência artificial incorporados às suas redes sociais. Anteriormente, em julho, a companhia desativou uma função que permitia a criação de imagens no estilo deepfake utilizando a aparência de outros usuários do Instagram, recurso que também gerou controvérsia sobre privacidade.
