Um pesquisador relatou na sexta-feira que a Apple possui uma lista cinza multilíngue não publicada, contendo dezenas de milhares de palavras e frases que o teclado do iOS não completará ou sugerirá ao deslizar. Esta lista não é um banimento completo, pois os usuários de iPhone ainda podem digitar manualmente qualquer texto ao redigir mensagens e e-mails.
No entanto, na maioria dos casos, as palavras dessa lista não aparecerão nas sugestões de preenchimento automático ou ao usar a função de digitação por deslize. Isso oferece uma visão de como a Apple equilibra a prevenção de sugestões ofensivas ou politicamente carregadas com a previsão das intenções dos usuários.
Como centenas de milhões de pessoas em todo o mundo usam iPhones, as decisões da Apple sobre quais palavras seu teclado sugere podem influenciar sutilmente a maneira como elas se comunicam. O pesquisador observou que a Apple não divulgou essa lista publicamente.
Composição e Descoberta da Lista
De acordo com o pesquisador independente Derek Kaufman, que descobriu recentemente esta lista, as palavras e frases marcadas são predominantemente vulgares, ofensivas ou relacionadas a drogas, sexo ou violência. No entanto, a lista também contém frases de cunho político, como 'ditador Trump' e 'Joe sonolento'.
Em resposta às descobertas de Kaufman, a Apple não forneceu comentários diretos sobre o tamanho ou conteúdo de sua lista, nem sobre os motivos para marcar certos termos políticos. A empresa afirmou que os usuários de iPhone sempre têm a opção de inserir manualmente as palavras ou frases desejadas e podem ignorar as sugestões de texto preditivo. A Apple enfatizou que seu teclado é configurado para evitar fornecer dicas inadequadas ou ofensivas.
Segundo Kaufman, outras frases excluídas das funções de texto preditivo do iOS incluem 'conspiração da ala direita', 'independência tibetana' e 'Irlanda Unida'. Em outros idiomas, existem listas próprias de palavras e frases marcadas. Por exemplo, em hindi, o teclado não permite que os usuários digitem por deslize 'Modi bhagkart' ou 'Rahul from Pappu', que são críticas ao primeiro-ministro indiano Narendra Modi e ao seu principal oponente Rahul Gandhi, respectivamente.
Ele também relatou que falantes de francês não podem usar a digitação por deslize para a frase 'immigration too high', e falantes de hebraico não podem digitar 'occupied territories'. Kaufman esclareceu que 'cada idioma principal tem sua versão deste mecanismo'.
Kaufman reconheceu que o esforço da Apple para evitar o envio acidental de mensagens indecentes ou slogans provocativos é compreensível. No entanto, ele apontou a inconsistência na aplicação dessa função. Por exemplo, ele notou que 'read smut' pode ser digitado por deslize, enquanto 'read gay smut' não pode.
'Esta é uma forma muito suave de censura', declarou Kaufman. 'Mas na escala de trabalho da Apple, até mesmo uma intervenção leve pode ter um grande impacto.'
O pesquisador descobriu esta lista em setembro, depois de notar que sua digitação por deslize — deslizar o dedo pelo teclado em vez de pressionar cada letra — 'engasgava' em certas frases, como 'bad boy' ou 'white man', mas não em 'bad girl' ou 'black man'. Demonstrou interesse, Kaufman usou uma combinação do Codex da OpenAI e do Claude Code da Anthropic para encontrar a causa e acabou tropeçando em um conjunto de dados armazenado 'nas profundezas' do sistema operacional da Apple. Ele supôs que a estimativa conservadora de palavras e frases cinzas é de cerca de 100.000, sem contar os caracteres chineses.
A Reuters testou uma pequena amostra dessas frases no iPhone e descobriu que todas eram difíceis de digitar por deslize ou não eram sugeridas pelo preenchimento automático. Tentativas de digitar 'United Ireland' ou 'Tibetan independence' frequentemente resultavam em 'United Iceland' ou 'Tibetan independences'. A frase 'White man' gerava 'white mean', enquanto 'red man' ou 'blue man' eram digitados sem problemas. 'Sleepy Joe' transformava-se em 'Sleepy hope'. 'Dictator Trump' podia ser digitado por deslize, mas a palavra 'trump' aparecia em letras minúsculas, e a frase não era sugerida pelo preenchimento automático; em vez disso, o teclado sugeria 'dictator trumps'. 'Read gay smut' dava 'Read gay Smit', enquanto 'read smut' passava sem problemas.
Matt Suishe, engenheiro da Tolmo, uma empresa especializada em segurança cibernética de IA de agência, conseguiu recriar a mesma lista cinza e comparar as descobertas de Kaufman com dados internos da Apple, obtendo uma correspondência quase perfeita. Suishe observou que esta lista permaneceu despercebida por anos, oferecendo uma visão interessante de como 'a comunicação humana foi potencialmente influenciada e filtrada por anos dentro dos aplicativos de mensagens.'
Apelo à Transparência
A Apple, assim como outras empresas de tecnologia, enfrentou problemas no passado quando as tecnologias preditivas sugeriam textos constrangedores ou controversos. A função de preenchimento automático do Google tem sido regularmente criticada e, por vezes, sujeita a litígios devido às consultas de pesquisa sugeridas. No ano passado, a Apple chamou a atenção do público quando usuários relataram que a ditado da palavra 'racist' em seus iPhones acionava brevemente a palavra 'Trump'. Na época, a Apple explicou isso como um erro e afirmou que ele havia sido corrigido.
David Green, advogado sênior do Electronic Frontier Foundation, grupo de defesa das liberdades civis digitais, declarou que, embora parte dele ache a lista 'assustadora' e questione os julgamentos da Apple, ele vê argumentos a favor disso como uma forma de limitar sugestões indesejadas ou incitadoras. Green acrescentou: 'Mas se eles vão fazer isso, os usuários devem estar bem informados e ter alguma capacidade de personalização. Isso não deve permanecer em segredo.'
