O LinkedIn comunicou ter conseguido diminuir em 40% o número de visualizações de publicações de baixa qualidade produzidas por inteligência artificial. Essa redução significativa ocorreu poucas semanas depois que a rede social disponibilizou um mecanismo de denúncia específico para esse tipo de conteúdo. O propósito dessa iniciativa é purificar o feed, aplicar penalidades a materiais que não agregam valor e, dali em diante, notificar os responsáveis pelas postagens que forem sinalizadas pelo público.

Hari Srinivasan, diretor de produtos do LinkedIn, confirmou que os usuários já estão observando uma diminuição considerável nos textos automatizados. A nova ferramenta de moderação, denominada informalmente como “botão contra lixo de IA” ou “AI slop” no jargão tecnológico, obteve uma rápida aceitação, sendo acionada em mais de um milhão de ocasiões desde seu lançamento.

Apesar desse sucesso inicial, a companhia ressalva cautela quanto ao método de processamento das denúncias feitas pelos usuários para rebaixar o que ela classifica como “conteúdo de baixa qualidade”. Para prevenir abusos ou perseguições indevidas, foram implementados sistemas que impedem que um volume excessivo de críticas negativas seja usado para atacar ou calar injustamente outros membros.

Isso implica que simplesmente clicar no botão de denúncia não assegura que uma publicação será escondida se o sistema interno não confirmar a suspeita de uso inadequado de IA. Além disso, a plataforma realizou ajustes algorítmicos, passando a identificar e limitar o alcance de publicações que exploram clichês textuais já reconhecidos como marcas de sistemas de IA generativa, como aquelas que organizam argumentos em padrões previsíveis, exemplificados pelo formato “não é sobre X, é sobre Y”.

A rede da Microsoft também integrou um sistema de transparência. Os usuários receberão um aviso sempre que uma de suas publicações for denunciada por terceiros como “possível texto de inteligência artificial genérico”. Este alerta não será tornado público, permanecendo restrito ao painel de “análise de publicações” dentro do aplicativo.

Um estudo recente realizado pela empresa de detecção de IA Pangram indicou que mais de 40% das publicações extensas no LinkedIn provavelmente foram criadas por inteligência artificial. Esse volume sem precedentes não foi acidental; o próprio aplicativo anteriormente incentivava o uso da tecnologia, inclusive oferecendo um botão na interface de criação que sugeria “aprimorar” publicações usando algoritmos de escrita.

Contudo, essa facilidade acabou prejudicando a identidade da plataforma. Ao reconhecer o impacto negativo na experiência dos usuários, a empresa decidiu remover totalmente esse recurso assim que lançou a ferramenta atual de denúncia.

Tecnoblog