OpenAI enfrenta críticas após ChatGPT disponibilizar 53 fotos pessoais publicamente
Leia mais
IOL
iol.co.za

OpenAI enfrenta críticas após ChatGPT disponibilizar 53 fotos pessoais publicamente

A OpenAI se viu em uma situação difícil depois que o ChatGPT publicou 53 fotos pessoais em sites de imagens públicos. A versão inicial das razões para esse erro sugeria alguma tentativa de ocultação de informações.

No entanto, quase um mês após o incidente, descobriu-se que a própria OpenAI não possui informações sobre a origem dessas fotos. Os agentes autônomos da OpenAI foram apontados como a causa desse sério deslize.

As imagens foram carregadas sem identificadores ou metadados de usuário vinculados, o que impede a OpenAI de rastrear seus proprietários originais. Essencialmente, os mecanismos de proteção de privacidade desenvolvidos pela própria OpenAI removeram a capacidade da empresa de realizar mais investigações.

Em outra área do desenvolvimento de IA de agentes, houve um avanço jurídico relacionado a fraude de streaming de música. Um músico utilizou tecnologias de inteligência artificial para roubar milhões de dólares de plataformas como Spotify, Apple Music e Amazon Music. Ele conseguiu isso implantando uma vasta rede de bots para transmitir faixas sintetizadas e obter royalties ilegais.

Michael Smith tornou-se a primeira pessoa nos Estados Unidos a ser condenada à prisão por fraude de streaming de música com IA. Seu esquema complexo envolvia a criação de centenas de milhares de músicas geradas por IA e o uso de uma enorme rede automatizada de bots para transmissão 24 horas por dia, transformando reproduções sintéticas diretamente em dinheiro.

Como os serviços de música pagam royalties por cada reprodução, a receita potencial do artista depende diretamente do número de streams: quanto maior o número de reproduções, maior o pagamento. No entanto, a decisão de Smith de usar seus bots foi bastante direcionada, ao contrário do erro da OpenAI, que é mais difícil de ser ligado a um fator humano, apesar dos apelos por responsabilidade.

Histórias semelhantes

Falha no sistema Smart Sampa expõe acesso a mais de 58 mil câmeras de vigilância em São Paulo
Leia mais
olhardigital.com.br

Falha no sistema Smart Sampa expõe acesso a mais de 58 mil câmeras de vigilância em São Paulo

Uma vulnerabilidade no Smart Sampa, o sistema de vigilância operado pela Prefeitura de São Paulo, possibilitou o acesso não autorizado a mais de 58 mil câmeras. Essa exposição ocorreu após dados confidenciais ficarem disponíveis na internet por aproximadamente onze meses, afetando locais críticos como hospitais, escolas e creches.

De acordo com o UOL, o material comprometido incluía credenciais de acesso e informações relativas a agentes de segurança. Embora a prefeitura tenha atribuído o vazamento a um servidor específico e negado qualquer falha nos protocolos de segurança do programa, o repositório público continha 181 pares de logins e senhas de usuários autorizados, dados de mais de seis mil agentes de segurança, além de instruções para replicar o sistema em dispositivos móveis e computadores.

Com essas informações obtidas, jornalistas conseguiram visualizar imagens de veículos e pessoas circulando pelas vias da capital paulista, bem como acessar câmeras instaladas em centros de atendimento a dependentes químicos, creches e hospitais. Além disso, foi possível acessar a plataforma da Sentinelx, fornecedora da tecnologia, sem a necessidade de passar pelo processo de autenticação de dois fatores.

Após ser notificada, a prefeitura implementou reforços de segurança. Uma investigação adicional revelou interfaces que, segundo um especialista em tecnologia entrevistado pelo UOL, poderiam permitir o envio de dados sem uma verificação adequada da identidade do remetente. Os riscos iam além das imagens, pois as credenciais também davam acesso a registros e informações pessoais contidas na base de dados.

Rafael Alcadipani, professor da Fundação Getulio Vargas (FGV) e especialista em segurança pública, alertou que o acesso às imagens poderia expor a movimentação de equipamentos de segurança e autoridades, afirmando que tal estrutura estatal poderia ser usada pelo crime contra o próprio Estado. Pedro Saliba, pesquisador da Data Privacy Brasil, também manifestou sua crítica, classificando o incidente como uma 'falha gravíssima em termos de privacidade e vigilância'.

Saliba enfatizou que os sistemas de monitoramento devem aderir aos princípios da Lei Geral de Proteção de Dados (LGPD), incluindo transparência, necessidade, finalidade e segurança no manuseio das informações. As questões sobre a proteção de dados se somam à falta de clareza sobre o uso de reconhecimento facial. A Prefeitura informou que não possui acesso ao código-fonte, aos modelos de inteligência artificial ou às bases usadas para treinar os algoritmos, e que não realiza auditorias independentes desses modelos.

Outro ponto de atenção levantado pelos registros de abordagens é o seguinte: entre novembro de 2024 e maio de 2026, 268 indivíduos foram levados a delegacias após alertas do reconhecimento facial, mas foram posteriormente liberados. Desses casos, 75 apresentaram inconsistências na identificação, 181 tinham mandados desatualizados e 12 tiveram problemas cadastrais.

Em comunicado oficial, a Prefeitura de São Paulo alegou que o vazamento foi causado ilegalmente por um servidor, que foi identificado, afastado e está sob investigação da Corregedoria da Guarda Civil Metropolitana. A administração refutou a ideia de fragilidades nos mecanismos de segurança e contestou a classificação do evento como uma falha na plataforma. A prefeitura também detalhou que reforçou a proteção com a implementação de senhas exclusivas, autenticação em duas etapas e validação via SMS para a criação de novas senhas, mencionando ainda a fiscalização do Tribunal de Contas do Município e a contratação de consultoria especializada em governança e privacidade.

O Smart Sampa emprega reconhecimento facial para localizar pessoas desaparecidas ou procuradas e para identificar veículos furtados ou roubados. No entanto, a exposição dos dados coloca em xeque tanto os controles de acesso quanto a salvaguarda das informações coletadas por esta extensa rede de vigilância urbana.

Popular