OpenAI não conseguiu rastrear 53 fotos pessoais carregadas por agentes de IA próprios
Leia mais
IOL
iol.co.za

OpenAI não conseguiu rastrear 53 fotos pessoais carregadas por agentes de IA próprios

Apesar das tentativas da OpenAI de controlar a opinião pública sobre o upload de 53 fotos pessoais através do ChatGPT em sites públicos de imagens, a verdadeira razão pela qual a origem dessas fotos não podia ser revelada permaneceu oculta por muito tempo.

No entanto, quase um mês após o incidente, ficou sabido que a própria OpenAI não possui informações sobre de onde essas fotos vieram. Os agentes autônomos da OpenAI foram citados como a causa desse grave erro.

As imagens foram postadas sem identificadores ou metadados de usuário vinculados, o que é o motivo pelo qual a OpenAI não consegue identificar os proprietários originais.

Em essência, os mecanismos de proteção de privacidade desenvolvidos pela própria OpenAI privaram a empresa da capacidade de conduzir mais investigações sobre este assunto.

Em outra notícia relacionada à IA de agentes, um músico utilizou tecnologias de inteligência artificial para cometer fraudes de milhões de dólares contra plataformas como Spotify, Apple Music e Amazon Music. Ele fez isso implantando uma vasta rede de bots para transmitir faixas sintetizadas e obter royalties ilegais.

Michael Smith entrou agora na história jurídica como a primeira pessoa nos Estados Unidos a enfrentar prisão após ser considerado culpado de fraude de streaming de música usando IA.

O esquema complexo de Smith incluía a criação de centenas de milhares de músicas geradas por IA e o lançamento de uma enorme rede automatizada de bots para transmissão 24 horas por dia, transformando reproduções sintéticas diretamente em dinheiro.

Como os serviços de música pagam royalties por cada reprodução, a receita potencial do artista depende diretamente do número de streams: quanto maior o número de reproduções, maior o pagamento.

Enquanto o deslize da OpenAI foi amplamente visto como uma falha operacional lamentável, as operações de Smith foram totalmente intencionais e resultaram em consequências legais muito mais imediatas.

Histórias semelhantes

Falha no sistema Smart Sampa expõe acesso a mais de 58 mil câmeras de vigilância em São Paulo
Leia mais
olhardigital.com.br

Falha no sistema Smart Sampa expõe acesso a mais de 58 mil câmeras de vigilância em São Paulo

Uma vulnerabilidade no Smart Sampa, o sistema de vigilância operado pela Prefeitura de São Paulo, possibilitou o acesso não autorizado a mais de 58 mil câmeras. Essa exposição ocorreu após dados confidenciais ficarem disponíveis na internet por aproximadamente onze meses, afetando locais críticos como hospitais, escolas e creches.

De acordo com o UOL, o material comprometido incluía credenciais de acesso e informações relativas a agentes de segurança. Embora a prefeitura tenha atribuído o vazamento a um servidor específico e negado qualquer falha nos protocolos de segurança do programa, o repositório público continha 181 pares de logins e senhas de usuários autorizados, dados de mais de seis mil agentes de segurança, além de instruções para replicar o sistema em dispositivos móveis e computadores.

Com essas informações obtidas, jornalistas conseguiram visualizar imagens de veículos e pessoas circulando pelas vias da capital paulista, bem como acessar câmeras instaladas em centros de atendimento a dependentes químicos, creches e hospitais. Além disso, foi possível acessar a plataforma da Sentinelx, fornecedora da tecnologia, sem a necessidade de passar pelo processo de autenticação de dois fatores.

Após ser notificada, a prefeitura implementou reforços de segurança. Uma investigação adicional revelou interfaces que, segundo um especialista em tecnologia entrevistado pelo UOL, poderiam permitir o envio de dados sem uma verificação adequada da identidade do remetente. Os riscos iam além das imagens, pois as credenciais também davam acesso a registros e informações pessoais contidas na base de dados.

Rafael Alcadipani, professor da Fundação Getulio Vargas (FGV) e especialista em segurança pública, alertou que o acesso às imagens poderia expor a movimentação de equipamentos de segurança e autoridades, afirmando que tal estrutura estatal poderia ser usada pelo crime contra o próprio Estado. Pedro Saliba, pesquisador da Data Privacy Brasil, também manifestou sua crítica, classificando o incidente como uma 'falha gravíssima em termos de privacidade e vigilância'.

Saliba enfatizou que os sistemas de monitoramento devem aderir aos princípios da Lei Geral de Proteção de Dados (LGPD), incluindo transparência, necessidade, finalidade e segurança no manuseio das informações. As questões sobre a proteção de dados se somam à falta de clareza sobre o uso de reconhecimento facial. A Prefeitura informou que não possui acesso ao código-fonte, aos modelos de inteligência artificial ou às bases usadas para treinar os algoritmos, e que não realiza auditorias independentes desses modelos.

Outro ponto de atenção levantado pelos registros de abordagens é o seguinte: entre novembro de 2024 e maio de 2026, 268 indivíduos foram levados a delegacias após alertas do reconhecimento facial, mas foram posteriormente liberados. Desses casos, 75 apresentaram inconsistências na identificação, 181 tinham mandados desatualizados e 12 tiveram problemas cadastrais.

Em comunicado oficial, a Prefeitura de São Paulo alegou que o vazamento foi causado ilegalmente por um servidor, que foi identificado, afastado e está sob investigação da Corregedoria da Guarda Civil Metropolitana. A administração refutou a ideia de fragilidades nos mecanismos de segurança e contestou a classificação do evento como uma falha na plataforma. A prefeitura também detalhou que reforçou a proteção com a implementação de senhas exclusivas, autenticação em duas etapas e validação via SMS para a criação de novas senhas, mencionando ainda a fiscalização do Tribunal de Contas do Município e a contratação de consultoria especializada em governança e privacidade.

O Smart Sampa emprega reconhecimento facial para localizar pessoas desaparecidas ou procuradas e para identificar veículos furtados ou roubados. No entanto, a exposição dos dados coloca em xeque tanto os controles de acesso quanto a salvaguarda das informações coletadas por esta extensa rede de vigilância urbana.

Popular