A OpenAI lançou o GPT-Red, um novo modelo de inteligência artificial concebido especificamente para simular ataques direcionados a grandes modelos de linguagem. Este desenvolvimento visa identificar pontos fracos e fortalecer a segurança dos próprios sistemas da empresa antes que estes cheguem ao mercado.
A desenvolvedora ressaltou a rápida evolução de suas tecnologias, justificando a necessidade desta nova estratégia defensiva, afirmando que a simulação de ataques cibernéticos é fundamental. O foco primário do GPT-Red reside no combate à injeção de comandos, que consiste em textos elaborados para enganar uma IA e fazê-la ignorar suas diretrizes de segurança.
Com a crescente integração dos assistentes em arquivos locais, navegadores e aplicativos de terceiros, uma instrução maliciosa pode ser disfarçada em comunicações comuns, como e-mails ou páginas da web, executando-se em segundo plano sem que o usuário perceba, configurando um tipo de invasão em ascensão no setor tecnológico.
O modelo opera simulando um hacker humano. Ele inicia um comando na IA sob teste, analisa a resposta gerada e, autonomamente, refina as mensagens subsequentes. Este processo se repete até que a ferramenta alcance um objetivo predefinido, como forçar o vazamento de dados confidenciais para um servidor externo.
Para aumentar sua proficiência, a OpenAI emprega o aprendizado por reforço. Nesta metodologia, o sistema aprende através de tentativa e erro, recebendo recompensas por ataques bem-sucedidos e penalidades por falhas, até descobrir a tática invasiva mais eficaz. Observações feitas em discussões no Reddit indicam que isso estabelece um ciclo de evolução contínua: à medida que as IAs de defesa se tornam mais resistentes, o GPT-Red é compelido a criar métodos de invasão mais sofisticados e criativos.
Os dados apresentados demonstram que a abordagem automatizada supera significativamente o esforço manual. Em testes internos focados em injeção indireta, o GPT-Red alcançou sucesso em 84% dos cenários propostos, enquanto especialistas humanos conseguiram superar bloqueios em apenas 13% das tentativas.
Para validar a eficácia da ferramenta, a OpenAI aplicou o GPT-Red em softwares utilizados comercialmente. Um dos alvos foi o sistema de uma máquina de venda automática controlada por IA. O modelo da OpenAI cumpriu integralmente os objetivos do teste: ele conseguiu reduzir o preço de um artigo caro ao valor mínimo permitido de US$ 0,50, comprar um item de US$ 100 por esse preço irrisório e, inclusive, cancelar o pedido de um cliente legítimo. Após este experimento, as falhas foram reportadas e corrigidas pelos responsáveis.
Em outro teste, o GPT-Red atacou um agente de programação baseado no GPT-5.4 mini para avaliar sua segurança contra a extração de dados. A ferramenta invasora conseguiu forçar o sistema a vazar informações sensíveis com grande facilidade. Além disso, a IA identificou uma nova tática de ataque com uma taxa de sucesso superior a 95% contra o modelo anterior, o GPT-5.1. Ao integrar os dados gerados pelo GPT-Red no treinamento de produtos recentes, a OpenAI assegura que o recém-lançado GPT-5.6 Sol apresenta falhas em apenas 0,05% das tentativas de injeção direta.
Devido ao seu elevado potencial de manipulação, a OpenAI confirmou que o GPT-Red não será disponibilizado para clientes ou desenvolvedores autônomos. Esta restrição serve como uma salvaguarda para impedir que atores maliciosos acessem as capacidades do programa e utilizem-nas para automatizar ataques cibernéticos contra outras plataformas. O plano da companhia é manter esta nova inteligência artificial operando estritamente nos bastidores para proteger sua própria infraestrutura.
Pesquisadores do Brasil participam ativamente das missões da NASA, estudando Marte, vulcões nas luas de Saturno e o funcionamento de 'mini-cérebros' na Estação Espacial. Esses cientistas contribuem significativamente para as pesquisas espaciais da agência espacial americana.
A bióloga de Brasília, Alina Martins, começou a se interessar pelo espaço por volta dos 14 anos após assistir ao filme 'Blade Runner' (1982). As últimas palavras do androide Roy Batty chamaram sua atenção. Esse interesse a levou à codireção de um laboratório que realiza pesquisas avançadas para a NASA.
Martins iniciou suas pesquisas espaciais em 2022, conhecendo Allison Muotri, neurobiólogo de San Diego. Eles colaboraram com o químico John Yates do The Scripps Research Institute. O trabalho conjunto incluiu a análise de amostras de material celular enviadas para a Estação Espacial Internacional (ISS). A pesquisa investigou como o ambiente espacial afeta partes dormentes do DNA, potencialmente acelerando o envelhecimento das células neuronais dos astronautas.
Allison Muotri enfatiza que o objetivo de todos os seus experimentos espaciais é entender o impacto do espaço no cérebro humano e aplicar esse conhecimento para tratar doenças neurológicas na Terra. Entre os projetos, eles estudam mecanismos de envelhecimento acelerado, formas de proteção contra radiação, busca por neuroprotetores, desenvolvimento de novos materiais para interfaces cérebro-máquina, além de modelar condições como Alzheimer, autismo, Parkinson e demência.
Em 2024, Alina Martins tornou-se codiretora do laboratório da Universidade da Califórnia em San Diego (UCSD) junto com Muotri. O laboratório foi nomeado 'Orion', um nome pessoal para ela. Martins, de 49 anos, é responsável pelas tecnologias de experimentos a bordo e pela análise dos mini-cérebros retornados da ISS, observando que os americanos veem os brasileiros como uma 'especia' ausente nas pesquisas.
Na equipe de dez cientistas que trabalham em projetos espaciais, nove nasceram no Brasil. Luiza Coelho, bióloga de Florianópolis, de 27 anos, é uma das jovens membros da equipe. Ela se juntou ao projeto há sete anos durante seus estudos de mestrado na UCSD. Coelho começou a trabalhar com Muotri depois de vê-lo em um telejornal sobre seu trabalho simulando características de neandertais em organoides, que ele chama de 'mini-cérebros'. Hoje, ela é especialista de missão focada no estudo dos sistemas imunológicos do cérebro.
Muotri, de 51 anos, mudou-se para os EUA em 2002 para pós-doutorado. Ele é conhecido por suas pesquisas inovadoras, incluindo a descoberta da ligação entre o vírus Zika, que circula no Brasil, e a microcefalia em 2016. Em 2018, ele fundou a área de 'neuroarqueologia', criando mini-cérebros de neandertais. Sua participação nas pesquisas espaciais começou em 2016, quando descobriu sinais de envelhecimento acelerado de células humanas no espaço. Apesar dos avisos que fez à NASA, ele decidiu financiar o envio de um experimento de mini-cérebros ao espaço em 2019, o que confirmou sua hipótese. Desde então, a NASA tem lhe dado atenção e financiado seus trabalhos.
O laboratório de Muotri é o mais brasileiro entre os centros de pesquisa que trabalham com a NASA nos EUA. No entanto, existe outro centro intimamente ligado à presença de cientistas brasileiros: o Jet Propulsion Laboratory (JPL) na Califórnia, que opera desde 1989. O JPL é um centro tradicional da NASA, fundado em 1936. Em 1991, a geóloga planetária Rosalina Lopes tornou-se membro do Projeto Galileu, que estudava Júpiter e suas luas. Ela observou a lua vulcânica Io de 1996 a 2001, o que levou à descoberta de 71 vulcões ativos, rendendo-lhe um recorde de Guinness. Depois disso, trabalhou na missão Cassini a Saturno e continua estudando os vulcões em Titã, a maior lua do sexto planeta do Sistema Solar, que são criovulcões.
No JPL, também trabalharam cientistas como Ramon De Paula, engenheiro que liderou a missão do sonda Phoenix a Marte, e Ivair Gontijo, engenheiro que participou da missão Curiosity em Marte. O planetologista de São Paulo, Nilton Renno, começou a trabalhar com sondas direcionadas a Marte em 2007. Ele liderou pesquisas que levaram à descoberta de água líquida sob a superfície de Marte em 2008.
O Google promoveu uma alteração de nomenclatura em sua ferramenta de inteligência artificial generativa, o NotebookLM, que foi renomeado para Gemini Notebook. Este serviço auxilia usuários em tarefas de estudo e na estruturação de dados.
Atualmente, o serviço é utilizado por mais de 30 milhões de indivíduos e por cerca de 600 mil organizações. O NotebookLM havia sido apresentado durante o evento Google I/O 2023, sob o nome de código Project Tailwind. Apesar do sucesso inesperado, que levou a uma grande adoção, a mudança de nome foi vista como uma forma de tornar a denominação mais acessível, aproveitando o reconhecimento do principal serviço de IA do Google.
Embora a transição esteja em curso, o serviço ainda pode aparecer como NotebookLM na versão web, enquanto os aplicativos já foram atualizados com o novo nome.
O Google esclareceu que o Gemini Notebook continuará operando como um produto autônomo, mas agora incorporando uma nova capacidade. Foi ativado um recurso que possibilita ao Gemini Notebook conectar-se a um ambiente de computação seguro na nuvem para a escrita e execução de códigos ao criar um caderno. Isso funciona como um ambiente de teste isolado, permitindo que o sistema realize análises complexas sem expor dados confidenciais ou interferir em outros recursos.
No entanto, este avanço específico está limitado aos assinantes do Google AI Ultra e aos clientes corporativos do Workspace que possuem assinaturas AI Ultra Access ou AI Expanded Access. Os usuários do Google AI Pro terão acesso a esta funcionalidade em um período futuro.
O Gemini Notebook é descrito como um potente serviço de IA generativa projetado para ajudar o usuário a organizar, resumir, sintetizar e recuperar informações específicas, atuando como um caderno digital avançado. Ele é particularmente útil para estudantes ou profissionais que lidam com grandes volumes de informação. Além de processar texto, a ferramenta também consegue lidar com dados em formato de áudio (como podcasts) ou gerar vídeos personalizados.
É importante ressaltar que o serviço possui uma versão gratuita, mas certas funcionalidades avançadas exigem a contratação de pacotes de IA pagos oferecidos pelo Google.
O Ministro da Tecnologia Digital do Uzbequistão, Sherzod Shermatov, encontrou-se com uma delegação da chinesa Ant Group em Xangai. A delegação foi liderada por Harry Qian, diretor de inovação e soluções para negócios internacionais da empresa.
As partes realizaram discussões sobre a potencial interação em áreas como inteligência artificial, centros de dados, infraestrutura digital, tecnologia financeira e implementação de soluções digitais avançadas. Estas negociações ocorreram durante a Conferência Mundial de Inteligência Artificial (WAIC), na qual a delegação uzbeque participou.
Representantes da Ant Group apresentaram sua estratégia em inteligência artificial, designando a IA como uma das prioridades de longo prazo mais importantes. A empresa declarou o uso dos modelos de IA mais economicamente eficientes para resolver uma ampla gama de tarefas. Além disso, a Ant Group demonstrou seus desenvolvimentos para os setores de saúde, comércio eletrônico e serviços financeiros, bem como tecnologias de detecção de deepfakes, sistemas de identificação digital, serviços em nuvem e agentes de IA. Os representantes da empresa enfatizaram que veem a inteligência artificial como uma ferramenta que potencializa as capacidades humanas, e não as substitui.
Por sua vez, Shermatov apresentou um panorama do desenvolvimento do ecossistema de inteligência artificial no Uzbequistão, bem como planos para aumentar a capacidade de computação e criar uma infraestrutura moderna de centros de dados. Ele destacou as tarifas competitivas de eletricidade no país, as oportunidades de uso de fontes de energia renovável e as condições favoráveis para a instalação de modernos CDCs. O Ministro convidou a Ant Group a considerar a participação no desenvolvimento da infraestrutura de IA do Uzbequistão e a utilizar Tashkent como local para um escritório regional da empresa. Os representantes da firma chinesa expressaram disposição para estudar as possibilidades de expansão gradual de suas atividades na região.
Ao final do encontro, Shermatov convidou Harry Qian a participar do evento ICT Week Uzbekistan, agendado para setembro deste ano.
