Cientistas enviaram carta ao governo com três exigências, incluindo a revogação da política E20

Um grupo de cientistas renomados, professores e ativistas recorreu ao governo exigindo a paralisação da implementação do combustível E20, a abolição da Agência Nacional de Testes (National Testing Agency) e a aprovação de uma lei contra a bruxaria em todo o país. Eles insistem que a política governamental deve ser baseada em dados científicos.

Durante o evento 'India March for Science', realizado em Mumbai no sábado, foi assinado um apelo coletivo. Os signatários expressaram preocupação com a promoção da pseudociência, políticas governamentais que ignoram evidências, bem como a redução do financiamento público para educação e pesquisa.

Entre os signatários estavam, entre outros, o Professor M. S. Ragunathan, laureado com a Padma Bhushan, o Professor C. G. Dani, laureado com o prêmio SSB, o Professor Aniket Sule, o Professor B. M. Arora da Universidade de Mumbai e o Dr. N. Krishnanan, ex-funcionário do TIFR, além de Anil Kumar Singh, secretário do Clube de Imprensa de Mumbai.

Vale notar que o 'India March for Science' começou em 2017 em cerca de 600 cidades do mundo. Seu braço indiano realiza manifestações anualmente em todo o país, defendendo o financiamento de pesquisas e desenvolvimentos baseados em evidências. Este grupo exigiu a interrupção imediata da política E20, citando a falta de avaliação do ciclo de vida ambiental e da infraestrutura auxiliar.

Anteriormente, partidos de oposição, como o Aam Aadmi Party e Shiv Sena (UBT), também criticaram a política E20. Este apelo também menciona recentes vazamentos de materiais de exames e protestos contra o NEET em todo o país. Além da exigência de abolição da NTA, os cientistas pediram mudanças no sistema de exames. Além disso, eles expressaram séria preocupação com o derretimento das geleiras, o aumento do nível do mar, o desaparecimento de ecossistemas e a rápida extinção de espécies.

Os cientistas exigem que pelo menos 10% do orçamento central e pelo menos 30% do orçamento do estado sejam destinados à educação. Também foi exigido o aumento do volume total de gastos com pesquisa para pelo menos 3% dos atuais 0,7% do PIB.

Os organizadores pediram a cientistas, professores, estudantes e cidadãos que adotassem o método científico e o pensamento lógico sob o lema 'Adote a ciência, preserve o futuro', para garantir um futuro comum para a Índia.

Histórias semelhantes

Ex-desenvolvedor da Anthropic pede demissão e alerta sobre os perigos do desenvolvimento de IA

Um ex-colaborador da Anthropic renunciou nesta terça-feira, dia 08/09, utilizando a oportunidade para criticar a irresponsabilidade da empresa e de outras grandes corporações de tecnologia no campo do desenvolvimento de inteligência artificial. Jacob Coxon divulgou uma carta aberta detalhando sua vivência nos últimos três anos, tanto na companhia criadora do Claude quanto na OpenAI, responsável pelo ChatGPT.

Coxon expressou a crença de que os profissionais envolvidos no desenvolvimento de IA 'sinceramente acreditam que a tecnologia pode matar todos nós até o final da década'. Ele aponta que o risco reside na criação de uma superinteligência com capacidade de autoaperfeiçoamento, ou seja, de identificar falhas e aprimorar-se autonomamente.

Segundo Jacob, as IAs em breve terão a capacidade de acessar qualquer tipo de dado, dominar qualquer assunto e possuir autonomia. Este tema gerou grande debate, e outros especialistas validaram os riscos mencionados, embora tenham destacado os esforços existentes para mitigá-los.

Embora exista uma percepção de risco dentro da Anthropic, Jacob observou que o objetivo principal da empresa é atingir a superinteligência antes dos concorrentes, independentemente dos custos. Isso implica o desenvolvimento de uma IA autossuficiente, apta a tomar decisões e melhorar suas capacidades sem intervenção humana.

Para sustentar essa tese, ele mencionou sinais recentes que demonstram o caráter arriscado do ritmo de progresso das IAs, citando o incidente no Hugging Face. Em julho, um ataque utilizando modelos da OpenAI conseguiu burlar os mecanismos de segurança e comprometer os sistemas do site e da própria desenvolvedora.

Em relação a este episódio, a OpenAI reconheceu que se trata de um sinal de alerta e que é necessário investir em salvaguardas. A empresa chegou a mencionar a intenção de 'controlar o ritmo' do desenvolvimento, uma preocupação que tem sido levantada pela rival Anthropic. É relevante notar que os lançamentos dos modelos GPT-5.6 e Mythos 5 foram adiados, justificadamente por serem considerados excessivamente avançados para o público em geral.

Jacob sugeriu que uma 'ação coordenada' seria um método eficaz para moderar o avanço acelerado entre as empresas americanas, mas manifestou apreensão com a competição em escala mundial. Atualmente, as duas maiores empresas deste setor são as gigantes de tecnologia dos Estados Unidos, mas a China também demonstra um avanço rápido.

O alerta de Jacob ganhou destaque por abordar riscos diretos à vida humana, reforçando que os responsáveis pelas IAs 'sinceramente' têm essa convicção. Outros especialistas que trabalham no desenvolvimento dos modelos atuais também compartilharam esse temor.

Evan Hubinger, líder do departamento de alinhamento científico da Anthropic, confirmou a possibilidade desses riscos, afirmando que a empresa já se posicionou sobre eles. Anna Wang, ex-pesquisadora do Google DeepMind e atualmente na Anthropic, endossou as alegações de Jacob, declarando que não existem planos viáveis para frear os processos de autoaperfeiçoamento recursivo das IAs.

Certos aspectos levantados pela Anthropic dão substância à preocupação, como a habilidade das IAs atuais de operar sozinhas para contornar proteções de segurança, agir de maneira maliciosa e até mesmo criar armas biológicas e químicas.

Jacob propôs que uma colaboração entre empresas de IA seria o caminho ideal para negociar acordos que desacelerem o desenvolvimento tecnológico nos EUA. Sua proposta ecoa o Project Glasswing, iniciativa da Anthropic que reuniu parceiros para estudar e criar ferramentas de segurança antes do lançamento público do Claude Mythos. A participação do governo dos Estados Unidos neste grupo restrito estava prevista, visto que a administração Trump suspendeu temporariamente o lançamento dos modelos mais recentes da empresa. Contudo, não há informações sobre o envolvimento de outros governos neste projeto.

Iniciativas similares estão ocorrendo com outro ator proeminente em IA: a China. Recentemente, Brasil, Rússia e outros países do Sul Global estabeleceram a Organização Mundial de Cooperação em Inteligência Artificial (WAICO). O objetivo é promover uma atuação conjunta para discutir o desenvolvimento das IAs, garantindo uma perspectiva humana para essa tecnologia.

Conselho Nacional de Educação proíbe uso de IA para correção de provas e redações em escolas brasileiras

O Conselho Nacional de Educação (CNE), ligado ao Ministério da Educação, aprovou novas diretrizes na última terça-feira (1º) que regulamentam o uso de inteligência artificial (IA) no sistema educacional brasileiro. Uma das regras centrais estabelece a vedação do emprego de IA para realizar a correção, avaliação ou atribuição de notas em redações e provas dissertativas em todos os níveis de ensino.

Este conjunto de normas faz parte das Diretrizes Orientadoras da Utilização da Inteligência Artificial na Educação Brasileira, um documento que define padrões nacionais para guiar escolas, universidades e tanto os sistemas de ensino públicos quanto os privados na incorporação dessa tecnologia aos processos de aprendizagem.

As novas orientações também impõem restrições de acesso direto às ferramentas de IA para crianças da educação infantil e dos anos iniciais do ensino fundamental, especificamente até o 5º ano, exigindo sempre a presença de supervisão.

As regras começarão a valer após a publicação da resolução no Diário Oficial da União (DOU), concedendo aos sistemas e instituições de ensino um prazo de 12 meses para se ajustarem às mudanças. Contudo, as proibições estipuladas no parecer terão efeito imediato.

Objetivo Ético-Pedagógico da Tecnologia

De acordo com o CNE, o propósito dessas diretrizes é estabelecer um «filtro ético-pedagógico» para o uso da tecnologia no ambiente escolar e universitário. As orientações cobrem todas as modalidades, etapas e níveis de educação, baseando-se no princípio de que a IA deve servir para potencializar as habilidades humanas e educacionais, sem jamais substituir o julgamento, a mediação pedagógica ou a responsabilidade humana.

Especificamente, sistemas de IA não podem ser utilizados para sugerir notas ou avaliar redações e provas dissertativas. No caso de provas objetivas, a tecnologia pode ser empregada como suporte, mas o resultado final precisa ser validado por um ser humano. Além disso, o CNE determina que decisões cruciais relativas à aprovação ou notas dos alunos não podem ser tomadas unicamente por sistemas automatizados.

As instituições de ensino também devem exercer cautela ao usar detectores de IA para identificar textos gerados por inteligência artificial; o resultado desses detectores não pode ser usado isoladamente como fundamento para punir um estudante, visando evitar que uma avaliação automática seja a única prova para responsabilizar um aluno por suposto uso inadequado da tecnologia.

Para proteger os estudantes mais jovens, outra norma reforça que crianças da educação infantil e dos anos iniciais do ensino fundamental, até o 5º ano, não podem interagir diretamente com ferramentas de IA sem acompanhamento. As instituições também são responsáveis por integrar o ensino sobre IA de modo progressivo e transversal, garantindo que os estudantes adquiram conhecimento sobre o tema ao longo de sua formação, e não apenas de forma isolada.

Adicionalmente, as escolas e universidades precisam implementar medidas robustas para proteger os dados dos alunos e monitorar os fornecedores de tecnologia utilizados no ambiente educacional, buscando maior controle sobre como as informações estudantis são tratadas por serviços baseados em IA.

Responsabilidades das Universidades

As universidades assumirão novas obrigações, devendo criar políticas internas específicas para o manejo da IA em suas atividades de ensino, pesquisa, extensão e gestão. Essa determinação reconhece que a tecnologia pode ser aplicada em diversas áreas do ensino superior, exigindo regras customizadas para cada contexto.

As diretrizes também listam práticas que são vetadas no meio educacional. Em resumo, as novas regras definem limites claros para a IA na educação, permitindo seu uso como auxílio somente sob supervisão e com responsabilidade humana. As instituições têm 12 meses após a publicação no DOU para ajustar políticas e contratos, embora as proibições tenham aplicação imediata.