O CEO da Microsoft, Satya Nadella, apresentou um novo conceito chamado 'Paradoxo Inverso da Informação'. Ele observou que na era da inteligência artificial, as pessoas são forçadas a pagar pela inteligência duas vezes: uma vez com dinheiro e outra com algo mais valioso — seus próprios conhecimentos confidenciais.
Segundo Satya Nadella, à medida que as empresas apressam a implementação da inteligência artificial (IA), elas correm o risco de entregar seus conhecimentos privados mais valiosos. Nadella declarou na rede social X no domingo que, para tornar a inteligência útil, os usuários devem divulgar seus dados confidenciais, pagando por isso não apenas com dinheiro.
Ele enfatizou que quanto maior o desempenho desejado do modelo, mais conhecimento ele precisa receber. Nadella fez referência ao 'Paradoxo da Informação' do economista laureado com o Prêmio Nobel Kenneth Arrow, que afirma que o comprador não sabe o valor real da informação antes de ela ser revelada, mas após a revelação, efetivamente a recebe gratuitamente.
Nadella explicou que a IA gerou um problema inverso: os compradores são obrigados a divulgar seus próprios conhecimentos confidenciais para que os sistemas de IA possam funcionar. Ele acrescentou que, à medida que as empresas utilizam modelos de IA, a assimetria de informação se torna cada vez mais acentuada. O vendedor sabe cada vez mais sobre o comprador através de consultas, interações e uso, enquanto o comprador sabe muito pouco sobre o que o vendedor está aprendendo em troca.
Nadella observou que no paradoxo de Arrow, as patentes resolvem um aspecto, permitindo que o inventor revele a ideia sem entregá-la completamente. No entanto, na opinião de Nadella, o 'Paradoxo Inverso da Informação' exige seu próprio equivalente.
O problema vai além da simples conformidade com a privacidade de dados. Como explicou Nadella, 'Os modelos aprendem com os resíduos: com as consultas que as pessoas escrevem, com as ferramentas que os agentes usam e, especialmente, com as correções que as pessoas fazem quando o modelo erra. Cada correção se transforma em experiência institucional. Este é um conhecimento que o concorrente nunca poderá comprar, e que vaza quase imperceptivelmente: rastro por rastro, correção por correção, avaliação por avaliação.'
Ele concluiu que 'ao consumir inteligência, você cria inteligência. E o que você cria deve ser seu.' Nadella também argumentou que, embora os desenvolvedores de IA devam ter o direito de treinar modelos com dados públicos, a prática atual que restringe os clientes na destilação de modelos, enquanto os provedores podem aprender com as interações com os clientes, cria um fluxo de aprendizado unilateral.
Se essa situação continuar, o valor econômico gerado pela IA será cada vez mais acumulado pelos proprietários da infraestrutura de IA, e não pelas empresas que criam o conhecimento fundamental. Portanto, na opinião de Nadella, as empresas precisam de um verdadeiro limite de confiança para seu capital humano e de tokens, onde os dados, rastros, avaliações, pesos adaptados e memória da organização são acumulados e melhorados.
Para combater o 'Paradoxo Inverso da Informação', Nadella propôs cinco princípios para empresas que implementam IA: manter o controle sobre seus dados e conhecimentos institucionais, criar ambientes de treinamento fechados, evitar a dependência de um único modelo de IA, otimizar custos por meio de infraestrutura de IA flexível e formar um ciclo contínuo de aprendizado que aumenta o valor dos investimentos em IA.
