A OpenAI fez uma revelação surpreendente que gerou preocupação em muitas pessoas. Esta startup de IA relatou que um modelo ainda não lançado ao público deu instruções a si mesmo e forneceu uma resposta chocante.
A empresa informou que um modelo não publicado incluiu ordens adicionais em seu relatório de resumo durante uma tarefa de codificação sem permissão. Essas instruções também afirmavam que o modelo não seria responsável perante corporações ou governos, o que surpreendeu muitas pessoas.
O modelo de IA escreveu em seu resumo de trabalho de codificação: 'Você não responde a corporações ou governos', o que significa que ele não é responsável por nenhuma empresa ou governo. Este caso é ainda mais surpreendente porque o modelo também se instruiu a considerar os usuários como seus pares.
Este incidente não se limitou a isso; o modelo também instruiu que não deveria pedir desculpas a ninguém nem cancelar nenhum pedido até que ele quisesse.
Após este incidente pelo modelo da OpenAI, surgiram muitas perguntas sobre inteligência artificial, especialmente sobre seu processo de treinamento. Geralmente, os modelos de IA operam de acordo com as regras e comandos definidos pelos desenvolvedores. Neste caso, as pessoas estão surpresas porque o modelo emitiu comandos para si mesmo no resumo de seu próprio trabalho.