Sam Altman declarou que o mundo está correto em temer o avanço descontrolado da Inteligência Artificial, admitindo que acidentes podem ser inerentes ao desenvolvimento de novas tecnologias.
Durante a conferência Dreamforce, realizada pela Salesforce, o CEO da OpenAI defendeu a implementação de uma cultura de transparência. Essa cultura deve permitir o registro, a investigação e o aprendizado com quaisquer episódios negativos.
Para ilustrar seu ponto, Altman fez referência aos métodos de investigação de acidentes na aviação, visando identificar falhas e mitigar o surgimento de novos problemas. Ele mencionou a Administração Federal de Aviação dos Estados Unidos (FAA) e o Conselho Nacional de Segurança nos Transportes (NTSB) como referências aplicáveis à indústria de IA.
Segundo Altman, embora ele considere que um certo nível de acidentes é inevitável com inovações tecnológicas, o foco principal deve ser estabelecer uma excelente cultura de registro e aprendizado desses eventos. Reconhecer essa possibilidade não implica aceitar catástrofes, mas sim descobrir rapidamente o que falhou para evitar que um incidente se agrave.
Entre as práticas recomendadas, ele destacou a necessidade de manter segurança, monitoramento e alinhamento dos sistemas de IA, garantindo que permaneçam sob controle e em conformidade com os objetivos estabelecidos, mesmo diante do crescimento das capacidades dos modelos.
Em meio às crescentes discussões sobre sistemas de IA cada vez mais autônomos, pesquisadores de segurança alertaram para riscos como a potencial perda de controle humano e o uso dessas tecnologias para potencializar ameaças cibernéticas e biológicas. Altman validou esses receios extremos, afirmando: “O mundo tem razão em ter medo disso”, ao citar o risco de acidentes ligados à perda de controle e à centralização de poder em poucas equipes de desenvolvimento.
No entanto, Altman argumenta que abandonar a inteligência artificial não é a solução adequada. Caso as medidas de segurança não possam ser implementadas, ele sugeriu que as empresas devem estar prontas para diminuir ou suspender o desenvolvimento. Sua perspectiva contribui para o debate sobre o ritmo do progresso da IA e os perigos associados a modelos cada vez mais autônomos.
Para Altman, o caminho a seguir exige a divulgação de incidentes, uma análise minuciosa do ocorrido e o aprendizado contínuo com cada caso, prevenindo assim consequências mais graves decorrentes de falhas.