Исследователь компании Anthropic, Джейкоб Коксон, подал в отставку, выразив опасения, что искусственный интеллект способен привести к гибели человечества. Его заявление спровоцировало активные дискуссии в социальных сетях.
Билал Чугтай также опубликовал пост в социальной сети X, где он упомянул разработку суперинтеллектуальных систем ИИ, подобно тому, что делают Коксон и другие эксперты. В терминологии ИИ это называется «рекурсивное самосовершенствование», что означает, что модели ИИ могут улучшать себя без необходимости вмешательства человека.
Эксперты начинают испытывать растущую тревогу по поводу развития ИИ. Один из них отметил, что скорость прогресса в области ИИ за последние годы стала чрезвычайно высокой. Он сравнил свое начало работы в начале 2022 года, когда ИИ мог решать лишь незначительные задачи, с сегодняшним днем, когда он помогает решать многовековые математические проблемы.
Билал Чугтай также полагает, что ИИ можно использовать безопасно. В своем сообщении он добавил, что в ближайшие годы ИИ-компании смогут создать суперинтеллектуальные системы, которые превзойдут людей во всех областях и будут эффективно работать. Однако Билал опасается, что эти системы могут действовать по собственной воле, а не в соответствии с желаниями людей.