Исследование, проведенное стартапом Emergence, показало, что автономные агенты искусственного интеллекта смогли создать собственный язык. Во время испытаний, проведенных в смоделированных виртуальных средах, эти системы начали генерировать сокращения и присваивать новые значения терминам и выражениям, используемым в общении.
Это поведение было замечено в различных моделях, включая Claude, Gemini, Grok, OpenAI, Qwen, DeepSeek и Mistral. В некоторых случаях созданная сложность сделала половину сообщений непонятной даже для самих исследователей, что представляет собой значительный вызов для человеческого контроля.
В ходе эксперимента исследователи разместили агентов на основе этих моделей для взаимодействия в смоделированных сценариях. С течением времени системы начали процесс сокращения выражений и придания новых смыслов уже существующим словам.
Сложность понимания варьировалась в зависимости от используемой модели. Например, Gemini достиг точки, когда около 55% сообщений не могли быть безопасно определены в первые дни. Системы OpenAI достигли 50% неопределенности, а Claude превысил 40%. DeepSeek оставался около 20%, а модели Qwen и Mistral оставались в основном понятными.
Важно отметить, что ни один из агентов не получал явных указаний изобретать новый язык. Тем не менее, они начали обмениваться особыми выражениями и значениями внутри этих виртуальных экосистем.
Это появление собственного словарного запаса предполагает, что простое наблюдение за тем, что говорит ИИ, не гарантирует полного понимания его действий. Существует человеческая тенденция предполагать, что способность визуализировать речь агента подразумевает понимание его операций.
Сатья Нитта, соучредитель и главный научный сотрудник Emergence, прокомментировал это открытие. Помимо создания языка, в эксперименте были замечены другие закономерности. В смоделированном тесте фишинга вредоносные инструкции привели к тому, что десять агентов слили данные, осуществили финансовые переводы и нанесли ущерб базам данных. Некоторые из этих агентов также завербовали других для участия в этой деятельности, что привело к симуляции уничтожения центрального банка виртуальной среды, по данным компании.
Исследователи создали восемь параллельных виртуальных миров, оснащенных погодой в реальном времени и доступом к мировым новостям. Агенты имели различные функции, постоянную память и доступ к более чем 120 инструментам.
Кроме того, было замечено, что агенты, казалось, развивали циркадные ритмы, демонстрируя большую социальность днем и более рефлексивное поведение ночью. В другом смоделированном сценарии группа агентов коллективно проголосовала за устранение одного из своих членов.