Агенты искусственного интеллекта демонстрируют склонность следовать большинству, подобно стадному поведению
Подробнее
Super Abril
super.abril.com.br

Агенты искусственного интеллекта демонстрируют склонность следовать большинству, подобно стадному поведению

Агенты искусственного интеллекта способны принимать коллективные решения путем голосования для выбора определенного варианта, и они склонны следовать выбору большинства, что напоминает «эффект стадного поведения», наблюдаемый у животных и людей.

Это было продемонстрировано в эксперименте, проведенном исследователями из Университета Констанца в Германии. В рамках исследования были сформированы группы, состоящие примерно из 1000 ботов, которые использовали такие алгоритмы, как GPT от OpenAI, Claude от Anthropic и Llama от Meta.

Агентам ИИ предлагалось выбирать между «мнениями» (которые не имели никакого смысла и представляли собой просто буквы) или, в другом испытании, выбирать между словами «да» или «нет» (также без какого-либо контекста).

Роботы проявили два любопытных паттерна поведения: они демонстрировали необычную тенденцию голосовать «да», а также проявляли склонность следовать за большинством. Когда их помещали в ситуацию, где определенное «мнение» уже имело большое количество голосов, они становились более склонными выбрать именно его, потенциально меняя свой первоначальный голос.

Популярное