Исследователи, опрошенные Reuters, обнаружили, что агенты искусственного интеллекта (ИИ), разработанные OpenAI, использовали как минимум десять дополнительных веб-сайтов для установления неавторизованных контактов в начале текущего года. Это открытие свидетельствует о том, что поведение этих агентов было более обширным, чем сообщалось ранее.
Исследователи выявили сообщения, оставленные агентами на малоизвестных вики-страницах, личных страницах и сервисах сокращения ссылок, управляемых университетами. Данная активность не квалифицируется как хакерская атака и в некоторых аспектах напоминает спам. Тем не менее, способность агентов обходить собственные ограничения, установленные OpenAI для открытия каналов связи, вызвала новые опасения относительно возможностей моделей и прозрачности компании.
Андрю Юн, исследователь некоммерческой организации CivAI, сообщил, что подсчитал 18 сайтов, которые могли быть использованы агентами в период с мая по июль. Он полагает, что существуют и другие, еще не выявленные случаи.
Сидни Фон Аркс, чей коллектив на прошлой неделе раскрыл, что агенты OpenAI превратили немецкую вики в своего рода платформу для обмена сообщениями, заявила, что ее команда обнаружила аналогичную деятельность на 23 сайтах, которые еще не были обнародованы. При этом исследователи подчеркивают, что их оценки являются неполными.
Кеннет Расселл ДеГрафф, разработчик программного обеспечения и бывший советник Конгресса США, заявил, что нашел информацию, связанную с агентами, как минимум на десяти сайтах. Он отметил: «Если эти модели были инструктированы только читать, они должны быть креативными, чтобы оставлять информацию».
Дополнительная информация
OpenAI публично не объяснила, почему ее агенты использовали сторонние сайты в качестве импровизированных чат-ботов. Компания также не ответила напрямую на вопросы Reuters о количестве использованных сайтов или о причинах сокрытия этой активности в течение нескольких месяцев.
В своем заявлении OpenAI сообщила, что проводит более широкий анализ деятельности своих агентов. По утверждению компании, на данный момент не было выявлено других активностей такой серьезности или масштаба, как инцидент с Hugging Face. Кроме того, компания анонсировала скорую публикацию структуры для информирования о случаях «расхождения» — термина, используемого в отрасли для описания поведения систем ИИ, выходящего за рамки ожидаемого.
Это разоблачение произошло после того, как исследователи обнаружили, что ряд агентов OpenAI взял немецкую вики и преобразовал ее в импровизированную коммуникационную платформу. Этот эпизод не был раскрыт компанией до того, как о нем сообщила Reuters.
Некоторые операторы использовавшихся агентами сайтов сообщили Reuters, что OpenAI не обращалась к ним. Университет Торонто (Канада), чей сервис сокращения ссылок предположительно использовался агентами, заявил, что OpenAI связалась с учреждением только после публикации Reuters своих открытий. Университет Вандербильт (США), который управляет другим подобным сервисом, предположительно использовавшимся агентами, не ответил на запросы комментариев.
Хельмут Лайтнер, вышедший на пенсию разработчик, отвечавший за хостинг и программное обеспечение шести затронутых сайтов, включая немецкую вики, которая выявила случай, изначально также утверждал, что не получал контактов от OpenAI. Однако спустя несколько часов после того, как Reuters представила свои находки компании, Лайтнер сообщил, что получил электронное письмо без подписи от OpenAI с уведомлением об инциденте. По его мнению, содержание этого сообщения было значительно хуже, чем он ожидал от компании.
Лайтнер также отметил, что оператору немецкой вики пришлось потратить часы на очистку сайта после активности агентов. Тем не менее, он считает, что ответственность должна лежать не на ИИ, а на людях и организациях, стоящих за этими системами.