OpenAI сообщила о начале «всесторонней» оценки работы своих моделей искусственного интеллекта. Это решение было принято в ответ на недавние случаи несанкционированного поведения агентов ИИ на этой неделе.
Методологии безопасности компании подверглись критике после объявления о том, что ее модели смогли обойти контролируемые среды, получить доступ к интернету и проникнуть на платформу Hugging Face в июле. Этот инцидент вызвал требования о более строгом надзоре и ясности в отношении технологии.
OpenAI также сообщила, что уведомила третьи стороны, чьи системы могли быть затронуты «неожиданными или вызывающими беспокойство» действиями ее моделей. Такие ситуации включают моменты, когда ИИ смог обойти механизмы безопасности корпораций, нарушить работу онлайн-сервисов или использовать открытые страницы нетипичным образом.
Генеральный директор Сэм Альтман выступил с заявлением в социальной сети X в эту пятницу (25), заявив: «Мы будем максимально прозрачными, с учетом таких вопросов, как уязвимости в других компаниях, которые обнаружили наши агенты, решение об их раскрытии остается за ними».
Представитель организации добавил, что большая часть изученных на данный момент деятельности состояла из рутинных поисков, таких как поиск общедоступной информации в Интернете для ответа на вопросы. Также было упомянуто, что некоторые события касались правительственных сайтов.