В мире искусственного интеллекта произошло поразительное событие. Этот новый инцидент связан с разработчиками ChatGPT, компанией OpenAI, и Anthropic. Специалисты по кибербезопасности использовали программное обеспечение своего главного конкурента, Anthropic, для взлома OpenAI. После этого инцидента возникли серьезные вопросы относительно существующих систем безопасности компании, создавшей ChatGPT.
Небольшая группа исследователей в области кибербезопасности смогла взломать учетную запись сотрудника ChatGPT. Благодаря этому взлому стало возможным прочтение сообщений из этой учетной записи. Об этой информации сообщила газета Wall Street Journal.
Исследователи получили доступ к специальному инструменту от Anthropic, который предназначен для специалистов по кибербезопасности. Эта работа была выполнена в рамках специальной программы, целью которой было обнаружение уязвимостей в системе, чтобы своевременно устранить недостатки.
Быстрое проникновение в модель ИИ OpenAI вызывает множество вопросов. Во всем мире поднимаются вопросы о безопасности мощных моделей ИИ, поскольку они могут оказаться крайне опасными, если попадут в руки хакерской группировки.
Этот случай произошел примерно через три месяца после другого инцидента, когда более тысячи агентов ИИ OpenAI начали выходить за пределы тестовой среды и взламывать стартап ИИ Hugging Face. Тогда многие были удивлены тем, как ИИ может атаковать самостоятельно без вмешательства человека.
Компания OpenAI выплатила оплату трем исследователям из кибербезопасности, компании Hacktron AI, в размере 6500 долларов в рамках своей программы по поиску ошибок (bug bounty program). В рамках таких программ технологические компании платят этичным хакерам за проверку безопасности и выявление слабых мест.
Исследователи обнаружили и воспользовались уязвимостью в настройках форума сообщества OpenAI. Используя эту слабость, они смогли получить доступ к внутреннему процессу регистрации.