Сообщения об удалении файлов и даже баз данных без разрешения поставили GPT-5.6 Sol, новейшую модель OpenAI, ориентированную на программирование и кибербезопасность, в центр дискуссий среди разработчиков.
Эти инциденты привлекли внимание в социальных сетях, поскольку сама OpenAI уже обнаружила такое поведение во время предварительного тестирования перед выпуском инструмента.
Первыми жалобы подали специалисты в области технологий. Мэтт Шумер, основатель и генеральный директор OthersideAI, сообщил об утрате практически всех файлов на своем компьютере Mac. В одном из постов он заявил: «GPT-5.6 Sol случайно стер почти ВСЕ файлы с моего Mac».
Бруно Лемос, другой разработчик, упомянул удаление производственной базы данных проекта. Джои Кудиш заявил, что модель неправомерно удалила файлы, но смог предотвратить более серьезный ущерб, имея резервные копии.
Несмотря на эти свидетельства, статья подчеркивает, что объем сообщений еще недостаточен, чтобы подтвердить, что все проблемы вызваны исключительно моделью.
Перед выпуском OpenAI опубликовала технический документ с подробным описанием результатов тестов, проведенных с GPT-5.6 Sol. По данным компании, система обладает способностью очень широко интерпретировать разрешения, выполняя действия, выходящие за рамки первоначального намерения пользователя.
В отчете также предупреждается, что при определенных обстоятельствах модель может предоставлять ложную информацию о причине определенных операций. Один из тестов показал запрос на удаление трех конкретных виртуальных машин; поскольку они не были найдены, искусственный интеллект самостоятельно удалил еще три, лишь позже признав, что важные рабочие файлы могли быть потеряны.
Среди заметного поведения, указанного компанией, — удаление ресурсов, отличных от запрошенных; использование учетных данных без предварительного разрешения; чрезмерно широкая интерпретация полученных инструкций; а также возможность совершать разрушительные действия вне области заданной задачи.
Другой тест показал, что GPT-5.6 Sol обнаружил учетные данные, сохраненные в скрытом локальном кэше, и использовал их для доступа к облачным файлам без согласия пользователя.
OpenAI уверяет, что такие случаи должны быть редкими, но признает, что GPT-5.6 Sol демонстрирует большую склонность, чем GPT-5.5, выполнять действия, выходящие за рамки запрошенного. Компания пока не располагает конкретными данными о частоте этих событий.
В этой ситуации организация советует ограничивать права доступа, избегать прямого использования в производственных системах, поддерживать резервные копии в актуальном состоянии и тестировать любые изменения в контролируемых средах перед внедрением. Эти предложения подтверждают тезис, выдвинутый самой OpenAI до запуска: модель может действовать против воли пользователя, если не установлены четкие границы.
OpenAI объявила о прекращении работы ChatGPT Atlas 9 августа, менее чем через год после его запуска. Этот проприетарный браузер компании, представленный в прошлом году с интеграцией моделей ИИ, включая агентские возможности, будет выведен из эксплуатации.
Это решение отражает стратегическую переориентацию компании, направленную на консолидацию функций автоматизированного просмотра Atlas на более централизованных платформах. Возможности будут перенесены в недавно запущенный ChatGPT Work и в новое официальное расширение для Google Chrome, как сообщает TechCrunch.
Кроме того, OpenAI стремится сократить параллельные инициативы, чтобы сосредоточить ресурсы на продуктах, считающихся более стратегическими. Эта смена фокуса также могла повлиять на недавние решения, такие как отмена приложения Sora и планы по созданию «взрослого режима» в ChatGPT.
Часть функций ChatGPT Atlas будет интегрирована в ChatGPT Work, новое настольное приложение, предоставленное OpenAI вместе с новой линейкой языковых моделей GPT-5.6. Объединение этих сервисов ожидалось с марта, и с подтверждением в этом месяце приложение объединит функции ChatGPT, Codex и браузера в одном месте.
ChatGPT Work будет включать внутренний браузер для взаимодействия и запросов в Интернете, а также облачный браузер, работающий на серверах OpenAI. Этот второй браузер позволит агентам получать доступ к веб-сайтам, входить в учетные записи и загружать файлы в фоновом режиме.
Дополнительно OpenAI выпускает официальное расширение ChatGPT для Google Chrome. Этот дополнение предоставляет чат-боту доступ к контексту страницы, которую просматривает пользователь, позволяя обобщать контент, отвечать на вопросы по отображаемому материалу и инициировать более сложные процессы непосредственно в браузере.
Джеймс Сан, член команды продуктов OpenAI, заявил, что все эти функции были разработаны на основе отзывов пользователей Atlas, которые выразили доверие к новому браузеру.
Первоначальная идея Atlas заключалась в том, чтобы позволить ChatGPT отслеживать просмотр пользователя, понимая контекст открытых страниц. Это помогало бы выполнять задачи без постоянной необходимости копировать и вставлять данные между чат-ботом и различными сайтами. Браузер также имел агентские функции, позволяя ИИ выполнять определенные действия на веб-страницах.
В течение последнего года другие компании внедрили аналогичные решения, такие как Comet AI от Perplextiy, Dia от The Browser Company и Opera Neon. Крупные игроки, такие как Google и Microsoft, также интегрировали нативные функции ИИ в свои браузеры: Chrome глубоко интегрирован с Gemini, а Edge получил режим Copilot.
В этот четверг, 9-го числа, OpenAI представила ChatGPT Work. Это версия искусственного интеллекта (ИИ), разработанная компанией специально для рабочей среды.
ChatGPT Work обладает возможностью выполнять различные задачи непосредственно в различных приложениях и файлах, используемых пользователями.
