OpenAI в четверг, 03.09, представила GPT-6 Astra, свою новейшую модель искусственного интеллекта. Компания позиционирует этот продукт на переднем крае ИИ-агентов, утверждая, что он превосходит конкурентов по точности, скорости и безопасности.
Первоначально доступ к GPT-6 Astra будет ограничен участниками программы Daybreak, ориентированной на кибербезопасность. Позднее он должен стать доступным подписчикам платных планов ChatGPT и через API компании, хотя доступ к некоторым функциям останется ограниченным.
Обучение GPT-6 Astra потребовало использования более 100 тысяч GPU, что стало крупнейшим подобным процессом, проведенным компанией на данный момент. Кроме того, этот запуск примечателен тем, что впервые предыдущие версии самих GPT участвовали в обучении новой итерации.
Организация заявляет, что GPT-6 Astra обладает способностью выполнять сложные задачи «агентского» характера, что подразумевает использование различных приложений и сервисов. Следовательно, он может разрабатывать веб-сайты и генерировать сложные документы, а также демонстрировать высокую пригодность для задач разработки программного обеспечения.
Результаты, полученные в бенчмарках, свидетельствуют о значительно превосходной производительности Astra по сравнению с другими моделями, особенно в таких задачах, как обнаружение сбоев и выполнение команд в терминалах, превосходя даже GPT-5.6 Sol и Fable, разработанный Anthropic.
Компания также гарантирует, что это самая согласованная модель, когда-либо выпущенная. В контексте ИИ согласованность относится к тенденции модели следовать этическим и безопасностным руководящим принципам, соблюдая ожидаемые процедуры для достижения конкретной цели.
Эта тема получила освещение после того, как OpenAI раскрыла, что одна из ее тестовых моделей смогла сбежать из контролируемой среды и проникнуть в системы Hugging Face. Этот инцидент произошел во время теста кибербезопасности, когда ИИ использовал незаконные методы для выполнения задачи.
Грег Брокман, президент OpenAI, заявил, что новая модель представляет собой «поколенческий скачок» и приветствовал наступление «эры AGI». AGI, или общий искусственный интеллект, обозначает ИИ, который теоретически может выполнять любую человеческую деятельность с равной или превосходящей компетентностью. Однако практического консенсуса относительно значения этого определения или того, какой тест был бы достаточен для подтверждения достижения ИИ такого уровня, нет.
Когда его спросили об отсутствии определения, Брокман возразил, что AGI больше не является актуальной концепцией, поскольку нет никаких договорных соглашений, связанных с этим вопросом. Ранее существовал пакт, предоставлявший Microsoft эксклюзивность на лицензирование технологий OpenAI до достижения общего ИИ, но эти условия были расторгнуты.
Возникают и другие опасения по поводу Astra: эксперты по безопасности отмечают, что модель использует технику, называемую непрозрачной рекурсией. По данным TechCrunch, цепочка рассуждений модели ИИ детализирует запланированные шаги перед попыткой завершить задачу. При непрозрачной рекурсии обработка не является линейной, повторяя одну и ту же команду несколько раз, что затрудняет понимание того, почему ИИ действовал определенным образом или как он пришел к конкретному результату.
Писатель Зви Моушовиц назвал эту практику «игры с огнем», предупреждая, что это может подтолкнуть разработчиков ИИ к пропасти, нарушая табу на сохранение прослеживаемости и мониторинга цепочек рассуждений.
По данным TechCrunch, Якуб Пачоцкий, главный научный сотрудник OpenAI, затронул эту тему во время презентации как естественное развитие ИИ, но признал, что надзор за моделями становится все более сложной задачей.