OpenAI выпустила GPT-6 Astra, новую модель искусственного интеллекта, которую сама компания считает значительным прорывом. Грэг Брокман, президент компании, заявил, что эта система имеет потенциал ознаменовать начало эпохи общего искусственного интеллекта (AGI).
Astra разработан для выполнения сложных профессиональных задач автономно. Однако эта функция поднимает важный вопрос, связанный с эволюцией ИИ-агентов: как контролировать системы, которые приобретают растущую способность действовать самостоятельно?
Брокман выразил убеждение, что OpenAI могла достичь AGI с помощью Astra, хотя оставил окончательное определение этой классификации на усмотрение самих пользователей. Когда его спросили о возможности этого, руководитель ответил: «Возможно, это произойдет именно с этой моделью», резюмируя свое видение фразой: «Добро пожаловать в эру AGI» во время беседы с журналистами.
Процесс обучения также достиг беспрецедентного масштаба для OpenAI, используя более 100 тысяч GPU в комплексе Stargate, расположенном в Техасе. Кроме того, впервые другие модели приняли значимое участие в надзоре за этим обучением.
В отличие от предыдущих моделей, которые лишь направляли пользователя, Astra был разработан для работы непосредственно внутри программного обеспечения. Среди продемонстрированных или упомянутых OpenAI возможностей выделяются такие задачи, как одновременный поиск вариантов питания и бронирование теннисного корта при выполнении других действий.
Способность Astra в области кибербезопасности является особенно деликатным аспектом запуска. OpenAI классифицировала модель как «критическую» в своей структуре подготовки к рискам. По данным компании, система обладает способностью выявлять неизвестные уязвимости и создавать методы для их эксплуатации в защищенных системах, даже без получения подробных инструкций от человека.
Эта обеспокоенность побудила OpenAI приостановить обучение на две недели и внедрить дополнительные тесты и уровни безопасности перед выпуском. Тесты также выявили отдельную проблему: Astra стал сложнее отслеживать в оценках, предназначенных для проверки способности модели избежать человеческого надзора.
Несмотря на это, OpenAI признает, что модель все еще испытывает трудности с сокрытием используемого рассуждения при выполнении сложных задач, но снижение возможности мониторинга было сочтено серьезной проблемой организацией.
Амелия Глазес, вице-президент по исследованиям OpenAI, подчеркнула необходимость доверия, заявив: «Когда модели могут делать больше вещей автономно, мы должны быть в состоянии больше им доверять». Первоначальный доступ к Astra будет предоставлен организациям, входящим в программу Daybreak Access. Ожидается, что в ближайшие дни модель станет доступна клиентам Plus, Pro, Business и Enterprise, а также разработчикам API; у пользователей без платной подписки пока нет запланированной даты доступа.
Выпуск GPT-6 Astra ставит перед OpenAI вопрос, выходящий за рамки простой производительности новой модели: чем выше автономия искусственного интеллекта, тем более насущнее становится поиск надежных методов для отслеживания его действий и решений.