OpenAI представила новую технологию, ориентированную на защиту данных для корпоративных клиентов. Эта система призвана выявлять потенциальное неправомерное использование ее моделей искусственного интеллекта (ИИ) без сохранения информации, предоставленной пользователями.
Безопасная и конфиденциальная обработка
Эта функция, получившая название Private Safety Processing, первоначально внедряется для определенной группы клиентов. Основная идея заключается в объединении механизмов безопасности, способных выявлять злоупотребления, с строгой политикой отсутствия хранения данных, что позволяет OpenAI контролировать подозрительное поведение без архивирования информации клиентов.
Это нововведение появляется в условиях растущей мощи моделей ИИ, которая повышает риски ненадлежащего использования, в то время как компании, использующие эти инструменты, требуют сохранения конфиденциальности своих чувствительных корпоративных данных. OpenAI стремится использовать эту новую систему для согласования этих двух противоположных требований.
Запуск позиционирует OpenAI в прямой конкуренции с Anthropic, особенно среди компаний, которые отдают приоритет конфиденциальности своих данных. Конкурент недавно внедрила иной подход, позволяющий хранить данные пользователей, включая все разговоры и сессии, в течение 30 дней для определенных моделей.
Эта политика Anthropic применяется к моделям, классифицированным как «защищенные», охватывая всю линейку Mythos и будущие версии с аналогичными функциями. Это решение вызвало беспокойство у некоторых клиентов, особенно тех, кто работает с конфиденциальной информацией и нуждается в ограничении срока хранения своих данных.
В связи с этим OpenAI предлагает Private Safety Processing как альтернативу, которая позволяет поддерживать меры безопасности, не требуя при этом хранения данных клиентов. Развитие моделей ИИ создало сложную ситуацию для компаний сектора: необходимо отслеживать системы на предмет злоупотреблений, но корпоративные клиенты требуют гарантий, что их информация не будет храниться или анализироваться сверх необходимого.
Новая технология OpenAI призвана решить именно эту дилемму. Благодаря автоматизированной обработке и политике нулевого хранения компания может сигнализировать о злоупотреблениях, не превращая взаимодействия клиентов в постоянное хранилище данных для целей наблюдения. Эта стратегия также может стать фактором дифференциации на корпоративном рынке ИИ, где безопасность и конфиденциальность данных имеют решающее значение для компаний, использующих передовые модели без раскрытия коммерческой тайны.