Эксперты отрасли заявили, что Индия должна разработать собственный фреймворк по обеспечению безопасности искусственного интеллекта (ИИ), который будет соответствовать ее языковым особенностям, масштабу и экосистеме, ориентированной на применение, вместо того чтобы просто копировать добровольное соглашение, подписанное президентом США Дональдом Трампом и ведущими технологическими компаниями на прошлой неделе.
Они также призвали к созданию обязательств, объединяющих всех заинтересованных лиц и направленных на решение таких рисков, как дипфейки и кибератаки, несмотря на разногласия относительно достаточности только добровольных мер.
Эти комментарии прозвучали после принятия Соглашения Белого дома о сверхинтеллекте — добровольного пакта по безопасности ИИ, подписанного 29 сентября Трампом и топ-менеджерами Google, OpenAI, Anthropic, Meta, Nvidia и xAI Илона Маска.
Согласно этому соглашению, компании взяли на себя обязательства по внедрению внутренних механизмов контроля для мониторинга своих моделей ИИ, созданию специализированных надзорных групп, проведению независимых внешних аудитов и обеспечению контроля на уровне совета директоров. Кроме того, они согласились регулярно встречаться для установления стандартов безопасности.
Председатель Nasscom и генеральный директор Fractal Group Шрикант Веламаканни отметил, что Индия не должна слепо копировать модель США. Вместо этого ей следует использовать внутренние обязательства как основу для достижения глобального понимания вопросов безопасности ИИ.
Веламаканни подчеркнул: «По мере того как модели становятся более способными и агентными, мы предоставляем им больший доступ к системам и большую автономию для принятия решений. Безопасность ИИ должна быть значительно усилена и должна опережать возможности, чтобы предотвратить катастрофические риски».
Он добавил, что американское соглашение в значительной степени является призывом к саморегулированию со стороны компаний, разрабатывающих передовые ИИ. В отличие от этого, Европейский Союз принял обязательный, основанный на рисках подход, тогда как Китай следует модели государственного управления.
По мнению председателя Nasscom, Индия может использовать свою роль в Глобальном партнерстве по ИИ (GPAI) и импульс, полученный от проведения Саммита по влиянию ИИ в феврале, чтобы избежать наихудших сценариев, не лишая граждан Индии и Глобального Юга доступа к передовым моделям.
Соумен Мандал, старший аналитик Counterpoint Research, заявил, что Индии не нужно копировать американскую модель, но она может черпать из нее вдохновение и ускорить усилия по построению надежной экосистемы ИИ. Он уточнил, что такое обязательство должно охватывать тестирование систем ИИ перед развертыванием, независимый аудит, отчетность о серьезных проблемах и назначение ответственных лиц за риски, связанные с ИИ.
Амит Ханна, партнер и руководитель экосистемы автоматизации в Grant Thornton Bharat, считает, что любое обязательство должно соответствовать условиям индийского рынка. Он отметил, что фокус Индии направлен на создание приложений ИИ, а не на разработку крупных базовых моделей.
Ханна подчеркнул: «Обязательство отрасли в Индии должно гарантировать надежную работу ИИ на местных языках и в уникальных культурных контекстах и не должно эксплуатировать асимметрию знаний об ИИ в популяции».
Ганеш Гопалан, соучредитель и генеральный директор Gnani.ai, заявил, что любой фреймворк должен обеспечивать равные условия. Он настаивал, что глобальные передовые модели должны подчиняться тем же правилам, что и индийские, поскольку индийские ИИ-компании конкурируют с мировыми фирмами за одних и тех же клиентов.
Эксперты разошлись во мнениях относительно того, достаточно ли саморегулирования. Веламаканни заявил, что «Добровольные, саморегулируемые подходы необходимы, но крайне недостаточны». Он привел примеры фармацевтики и авиации, где сильные, технически компетентные регуляторы усилили безопасность и доверие общественности, не останавливая инновации.
Он заключил, что Индии нужны обязательные правила в отношении прозрачности, отчетности об инцидентах и подотчетности в случае серьезного ущерба. Он также предложил укрепить IndiaAI Safety Institute для тестирования новых моделей, но без создания узкого места путем требования предварительной сертификации каждой модели.
Мандал поддержал гибридный подход. Обязательные правила должны применяться к потенциальному вреду в оборонной, медицинской, банковской и государственной сферах, в то время как добровольные стандарты должны покрывать быстро развивающиеся технические области, где регуляторам может не хватать технической экспертизы.
Ханна также выступил за гибридный «техно-правовой» подход, сочетающий сильный добровольный уровень с обязательными мандатами, такими как положения о синтетически сгенерированной информации в Правилах поправки к ИТ на 2026 год. Он отметил, что добровольное соблюдение оставляет значительные пробелы, особенно в вопросах гражданских прав и общественной безопасности.
Гопалан, однако, предпочел саморегулирование. «Добровольное саморегулирование имеет ключевое значение, учитывая новизну технологии. Наличие обязательного регулирования может подавить конкуренцию и вызвать опасения по поводу получения преференциального отношения несколькими компаниями», — заявил он. Он добавил, что Индии нужно больше ста лабораторий передового ИИ, чтобы предотвратить колонизацию, что неизбежно, если страна отстанет в гонке ИИ.
Индийское правительство находится в процессе разработки собственного регулирования ИИ. Ранее в этом году секретарь по ИТ С Кришнану отметил, что, хотя существующие правовые нормы пока адекватны для решения первоначальных проблем, таких как дипфейки и синтетический контент, «может потребоваться дополнительное регулирование или закон».
Он добавил, что «это разговор, который начался, и мой министр (министр ИТ Ашвини Вайшнав) и я ранее заявляли, что мы рассмотрим регулирование ИИ, когда придет время, и похоже, что время подходит, и мы начнем рассматривать это».
Вайшнав также говорил, что действующее законодательство об информационных технологиях было разработано задолго до быстрого появления ИИ, и для решения меняющегося ландшафта может потребоваться новая правовая база.
Отрасль согласна с тем, что любой пакт должен выходить за рамки только ИИ-компаний. Веламаканни заявил: «Это не может быть соглашением только между ИИ-компаниями». Он подчеркнул, что должны быть определены роли правительства, разработчиков передовых моделей, крупных пользователей, включая предприятия и государственные учреждения, академических кругов и независимых исследователей безопасности. Работники, пользователи и гражданское общество должны иметь официальные каналы для сообщения о вреде.
Он также добавил, что оценки безопасности передовых моделей должны проводиться независимыми экспертными учреждениями и публиковаться, за исключением узких случаев, когда раскрытие информации создает угрозу безопасности.
Мандал считал, что соглашение должно объединять всю экосистему ИИ: от ИИ-компаний и их бизнес-пользователей до регуляторов, университетов, исследователей, работников и пользователей. Ханна утверждал, что оно должно включать государственные и общественные структуры, которые являются крупными пользователями ИИ, а также гражданское общество, профсоюзы работников и технологические компании. Гопалан, тем временем, призывал к более широкому саморегулированию во всей экосистеме ИИ для обеспечения беспристрастного доступа к ограниченным вычислительным ресурсам.
Веламаканни заявил, что главной заботой должно быть предотвращение катастрофического и системного вреда. Он перечислил крупномасштабные кибератаки, вмешательство в выборы, биологическое или химическое оружие, атаки на критическую инфраструктуру и потерю контроля над высокоавтономными системами. Личные вреды, такие как дипфейки, мошенничество, выдача себя за другое лицо, утечки конфиденциальности и самоповреждение, следуют за ними.
Он подчеркнул: «Автономия должна отставать от гарантий, чтобы обеспечить запас безопасности. Поскольку системы ИИ приобретают способность действовать в мире (использовать инструменты, перемещать деньги, изменять системы, принимать важные решения), доказательства их безопасности и управляемости должны расти быстрее, чем та автономия, которую мы им предоставляем».
Гопалан отметил, что, учитывая большое население и демократическую систему Индии, более серьезными проблемами являются дипфейки и кибератаки, нацеленные на финансовые учреждения.
Ханна также назвал дипфейки первоочередной задачей. Он описал дезинформацию, дипфейки и политические манипуляции как «экзистенциальные угрозы социальной ткани Индии». Он указал, что правила ответственности в случае сбоя систем ИИ, например, неправильная диагностика пациента или ошибочный отказ в пособиях, остаются критическим пробелом.
Мандал поставил независимый аудит на первое место, за которым следуют подотчетность, защита данных, дипфейки и влияние на занятость. Он заявил: «Без независимого тестирования и аудита система не будет полной, поскольку компании иногда могут упускать из виду проблемы, связанные с ИИ».
