Регулятор телекоммуникаций Индии, Trai, в пятницу выпустил проект структуры для ответственного использования искусственного интеллекта (ИИ). Согласно этому проекту, лицензированные организации, действующие в рамках Закона о телеграфе или Телекоммуникационного акта, должны нести ответственность за результаты работы систем ИИ, которые они внедряют, независимо от того, где эти системы были разработаны.
Этот широкий проект, представленный для консультаций, обязывает компании принимать политики ИИ, утвержденные советом директоров, создавать специальные комитеты по управлению и безопасности, а также сообщать регулятору о серьезных инцидентах, связанных с ИИ. Стейкхолдерам предоставляется возможность оставить комментарии до 27 ноября.
Консультации проводятся на фоне растущей интеграции ИИ в сети для повышения эффективности и в услуги, предлагаемые потребителям. Trai предупреждает, что внедрение ИИ может создать новые риски, если не будет проведена должная проверка перед запуском систем или недостаточный надзор за автономным обучением и системными взаимодействиями.
Регулятор отметил, что такие риски, как непреднамеренная предвзятость, которая может возникнуть в системах ИИ во время обучения и использования, нежелательное поведение моделей, например, дрейф модели, и атаки противника, могут негативно сказаться на устойчивости телекоммуникационной инфраструктуры, особенно ее критических компонентов. Эти риски можно снизить путем соблюдения соответствующих практик управления ИИ.
Индийские поставщики телекоммуникационных услуг, включая Reliance Jio и Bharti Airtel, уже используют ИИ в своих системах в больших масштабах, в основном для идентификации клиентов и предотвращения мошенничества. Глобальные производители сетевого оборудования, такие как Nokia и Ericsson, также интегрируют ИИ в сети, что принимают и индийские операторы.
Предложения Trai включают требование к каждой организации разрабатывать внутреннюю политику ИИ, одобренную ее советом директоров или эквивалентным управляющим органом. Эта политика должна охватывать классификацию рисков, разрешения на развертывание, управление инцидентами, человеческий надзор, управление данными и разрешение жалоб потребителей. Кроме того, регулятор предложил, чтобы все системы ИИ подлежали соответствующему человеческому контролю для снижения рисков согласно заранее определенному механизму.
Телеком-компании и авторизованные организации, использующие ИИ, должны классифицировать свои системы по категориям высокого, среднего и низкого риска, основываясь на их значении для сетевых операций, финансовых и операционных результатов, а также потенциальных последствиях для потребителей.
Важным аспектом является то, что предложения направлены на привлечение организаций к ответственности за результаты работы внедренных систем ИИ, «независимо от того, были ли системы ИИ разработаны внутри, закуплены/аутсорсингованы у третьей стороны или представляют собой комбинацию этих вариантов».
Инциденты, связанные с ИИ, должны быть классифицированы по категориям критической, высокой, умеренной и низкой степени тяжести, при этом обязательное сообщение требуется для инцидентов критической и высокой степени тяжести. Регулятор указал, что «инциденты ИИ критической и высокой степени тяжести должны быть сообщены в TRAI в предписанном формате, порядке и сроки». Хотя регулятор не уточнил, что именно будет считаться критическим, высоким или низким уровнем тяжести, или срок, в течение которого должно происходить обязательное сообщение, телекоммуникационные компании также должны вести централизованные базы данных инцидентов ИИ и жалоб потребителей, связанных с ущербом от ИИ, с механизмами для расследования, смягчения и разрешения.
