Совет по безопасности данных Индии (DSCI) выпустил отраслевое руководство по ответственности за искусственный интеллект, ориентированное на Индию, касающееся агентного ИИ. Данный документ может существенно помочь в определении того, кто несет ответственность, если агент выйдет из-под контроля или нарушит свои обязанности.
Вместо того чтобы предлагать новые стандарты, данное руководство разъясняет, как существующие обязательные доктрины применяются к автономным системам ИИ от нескольких поставщиков и показывает, где именно находится ответственность на протяжении всей цепочки создания ценности, которая приводит ИИ в использование.
В нем рассматриваются области применения агентного ИИ, виды воздействия и риски, которые могут создать эти системы, а также факторы, определяющие подотчетность. Кроме того, в документе объясняется, почему для Индии важен пропорциональный и четко распределенный подход к управлению, надзору и ответственности, чтобы направлять отрасль пользователей и ускорять ответственное внедрение ИИ.
В отчете отмечается, что определение ответственности будет играть важную роль в зависимости от того, где модели размещены, а также кто ими владеет и контролирует. Выбор хостинга по-разному распределяет ответственность. Архитектура и выбор хостинга определяют, будет ли ответственность распределена по всей цепочке создания ценности или сконцентрирована внутри предприятия, что порождает центральный парадокс развертывания ИИ в корпоративной среде. Контроль архитектуры и владение пространствами принятия решений устраняют внешний щит ответственности, и, вероятно, предприятия станут основными юридическими владельцами как инфраструктуры, так и поведения агента.
Ответственность, по сути, лежит на пяти группах, которые используют ИИ: организации-пользователи, поставщики услуг и интеграторы, продуктовые компании и стартапы, поставщики инструментов и фреймворков, поставщики облачных и инфраструктурных решений, а также поставщики моделей.
В руководстве предостерегают от рассмотрения ответственности как бинарного выбора между конечной организацией-пользователем и участниками цепочки создания ценности. Они предупреждают, что представление этого выбора как либо «или», либо «или» между конечным пользователем и вышестоящим участником цепочки создания ценности будет юридически ошибочным, технически неточным, коммерчески парализующим и подорвет равные условия игры.
Кроме того, в отчете указывается, что ИИ проникает в предприятия различными путями, такими как браузеры, помощники (co-pilots), генеративный ИИ в корпоративном программном обеспечении, а также модели и инструменты ИИ. Каждый из этих путей несет свой собственный вопрос об ответственности, поэтому каждый путь требует внимания и тщательного изучения. Неизвестные или неидентифицированные риски могут привести к тому, что предприятие понесет ответственность, не имея возможности принять меры.