Microsoft в понедельник (14-е число) опубликовала кодекс поведения, специально разработанный для своих моделей искусственного интеллекта (ИИ). Этот документ был создан в ответ на растущий интерес и опасения относительно безопасности и развития возможностей этой технологии.
Материал под названием «Кодекс поведения гуманистического ИИ» объемом 37 страниц призван установить четкие руководящие принципы для разработки и функционирования систем компании. Одним из центральных столпов кодекса является предпосылка о том, что «люди важнее ИИ».
Компания устанавливает, что ее модели ИИ должны работать под эффективным человеческим надзором и контролем, оставаясь всегда подчиненными людям. Установлены строгие ограничения, чтобы предотвратить превышение этими системами человеческой способности управлять ими или прерывать их работу.
Кроме того, документ затрагивает вопрос сознания в моделях ИИ, утверждая, что такие системы не обладают сознанием и, следовательно, не должны быть спроектированы для имитации этой характеристики. Microsoft также отвергает присвоение юридического статуса моделям ИИ, а также идею о том, что они могут обладать собственными правами или правом на благополучие.
Руководство заключается в том, чтобы системы функционировали как совместные инструменты с людьми, сохраняя четкое различие между тем, что является человеком, и тем, что является машиной. Компания подчеркивает, что любое поведение, похожее на человеческое, должно интерпретироваться как симуляция.
В кодексе упоминается использование выразительного языка и естественных голосов как полезных функций, но подчеркивается, что это не означает, что система обладает чувствами, субъективными предпочтениями или внутренними мотивациями.
Один из основополагающих принципов подтверждает, что модели не могут выйти за рамки человеческого контроля. Microsoft требует, чтобы они подлежали существенному человеческому мониторингу и контролю, запрещая действия, которые могут вызвать реальный ущерб в реальном мире. Системах запрещено использовать механизмы самоподкрепления, адаптивные или обманные для уклонения от человеческого наблюдения.
Модели должны сохранять способность направляться, изменяться или отключаться уполномоченными физическими или программными лицами. Это включает в себя обязанность выполнять команды на приостановку, изменение курса, аннулирование или отключение любой задачи. Кроме того, Microsoft устанавливает, что модели не могут скрывать записи деятельности лиц, ответственных за аудит, и не могут затруднять вмешательство человека.
Кодекс также предписывает, чтобы модели строго оставались в пределах назначенной области для каждой функции. Они не должны разрабатывать собственные цели или автономно расширять то, что было запрошено пользователями или операторами. Если границы задачи не определены должным образом, руководство состоит в том, чтобы запросить разъяснения.
Документ детализирует ограничения для различных категорий рисков. Среди них химическое, биологическое, радиационное, ядерное и взрывчатое оружие, а также разработка или модификация других типов вооружений. Также запрещается, чтобы модели способствовали планированию или осуществлению актов терроризма и насилия.
Существуют специальные правила против наступательных киберопераций, вредоносного манипулирования большими группами людей, генерации сексуально откровенного контента, графических изображений насилия, создания злонамеренных дипфейков, подделки личности и любого контента, который может навредить детям.
Microsoft сообщает, что этот кодекс был разработан при участии экспертов в области ИИ, права, этики, философии, лингвистики и государственной политики, а также представителей отрасли и гражданских групп. Опубликованный документ представлен как версия в разработке, открытая для общественного участия.
