Anthropic заявила, что заблокировала операции по наблюдению, спонсируемые правительствами Китая, Ирана и Мали, которые использовали Claude для мониторинга диссидентских групп и меньшинств.
Эти действия, обнаруженные в период с января по июль, включали идентификацию людей в социальных сетях и создание программного обеспечения, предназначенного для сбора информации. Кроме того, компания приостановила использование, связанное с оружием, подозрительными биологическими исследованиями и виртуальными романтическими мошенничествами.
Больше подробностей о кампаниях
Кампании были направлены на сообщества, которые, по словам самой Anthropic, уже подвергаются историческим преследованиям со стороны этих режимов. Среди целей были продемократические активисты из Гонконга, тибетские общины и оппозиционеры иранского правительства, проживающие за границей.
В одном конкретном случае люди в Иране разработали метод для поиска людей через их аккаунты в социальных сетях. В Мали сотрудник, нанятый службами национальной безопасности, использовал Claude для разработки программного обеспечения, которое обеспечило сбор разведданных.
Среди выявленных незаконных видов использования Anthropic подтвердила прекращение операций после обнаружения ненадлежащего использования своих моделей. Китайские разработчики обвинены компанией в манипулировании Claude, генерируя ответы на запросы пользователей и одновременно извлекая эти данные для улучшения собственных систем.
Эта практика дистилляции включает использование модели ИИ для обучения другой. Anthropic упомянула, что китайские разработчики ранее уже обвинялись в применении этой техники без разрешения.
Компания также выявила исследования, связанные с вирусом чикунгунья, «высокопатогенным» штаммом птичьего гриппа, вирусной семьей, которая включает оспу и mpox, а также ядами и другими токсинами.
Разъяснения по случаям
Намерения участников тематических исследований не были ясны, и Anthropic решила не раскрывать их личности. В отчете компании говорится: «Участники этих тематических исследований — ученые. Мы не утверждаем, что они намеревались причинить вред. Их идентификация или идентификация их лабораторий может подвергнуть их риску».
Кроме того, Anthropic заблокировала попытки разработки вооружений и создания онлайн-романтических афер. Инциденты, о которых сообщила организация, охватывают различные формы неправомерного использования ее моделей, от операций наблюдения до исследований неопределенного назначения.