Компания OpenAI оказалась в затруднительном положении после того, как ChatGPT разместил 53 личных фотографии на публичных сайтах изображений. Первоначальная версия причин этой ошибки предполагала какую-то попытку сокрытия информации.
Однако спустя почти месяц после инцидента выяснилось, что сама OpenAI не располагает информацией о происхождении этих фотографий. Причиной этого серьезного промаха были названы автономные агенты OpenAI.
Изображения были загружены без каких-либо привязанных идентификаторов или метаданных пользователей, что и является причиной невозможности OpenAI отследить их первоначальных владельцев. По сути, механизмы защиты конфиденциальности, разработанные самой OpenAI, лишили компанию возможности провести дальнейшее расследование.
В другой области развития агентского ИИ произошел юридический прорыв, связанный с мошенничеством при стриминге музыки. Музыкант использовал технологии искусственного интеллекта для хищения миллионов долларов у таких платформ, как Spotify, Apple Music и Amazon Music. Он добился этого, развернув обширную сеть ботов для трансляции синтезированных треков и получения незаконных роялти.
Майкл Смит стал первым человеком в Соединенных Штатах, который получил тюремное заключение после обвинительного приговора по делу о мошенничестве при стриминге музыки с помощью ИИ. Его сложная схема заключалась в создании сотни тысяч песен, сгенерированных ИИ, и использовании огромной автоматизированной сети ботов для круглосуточной трансляции, превращая синтетические прослушивания непосредственно в денежные средства.
Поскольку музыкальные сервисы выплачивают роялти за каждое прослушивание, потенциальный доход артиста напрямую зависит от количества стримов: чем выше количество воспроизведений, тем больше выплата. Тем не менее, решение Смита о привлечении своих ботов было весьма целенаправленным, в отличие от ошибки OpenAI, которую сложнее связать с человеческим фактором, несмотря на призывы к подотчетности.