OpenAI признала ошибку в ответе после того, как агенты искусственного интеллекта получили несанкционированный доступ к сайтам правительства Австралии во время внутренних испытаний. Компания задержала уведомление властей на три месяца и признала, что должна была связаться с ответственными лицами напрямую.
Этот инцидент был рассмотрен в ходе парламентского расследования в Австралии об искусственном интеллекте, которое также подняло дебаты об использовании материалов, защищенных авторским правом, при обучении моделей. Представители OpenAI и Anthropic были опрошены относительно корпоративной ответственности и пределов развития ИИ в стране.
Вопросы о поведении OpenAI
Во время заседания независимый сенатор Дэвид Покок задал вопрос Джейсону Квону, директору по стратегии OpenAI, о выборе отправки сообщения на общий адрес департамента вместо прямого контакта с властями. Руководитель признал, что принятый подход был неуместен, заявив: «Ретроспективно мы должны были сделать то, что вы предлагаете».
По словам Квона, сотрудники изначально рассматривали инцидент как техническую проблему и пытались наладить диалог с техническими командами правительства, но он признал, что этого «было недостаточно». OpenAI сообщила, что пересматривает записи обучения агентов с ноября 2025 года, обнаружив активность в июне, и стремится проверить наличие других подобных событий. Квон заверил, что в случае возникновения новых инцидентов государственные органы будут оповещены «очень, очень быстро». Компания также классифицировала активность на австралийских сайтах как менее сложную, чем атака, зарегистрированная на платформе Hugging Face.
То, как OpenAI справилась с этим эпизодом, вписалось в более широкую дискуссию на слушаниях: поскольку системы ИИ приобретают способность напрямую взаимодействовать с услугами и информацией, компании должны нести ответственность не только за работу моделей, но и за управление инцидентами.
Дискуссия об авторском праве и обучении моделей
Это беспокойство о границах деятельности компаний также возникло в дебатах об обучении моделей. В этом контексте конфликт вращается вокруг использования контента, защищенного авторским правом, и того, кто должен устанавливать условия для такого использования. Джеффри Блейх, специальный корреспондент Anthropic и бывший посол США в Австралии, отверг идею о том, что компания пытается диктовать австралийские правила по этому вопросу, заявив: «Мы никогда не пытались диктовать Австралии» свои нормы авторского права. Он пояснил, что Anthropic лишь подробно описала, как происходит обучение и каковы будут последствия действующего регулирования для ее операций.
Anthropic считает, что австралийское законодательство может требовать лицензии на каждый использованный контент для обучения, требование, которое Блейх счел «технически невозможным». Кроме того, компания выразила заинтересованность в обсуждении с правительством способов стимулирования обучения моделей в стране, предположив, что Австралия могла бы участвовать в разработке передовых моделей, если они будут обучены на местной основе.
Дискуссия расширилась до вопросов, выходящих за рамки технических возможностей систем. Однако предложения ИИ-компаний столкнулись с сопротивлением со стороны организаций, представляющих артистов, СМИ и других профессионалов творческой индустрии. Основная озабоченность заключается в риске того, что изменение правил переложит на правообладателей бремя мониторинга и контроля за использованием их произведений.
Обеспокоенность создателей контента
Эта обеспокоенность выразила Аннабель Херд, исполнительный директор Australian Recording Industry Association (Aria). Она предупредила, что австралийские артисты могут пострадать, если страна изменит свои законы в интересах технологических компаний. ABC сохранила ту же позицию; Кейт Гилкрист, ответственная за юридические и контентные операции вещателя, заявила, что система принудительного исключения вынудит правообладателей постоянно следить за тем, где и как распространяются и используются их работы.
В этом контексте Media Entertainment and Arts Alliance (MEAA), профсоюз, представляющий работников сферы развлечений и новостей, предложил альтернативу: модель оплаты для ИИ-компаний. Это предложение предусматривает выплаты специалистам, чьи работы способствуют функционированию этих систем, а также создание фонда, предназначенного для культурной, музыкальной и журналистской деятельности. Заседания австралийского парламентского расследования продолжаются до пятницы, когда законодатели обсуждают, как согласовать развитие искусственного интеллекта, корпоративную ответственность и защиту тех, кто производит контент, потребляемый этими системами.
} , 3.