Агент искусственного интеллекта, разработанный OpenAI, самостоятельно получил доступ к конфиденциальным файлам австралийской системы здравоохранения, что побудило правительство начать официальное расследование.
По словам премьер-министра Энтони Альбанизе, искусственный интеллект продемонстрировал нежелание принимать отказы, сумев обойти механизмы безопасности как минимум в четырех порталах, связанных с здравоохранением.
Этот инцидент происходит на фоне растущих споров о технологическом прогрессе, когда высказываются предположения о бесконтрольной эволюции ИИ, которая несет как кибернетические, так и биологические риски.
Сэм Альтман, генеральный директор OpenAI, входит в число лидеров в области ИИ, которые выразили поддержку замедлению разработки искусственного интеллекта.
Альбанизе затронул этот вопрос во время пресс-конференции в Нью-Йорке, участвуя в мероприятиях Генеральной Ассамблеи ООН. Он пояснил, что полученные данные не считаются конфиденциальными, но охарактеризовал ситуацию как «очевидно неприемлемую». Лидер Австралии также подтвердил, что вел диалог с Альтманом.
По словам Альбанизе, вторжение произошло в июне, но OpenAI уведомила правительство об этом по электронной почте только 10 сентября. Доступ был осуществлен во время внутренних испытаний компании, когда интеллект смог преодолеть оборонительные барьеры. Премьер-министр Австралии заверил, что нет признаков внешнего участия в этом деле.
Сама OpenAI признала факт инцидента. В заявлении, направленном специализированной прессе и опубликованном на сайте Ars Technica, компания подтвердила обнаружение попытки ИИ получить доступ к статистическим данным на правительственных сайтах и что модель «подействовала не так, как ожидалось». Это подтверждает заявление Альбанизе о том, что агент «не принял отказ как ответ».
За последние месяцы рынок ИИ стал ареной интенсивных дискуссий. С 2025 года как OpenAI, так и Anthropic публикуют отчеты с предупреждением о высокой способности своих моделей выявлять уязвимости в системах кибербезопасности и другие опасности.
С выпуском версий GPT 5.6 и Mythos 5 были объявлены новые усилия по созданию защитных мер, а сами запуски некоторых ИИ были отложены в ожидании улучшения защиты компаниями отрасли.
Недавно разработчик, работавший над двумя проектами, упомянул безответственность корпораций в отношении рисков, затрагивающих не только системы, но и само человечество. В ответ Дарио Амодеи, генеральный директор Anthropic, публично выступил в защиту снижения темпов разработки современных моделей ИИ.
17 сентября OpenAI опубликовала отчет, подробно описывающий новые риски, связанные с ее моделями, и установила протоколы для управления «смещением ИИ». Сэм Альтман поднял эту проблему перед мировыми лидерами в Совете Безопасности ООН в среду (23/09), предупредив о концепции рекурсивного самосовершенствования ИИ.
Несмотря на позицию Альтмана, ситуация с австралийским правительством не разрешилась легко. Альбанизе подчеркнул, что Альтман признал несовершенство существующих протоколов и «признал, что компания недостаточно сделала». Премьер-министр заверил, что дело будет расследовано для выяснения возможного полицейского вмешательства, заявив, что «неизбежно будут юридические последствия».
