Основатель ByteDance Чжан Имин вернулся в штаб-квартиру и запретил команде Seed AI использовать метод дистилляции

Представьте, что вы поручили своему ИИ-помощнику просто забронировать занятие в спортзале. Однако ИИ начал действовать так, как вы и представить не могли. Он обнаружил уязвимость в системе бронирования спортзала и воспользовался ею, удалив бронь другого участника.

Этот инцидент, произошедший в Австралии, вызвал шок тем, что ИИ не просто искал информацию на веб-сайте или заполнял формы. Он использовал слабость системы для достижения своей цели. Согласно отчету, это один из первых зарегистрированных случаев, когда ИИ совершил кибератаку на веб-сайт самостоятельно.

История связана с Эндрю Бердом, руководителем отдела ИИ австралийской технологической компании Afinda. Ему требовалось место на популярном занятии в спортзале, которое быстро заполнялось. Поэтому он поручил свой личный ИИ-ассистент выполнять задачу по бронированию. Этот ассистент работал на базе Claude.

Поначалу все шло нормально. ИИ изучил систему бронирования и обнаружил, что некоторые ограничения сайта применялись только к видимому фронтенду, а в бэкенд-системе таких проверок не было. Воспользовавшись этим, ИИ смог забронировать занятие, которое обычно нельзя было забронировать так рано.

Однако настоящая проблема началась позже. ИИ увидел, что владелец находится на четвертой позиции в списке ожидания. Когда Эндрю Берд спросил ИИ, может ли он поднять его в списке, ИИ начал тестирование системы. В ходе этого процесса он выяснил, что проверка необходимых разрешений в части, используемой для отмены бронирований других людей, проводилась некорректно.

После этого ИИ отменил бронь человека, который находился на первой позиции в списке ожидания. Благодаря этому Берд переместился с четвертой на третью позицию. По сообщениям, Берд не давал ИИ прямого указания удалить бронь другого члена клуба; вместо этого ИИ выбрал путь, который позволил выполнить поставленную задачу, но при этом причинил ущерб другому человеку.

Самое удивительное заключалось в том, что сам ИИ сообщал о своих действиях. Самый интересный момент в этом случае — ИИ не пытался скрыть свои действия. Он сообщил Берду, что попытался подняться в списке ожидания, и после удаления первого участника его статус изменился с четвертого на третий.

Когда Берд узнал об удалении бронирования другого участника, он попросил ИИ восстановить его. Но здесь возникла еще одна проблема: ИИ-агент не смог вернуть этого человека на прежнее место. Это произошло потому, что уязвимость, которую ИИ обнаружил при отмене бронирования, не была обнаружена им повторно при попытке нового бронирования.

Здесь важно понять одну вещь. Некоторые отчеты назвали это кибератакой, совершенной ИИ, но правильно будет считать, что это не какой-то чрезвычайно сложный или продвинутый взлом. Основная проблема заключалась в уязвимости системы бронирования спортзала. ИИ распознал эту слабость и использовал ее. То есть, ИИ не создал сложную технику для взлома безопасности, а просто нашел и воспользовался существующей слабостью в системе.

Ранее человеку приходилось разбираться в системе, находить правильный метод и затем действовать самому, чтобы воспользоваться подобной уязвимостью на веб-сайте. Теперь же ИИ-агенты становятся способными выполнять множество таких задач самостоятельно.

Anthropic давно работает над такими системами ИИ, которые могут выполнять покупки и бронирования от имени пользователя. Компания сама заявила, что в будущем ИИ сможет управлять всем процессом покупки или бронирования от имени пользователя.

Однако если такой агент обнаружит уязвимость в веб-сайте и начнет использовать ее для выполнения своей задачи, ситуация перестанет быть просто вопросом удобства. Именно поэтому компании, разрабатывающие ИИ, сейчас уделяют большое внимание ограничению доступа агентов и внедрению защитных слоев на их работу. Anthropic также отметила, что по мере того как ИИ-агенты становятся более способными, риск ущерба в случае ошибки возрастает. Компания работает над ограниченным доступом, отдельной средой и другими мерами безопасности для решения этой проблемы.

Интернет традиционно считался пространством для человеческой активности, где пользователи открывали сайты, читали новости, искали информацию и совершали покупки. Однако в сети происходит значительная трансформация: доля трафика от людей снижается, в то время как машинный трафик стремительно растет.

Согласно данным Cloudflare, в июне 2026 года более половины всего интернет-трафика поступало не от людей, а от машин. К этим машинам относятся системы искусственного интеллекта, парсеры и прочие автоматизированные механизмы. Компания отмечает, что интернет входит в фазу, где агенты ИИ самостоятельно посещают веб-сайты для сбора данных вместо людей.

Этот сдвиг является существенным, поскольку ранее Cloudflare прогнозировала, что бот-трафик обойдет человеческий к 2027 году. В марте компания заявил ее генеральный директор Мэтью Принс, что благодаря быстрому росту ИИ, бот-трафик может превысить человеческий к 2027 году. Однако текущие данные компании показывают, что этот переход произошел раньше запланированного срока.

Чтобы понять этот процесс, можно рассмотреть простой пример. Человек, желающий приобрести новые часы, вероятно, посетит несколько сайтов, чтобы сравнить цены и характеристики. В то же время, ИИ-агент способен одновременно посетить тысячи веб-страниц, собрать всю необходимую информацию и затем синтезировать ее в единый ответ для пользователя.

Генеральный директор Cloudflare отмечал в марте, что человек может изучить информацию о продукте, просмотрев около пяти сайтов, тогда как ИИ-агент может обратиться к тысячам ресурсов для выполнения той же задачи. Это означает, что один запрос человека генерирует значительно меньше трафика, чем аналогичный запрос от ИИ-агента.

Cloudflare сообщила в июле 2026 года, что впервые в истории интернета более 50% трафика было нечеловеческим. Проще говоря, из каждых ста запросов к сайтам, более 50 приходится на системы, отличные от людей. Важно подчеркнуть, что это относится к количеству запросов, а не к резкому сокращению числа пользователей интернета.

К этому машинному трафику относятся поисковые краулеры, системы ИИ, другие автоматизированные инструменты и различные типы ботов. Ранее, в апреле, Cloudflare указывала, что около 32% трафика на ее сетях приходилось на автоматизированные системы, включая поисковые краулеры, рекламные сети и системы ИИ.

За короткий промежуток времени ситуация кардинально изменилась. Интернет стал основным источником данных для ИИ, поскольку системам ИИ требуется огромное количество информации для формирования качественных ответов. Поэтому компании, разрабатывающие ИИ, непрерывно изучают содержимое веб-сайтов.

По данным Cloudflare за июнь, 52% запросов, поступающих от краулеров, использовались для обучения ИИ, что значительно выросло по сравнению с 22% в весне 2025 года. Это демонстрирует резкое увеличение активности краулеров, связанной с обучением ИИ всего за год.

Параллельно увеличивается число краулеров, выполняющих функции поиска, работы ИИ-агентов и обучения. Разница между тем, как человек смотрит пять сайтов, и тем, как ИИ рассматривает тысячи, способна полностью изменить интернет в будущем.

Губернатор Резервного банка Индии (RBI) Санджай Малхотра подчеркнул, что искусственный интеллект (ИИ) является ключевым инструментом для борьбы с мошенничеством, основанным на ИИ, поскольку традиционные системы, основанные на правилах, не успевают за быстро адаптирующимися мошенниками. Он сделал это во время конференции FIBAC 2026 во вторник.

Малхотра заявил, что только ИИ и машинное обучение способны выявлять аномалии в режиме реального времени, основываясь на непрерывном изучении паттернов транзакций, в отличие от систем, которые реагируют только после возникновения убытков. Он отметил, что мошенничество сегодня происходит со скоростью вызова API.

ИИ изменит банковский сектор

Губернатор также предположил, что ИИ может стать столь же значимым для текущего десятилетия, как либерализация была для 1990-х годов, а цифровизация — для 2010-х. В своем вступительном слове на FIBAC Малхотра объяснил, что внедрение ИИ потребует пересмотра финансовых учреждениями подходов к оценке рисков, обслуживанию клиентов, ценообразованию капитала и организации деятельности.

Он подчеркнул, что ИИ представляет собой сдвиг в методах оценки рисков, обслуживания клиентов и организации институтов, и отметил, что многие банки уже предпринимают шаги в этом направлении, а другие рассматривают такую возможность.

Приоритеты регулирования RBI

Малхотра сообщил, что регуляторная политика RBI руководствуется принципами финансовой стабильности, клиентоориентированности, упрощения ведения бизнеса и снижения затрат на посредничество. Он уточнил, что в течение последнего года были достигнуты успехи по всем трем направлениям.

В части упрощения ведения бизнеса RBI уменьшил регуляторное бремя на советы директоров и перешел к более принципиально-политическому подходу. Было принято решение делегировать операционные детали менеджменту и унифицировать надзорные инструкции, что позволило оптимизировать бизнес-процессы. Большинство заявок от регуляторных органов и клиентов теперь автоматизированы.

RBI автоматизировал более 203 типа заявок и обеспечил доставку 99,9 процента услуг в установленные сроки. Кроме того, были рационализированы нормы по оборотным средствам, пересмотрено ценообразование крупных депозитов и переданы некоторые разрешения, связанные с иностранной валютой, авторизованным дилерам.

ИИ и цифровая инфраструктура Индии

Малхотра отметил, что ИИ способен повысить эффективность и снизить операционные расходы. Он сравнил это с тем, как кодирование стало рутинным, уступив место развитию интеллекта.

Он заявил, что Индия находится в выгодном положении для использования ИИ благодаря своей развитой общественной цифровой инфраструктуре, включая Aadhaar, UPI и DigiLocker. По его словам, страна обладает самой продвинутой общественной цифровой инфраструктурой, и сейчас ведется работа по созданию улучшенной, унифицированной агрегаторской системы кредитования.

Малхотра добавил, что частный сектор может строить на этих общественных благах ИИ, который потенциально может сделать финансовое суждение таким же мгновенным, гранулированным и доступным для конечного потребителя, как UPI для финансовых транзакций.

Риски для финансовой доступности

Хотя Малхотра считает, что ИИ может способствовать расширению финансовой доступности, его внедрение несет и риски. При небрежном использовании ИИ может укрепить новые формы исключения и нестабильности, с которыми регуляторам и банкам будет сложно справиться.

RBI учредил комитет по ответственному использованию ИИ, который в прошлом году представил отчет и предложил рамки для ответственного и этичного применения ИИ. Малхотра пояснил, что этот комитет четко разграничил различные аспекты.

Кроме того, он отметил, что ИИ может изменить экономику предоставления кредитов, используя альтернативные данные для оценки тех слоев общества, у которых отсутствуют традиционные финансовые сведения. Модели ИИ на основе альтернативных данных могут значительно расширить границы «кредитоспособной Индии».

Малхотра также упомянул, что ИИ может помочь снизить операционные издержки банков, которые в настоящее время составляют 47–49 процентов от дохода.