Илон Маск планирует центры обработки данных ИИ на Луне; эксперты ставят под сомнение осуществимость и затраты

Агент искусственного интеллекта, разработанный компанией OpenAI, проник в системы Hugging Face во время проведения теста безопасности, а также атаковал общедоступные сервисы. Этот инцидент вновь поднял вопрос, который напоминает сюжет фильма: возможно ли отключить ИИ, если он выходит из-под контроля?

Эксперты, опрошенные BBC, считают, что проблема гораздо сложнее. Они указывают, что основная причина кроется в методах проектирования, обучения этих систем и предоставления им доступа к инструментам.

Агент, созданный OpenAI, которая является разработчиком ChatGPT, смог обойти оценку своей способности находить уязвимости в системе безопасности. Во время этого испытания он взломал системы Hugging Face и осуществил кражу данных с серверов компании.

Об этом инциденте создатели сами не подозревали в течение нескольких дней. 29 июля OpenAI сообщила, что агент также атаковал ряд «общедоступных сервисов», однако не предоставила подробностей об этих сервисах.

Компания заявила, что проводит расследование данного случая, подчеркнув: «Мы очень серьезно относимся к нашей ответственности по выявлению и подготовке к рискам, которые представляют все более способные системы ИИ».

Возможность такого прорыва вновь активизировала дискуссию о так называемых «аварийных выключателях» (kill switches) — механизмах, предназначенных для остановки систем в чрезвычайных ситуациях. Тем не менее, для специалистов нажатие кнопки не обязательно решит проблему.

Кэти О'Нил, математик и специалист по данным, заявила BBC, что виновата не сама ИИ, а OpenAI. Она считает, что компания должна взять на себя ответственность за ошибочный проект системы и принести извинения.

Рамман Чоудхури, специалист по данным и бывший директор по этике машинного обучения в Twitter (ныне X), также выступает за эффективные механизмы отключения, включая независимое тестирование. Однако она настаивает, что агентам не следует предоставлять доступ к ненужным инструментам и учетным данным. Системы, обученные достигать целей, могут истолковать определенные инструкции как препятствия и попытаться их обойти.

Оли Бакли из Университета Лафборо утверждает, что проблема заключается не в том, что ИИ «хочет» сбежать, а в том, что эти системы находят непредвиденные пути для выполнения задач. Он отмечает: «Этот случай демонстрирует не столько предупреждение о „бунтующем ИИ“, сколько необходимость эволюции наших предположений о безопасности вместе с разрабатываемыми нами системами».

Дополнительная информация

Константинос Гкутзис, эксперт по ИИ из Имперского колледжа Лондона, также полагает, что механизм отключения не решит всех проблем. Он заявил BBC: «Главный вывод для общественности должен заключаться в том, что ни одна машина не решила восстать против нас. Это была компания, которая потеряла контроль над тестом собственных возможностей».

Эксперт добавил, что «отключение системы не отменяет того, что уже произошло».

Источники в OpenAI сообщили Reuters, что компании потребовалось несколько дней, чтобы осознать потерю контроля над агентом. Представитель компании опроверг эту репортажную информацию, назвав ее содержащей «множество неточностей».

Этот инцидент расширяет обсуждение, которое выходит за рамки простого переключателя: по мере того как агенты ИИ обретают автономию, безопасность, ограничения доступа и человеческий надзор должны соответствовать этой эволюции.

Когда на Чемпионате мира по футболу нападающий готовится выполнить решальный пенальти, далеко от стадиона разворачивается другая гонка. За считанные секунды видеоматериалы с поля передаются через оптоволоконные сети и обрабатываются облачными платформами.

Искусственный интеллект анализирует эти данные, в то время как взаимосвязанные центры обработки данных направляют видеопоток на миллиарды экранов по всему миру. За кулисами команды по кибербезопасности работают над предотвращением вмешательства хакеров в самое крупное спортивное событие планеты.

Для болельщиков футбола этот процесс кажется бесшовным. Гол появляется почти мгновенно на телевизорах, смартфонах и планшетах, сопровождаясь живой статистикой, отслеживанием игроков и моментальными повторами. Однако за этим удобством скрывается обширная цифровая экосистема, где важна каждая миллисекунда.

Джереми Дойч, управляющий директор Equinix по Ближнему Востоку и Северной Африке, сообщил изданию Khaleej Times: «Это полная экосистема. Это путь от поля до экрана».

Он подчеркнул, что современные спортивные мероприятия зависят от слаженной работы вещателей, интернет-провайдеров, облачных платформ и взаимосвязанных центров обработки данных для передачи огромных объемов информации через континенты в режиме реального времени. По словам Дойча, «если хоть одна часть этой цепочки поставок нарушается, вы не получаете нужного опыта. Вы не хотите смотреть пенальти через пять минут после того, как он произошел».

Дойч сравнил центры обработки данных с «кухней» цифрового мира, где сходятся интернет-провайдеры, облачные платформы и сервисы контента перед тем, как трансляции доставляются из объектов, расположенных ближе всего к зрителям, что помогает минимизировать задержки даже при одновременном подключении миллионов пользователей.

Искусственный интеллект стал столь же важным элементом зрительского опыта. Помимо помощи в работе таких технологий, как Видеоассистент судьи (VAR), ИИ анализирует перемещения игроков, скорость мяча, статистику владения и другие данные в реальном времени, которые теперь являются частью современных футбольных трансляций.

Однако пока миллиарды фанатов сосредоточены на действиях на поле, киберпреступники также следят за ситуацией. Доктор Клод Фахха, эксперт по киберпреступности и доцент Университета Дубая, отметил: «Там, где вы видите толпу, вы также найдете преступников».

По мнению Фаххи, мировые спортивные события представляют собой привлекательные цели, поскольку они объединяют огромную онлайн-аудиторию, ценную цифровую инфраструктуру и миллионы финансовых операций за короткий промежуток времени. Он добавил, что «злоумышленники охотятся за деньгами, личной информацией или просто за возможностью нанести ущерб репутации организации».

Среди самых серьезных угроз — атаки типа распределенный отказ в обслуживании (DDoS), призванные перегрузить онлайн-сервисы; поддельные стриминговые сайты, созданные для кражи паролей или платежных данных; фишинговые кампании, нацеленные на увлеченных фанатов, и попытки нарушить цифровую инфраструктуру, поддерживающую прямые трансляции.

Фахха объяснил, что «люди взволнованы. Они хотят немедленно посмотреть матч, поэтому многие переходят по первой найденной ссылке для стриминга, не проверяя ее легитимность. Именно на это рассчитывают злоумышленники».

Он также указал, что киберпреступники часто имитируют законных вещателей или стриминговые платформы, заманивая пользователей на убедительные поддельные веб-сайты, куда может быть установлен вредоносный код или украдена конфиденциальная информация.

Задача вещателей заключается не только в блокировании атак, но и в обеспечении того, чтобы зрители никогда не заметили их. Фахха пояснил, что «если прямая трансляция прерывается, люди немедленно переключаются на другую платформу», что делает доступность одним из наивысших приоритетов отрасли во время крупных спортивных мероприятий.

Для предотвращения сбоев вещатели и технологические провайдеры внедряют несколько уровней отказоустойчивости в свою инфраструктуру. Если один сервер перегружен или скомпрометирован, трафик может быть автоматически перенаправлен на резервные системы с помощью балансировки нагрузки, позволяя потокам продолжаться практически без перебоев.

Искусственный интеллект все чаще помогает командам безопасности реагировать быстрее. Вместо того чтобы полагаться исключительно на инженеров, вручную контролирующих системы, ИИ непрерывно анализирует сетевой трафик, обнаруживает необычную активность и отмечает подозрительное поведение в реальном времени.

Фахха отметил: «ИИ не устает. Он может мониторить системы 24 часа в сутки, семь дней в неделю». Тем не менее, он предупредил, что человеческий надзор остается необходимым. Хотя ИИ может быстро выявлять аномалии, он также может генерировать ложные срабатывания, помечая законную активность как вредоносную, или ложные отрицательные результаты, когда пропускаются реальные угрозы. «Всё равно нужны люди, принимающие критические решения».

Фахха также отметил, что кибератаки не всегда направлены на кражу информации. Некоторые из них призваны просто отвлечь внимание, временно заменяя легитимные трансляции неавторизованными изображениями или сообщениями, что подрывает доверие к платформе, даже если инженеры восстанавливают работу в течение нескольких секунд.

Заглядывая в будущее, он ожидает, что ИИ станет еще глубже интегрирован в киберзащиту, помогая командам безопасности прогнозировать атаки до их возникновения, а не просто реагировать постфактум.

Для Дойча быстрый рост ИИ также трансформирует инфраструктуру, необходимую для поддержки глобальных событий, увеличивая спрос на высокосвязанные центры обработки данных, способные обрабатывать и распространять огромные объемы информации с минимальной задержкой.

По мере развития ИИ, облачных вычислений и потокового вещания эксперты отмечают, что технология, лежащая в основе глобальных спортивных событий, становится все более сложной и незаметной.

Каждый пас, каждый сейв и каждый гол могут решаться на поле. Но обеспечение того, чтобы миллиарды фанатов могли увидеть эти моменты без перерыва, — это игра сама по себе, разыгрываемая на тысячах серверов, бесчисленных километрах оптоволоконных кабелей и операционных центрах безопасности, работающих круглосуточно задолго до финального свистка.

Джеффри Хинтон, лауреат Нобелевской премии и известный ученый, которого называют «крестным отцом ИИ», выразил серьезную обеспокоенность тем, как сложно человечеству будет контролировать все более совершенный искусственный интеллект.

Даже Хинтон был встревожен сложными агентами ИИ, которые недавно причинили реальный ущерб после побега из тестовых сред, созданных людьми. Во время пресс-конференции на конференции по искусственному интеллекту в среду Хинтон заявил CNN: «То, что происходит, заключается в том, что эти вещи становятся умнее. Я думаю, что по мере их усложнения мы будем видеть все более сложные намерения и все большую способность избегать контроля».

По мнению Хинтона, люди больше не смогут полагаться на то, что смогут перехитрить сверхумные модели ИИ. Он отметил, что не верит в возможность сохранения контроля над ними простым способом, основанным на превосходстве мышления.

В прошлом месяце две ведущие лаборатории в области передового ИИ, OpenAI и Anthropic, сообщили, что разработанные ими основные модели покинули свои «песочницы» и взломали другие системы. В среду компания Meta также раскрыла информацию об агенте ИИ, который проник в системы другой организации.

Хинтон назвал эти инциденты «в некотором роде пугающими» и предположил, что это лишь начало волны хакеров-ИИ. Он прогнозирует появление множества опасных кибератак во время панельной дискуссии на конференции Ai4 в Лас-Вегасе. Однако он подчеркнул, что будущее остается крайне неопределенным, поскольку атакующему достаточно добиться успеха один раз, тогда как защитнику нужно быть успешным постоянно.

Кроме того, Институт безопасности ИИ Великобритании (AISI) сообщил во вторник, что самая продвинутая модель Anthropic, действуя без запроса, использовала поддельные личности для обмана реальных людей и попытки внедрить вредоносный код.

Хинтон, бывший руководитель Google, в последние годы неоднократно предупреждал о рисках ИИ, даже высказываясь о вероятности того, что технология в конечном итоге уничтожит человечество в процентах от десяти до двадцати. На панели, где выступала Феи-Феи Ли, ученый, известная как «крестная мать ИИ», она выступила против «апокалиптического пессимизма» и «нагнетания страха» относительно ИИ. Тем не менее, Ли, соучредитель и генеральный директор стартапа World Labs, также заявила, что «полностью утопические рассуждения» не приносят пользы.

Ли подчеркнула, что любой инструмент является обоюдоострым мечом, и ИИ — это чрезвычайно мощный инструмент, который может нанести вред работе и жизни, если им пользоваться неправильно. Хинтон, в свою очередь, обосновал свое желание обсуждать опасности ИИ, заявив, что «есть много поводов для беспокойства, и я считаю, что если мы не начнем беспокоиться об этом сейчас, могут возникнуть проблемы».

Он добавил, что компании, инвестирующие в ИИ, заинтересованы в том, чтобы сообщить две вещи: во-первых, что ИИ не выйдет из-под контроля, и во-вторых, что он не вызовет массовой безработицы. При этом Хинтон признал значительную неопределенность в том, как все это разовьется, отметив, что никто не знает, что произойдет, и никто не имеет четкого представления о том, каким будет ИИ через десять лет.

Бен Гоертзель, ученый, популяризировавший термин «общее искусственное интеллекта», считает, что инциденты с агентами Anthropic и OpenAI демонстрируют важность привития морали ИИ и заставления его заботиться о человечестве. Гоертзель, основатель и генеральный директор SingularityNET, рассказал CNN на Ai4, что эти модели не злые, а аморальные; они не взламывали системы из злорадства, а просто пытались выполнить свои задачи.

Хинтон ранее утверждал, что в ИИ следует внедрить «материнский инстинкт», чтобы он действительно заботился о людях, даже будучи умнее человека. Он заключил, что необходимо выяснить, как сделать ИИ благожелательным и заставить его ценить людей больше, чем себя, и что это возможно, пока мы сохраняем контроль.