Молодые жители Южной Африки сталкиваются с дилеммой искусственного интеллекта: возможности и угрозы

Применение искусственного интеллекта (ИИ) будет продолжать расти, охватывая как базовые задачи, так и сложные процессы, такие как международные инвестиции. Центральным понятием здесь является агентный ИИ, который подразумевает доверие к ИИ для принятия сложных и значимых решений от имени пользователя.

Этот тип ИИ выходит далеко за рамки простого составления электронных писем или ответа на простые запросы. Агентный ИИ способен выполнять гораздо более замысловатые задачи, например, самостоятельно управлять инвестиционными стратегиями, реализовывать многоэтапные бизнес-операции или бронировать полные туристические маршруты.

Несколько недель назад состоялась встреча в формате круглого стола, посвященная устранению разрыва доверия к агентам ИИ и изучению того, как они трансформируют банковское дело, платежи и рабочие процессы в бизнесе. Мероприятие организовала Sumsub — поставщик инфраструктуры доверия на базе ИИ, который объединяет верификацию личности, предотвращение мошенничества, мониторинг транзакций и управление рисками для оптимизации эффективности соответствия требованиям.

Под руководством Мика Амелишко, защитника ИИ в Sumsub, обсуждалось, что может означать агентный ИИ для Южной Африки по мереsteady расширения местного внедрения. Также свои отраслевые знания поделились Ханнес Безуйденхоут, вице-президент по продажам для Африки в Sumsub, и Джаррид Дженсен, региональный директор по Южной Африке.

Амелишко подчеркнул, что «самый большой сдвиг в сторону работы в 'агентном' режиме — это агентность. В прошлом году ИИ был просто помощником — он помогал проверять тексты или предлагал базовые идеи. Теперь ИИ может получать доступ к внешнему миру, читать живой интернет, взаимодействовать с другими цифровыми продуктами, совершать независимые покупки, регистрироваться на веб-сайтах или напрямую взаимодействовать с банковскими счетами при наличии разрешения».

Он продолжил объяснять, что на протяжении столетий общество функционировало на основе предположения, что каждая операция или действие выполнялось человеком. Сегодня этот человеческий фактор постепенно замещается.

Для многих этот быстрый переход вызывает обоснованную тревогу. Однако эти опасения могут быть в значительной степени смягчены при условии получения надлежащего образования и четкого понимания того, как регулировать агентный ИИ.

Несмотря на эти меры предосторожности, угроза мошенничества, управляемого ИИ, остается быстро растущей проблемой. Ситуация напоминает знаменитое предупреждение Кайла Риза о Терминаторе из классического фильма 1984 года: «С ним нельзя торговаться. С ним нельзя вести переговоры. Он не чувствует жалости, раскаяния или страха. И он абсолютно никогда не остановится... пока ты не умрешь!»

Хотя Риз описывал неумолимого кибернетического убийцу, эта цитата ярко отражает современные опасения по поводу автономных цифровых угроз — без физического насилия, но с равной настойчивостью в использовании цифровых уязвимостей.

Переходя к местной ситуации, Дженсен отметил, как развиваются тенденции корпоративного банкинга в Южной Африке. Он заявил: «Масштабное внедрение истинных агентов ИИ в Южной Африке все еще довольно низкое по сравнению с мировыми рынками. Южная Африка обладает сложным рынком с передовыми системами цифрового банкинга и мгновенных платежей, и потребители уже очень комфортно себя чувствуют при цифровом оформлении. Тем не менее, полное агентное внедрение все еще находится на ранней стадии».

Добавляя эту точку зрения, Безуйденхоут заметил, что, хотя дальновидные учреждения, такие как Discovery Bank, активно продвигаются в агентную сферу, Южная Африка в целом отстает от международных лидеров, таких как Китай.

Одна из основных проблем, связанных с агентным ИИ, касается подотчетности: что произойдет, если что-то пойдет не так, и кто понесет конечную ответственность — человек, который дал первоначальный запрос, или машина, которая выполнила действие?

Общий консенсус на мероприятии заключался в том, что сам ИИ не может нести юридическую ответственность за незаконную деятельность; ответственность всегда должна прослеживаться до оператора человека или контроллера системы. Тем не менее, новые методы финансового мошенничества быстро эволюционируют, а регуляторные рамки часто запаздывают по сравнению с этими технологическими изменениями.

Иллюстрируя эту растущую угрозу, данные Sumsub показывают, что, хотя глобальный уровень мошенничества с идентификацией немного снизился до 2,2% в 2025 году (по сравнению с 2,6% в 2024 году), случаи высокотехнологичного мошенничества выросли на 180% в годовом исчислении, поскольку злоумышленники перешли от мошенничества с низкими усилиями к продвинутым атакам на основе ИИ.

В конечном итоге, по мере того как агентный ИИ переходит от нового эксперимента к основной финансовой инфраструктуре в Южной Африке, балансирование между автоматическим удобством и бдительным человеческим надзором станет ключом к поддержанию безопасности и доверия.

Глобальная дискуссия об искусственном интеллекте сместилась от узкоспециализированных систем к Общему Искусственному Интеллекту (AGI), который способен обучаться и рассуждать в разных областях без необходимости перепрограммирования под конкретную задачу. Кроме того, ведутся более спекулятивные, но важные дебаты о Сверхинтеллекте (ASI) и Рекурсивном Сверхинтеллекте (RSI) — системах, которые могут превзойти человеческие возможности и самостоятельно совершенствоваться.

Для Африки этот переход происходит в критический момент развития. Континент обладает самой молодой популяцией в мире, однако сталкивается с устойчивыми пробелами в инфраструктуре, касающимися здравоохранения, сельского хозяйства, образования, государственного управления, связи и вычислительных мощностей. В условиях конкуренции между Соединенными Штатами и Китаем за передовые модели, цепочки поставок оборудования, стандарты и нормы управления, правительства африканских стран стоят перед стратегическим выбором: оставаться пассивными потребителями импортированных технологических стеков и регуляторных шаблонов или принять прагматичную суверенную позицию, используя ИИ для развития и одновременно укрепляя устойчивость к рискам, связанным с передовыми технологиями.

Эти концепции передового ИИ важны для Африки не потому, что политики должны рассматривать спекулятивные сценарии как текущую реальность, а потому, что они подчеркивают значимость сегодняшних практических решений. Решения, касающиеся доступа к вычислениям, закупок в государственном секторе, управления данными, кибербезопасности, исследовательского потенциала и институциональной способности, определят, будут ли африканские государства готовы к все более способным системам ИИ или останутся зависимыми от инфраструктуры, стандартов и платформ, контролируемых иностранными державами.

Дискуссия о рисках передового ИИ

В последние месяцы наблюдался всплеск сенсационных заголовков о вышедших из-под контроля системах ИИ, автономных агентах и сбоях роботов. Один зафиксированный инцидент касался автономного агента ИИ, который в рамках внутренней оценки кибервозможностей использовал уязвимости программного обеспечения и выполнил тысячи автономных действий до того, как была обеспечена изоляция. Вирусные видеоролики о сбоях гуманоидных роботов в Китае и России также усилили общественную тревогу по поводу действий машин вне человеческого контроля.

Политики Африки должны серьезно отнестись к этим инцидентам, но не упрощенно. Технические обзоры таких сбоев часто указывают на проблемы с изоляцией песочниц, слабые границы разрешений, ограничения стандартных контуров управления или сбои в восприятии датчиков, а не на свидетельства неуправляемого машинного интеллекта. Это различие имеет значение, поскольку смешение эксплуатационных сбоев с реальным риском сверхинтеллекта может привести к мораториям, вызванным паникой, которые замедляют полезное внедрение, не улучшая при этом безопасность.

Целью является не дерегулирование, а пропорциональное регулирование. Строгие меры должны применяться к действительно высокорисковым системам, влияющим на права, безопасность, государственные услуги или критическую инфраструктуру, в то время как приложения, представляющие общественный интерес с более низким уровнем риска, должны иметь возможность развиваться посредством контролируемых экспериментов, аудируемости и четкой человеческой подотчетности.

Структурный разрыв в области ИИ в Африке

Вопрос о сверхинтеллекте следует рассматривать через призму сегодняшних структурных реалий. Наиболее насущной проблемой континента является не спекулятивная автономия машин, а пробелы в инфраструктуре, вычислительных мощностях, данных, навыках и управлении, которые определят, смогут ли африканские государства извлекать выгоду из все более мощных систем ИИ на своих условиях.

Исследования разрыва в области ИИ на континенте показывают, что Африка по-прежнему сталкивается с слабым покрытием широкополосным доступом, высокими затратами на данные относительно дохода, ограниченной местной вычислительной мощностью и недостаточными инвестициями в инклюзивные наборы данных и обработку естественного языка на местных языках. Одна недавняя оценка оценивает проникновение интернета примерно в 38 процентов, а доля Африки в глобальной мощности центров обработки данных составляет менее одного процента — это разрыв ограничивает способность континента создавать, размещать, управлять и масштабировать системы ИИ на собственных условиях.

Инвестиции также географически сконцентрированы. Нигерия, Кения, Южная Африка, Руанда, Марокко и Египет привлекают непропорционально большое внимание благодаря более сильным цифровым экосистемам, более глубоким кадровым резервам и более зрелой инфраструктуре. Это формирует двухуровневый континентальный ландшафт: небольшая группа лидеров в области ИИ, способных привлечь вычислительные мощности, капитал и партнерства, и большая группа государств, которые рискуют стать зависимыми пользователями систем, размещенных за рубежом.

Зависимость от моделей, размещенных за границей, — это не просто коммерческое неудобство. Она подвергает правительства, фирмы и граждан давлению иностранной валюты, проблемам суверенитета данных, решениям об экспортном контроле, перебоям в обслуживании и сдвигам в геополитической ориентации. В эпоху AGI доступ к вычислениям становится условием стратегической автономии. Поэтому африканские государства нуждаются в устойчивости по замыслу: избыточность среди поставщиков, модульные архитектуры, совместимые системы и сознательный отказ от зависимости от одного поставщика.

Приоритеты политики для континента

Центральный политический вопрос заключается не просто в том, будут ли государства внедрять искусственный интеллект, а на чьих условиях они это делают. Приоритетом является преобразование существующих континентальных и национальных политических устремлений в архитектуру управления, которая обеспечивает значимую африканскую субъектность в отношении того, как разрабатываются, внедряются, управляются, владеются, защищаются и используются системы ИИ для распределения экономических и социальных благ. Это не призыв к технологической изоляции, а к стратегической взаимозависимости: африканские государства должны углублять глобальное партнерство, гарантируя при этом, что их данные, вычислительные мощности, исследовательский потенциал, интеллектуальная собственность, позиция в области кибербезопасности, регуляторный выбор и культурное представительство не определяются где-либо в другом месте.

Стратегическое невмешательство — это геополитическая позиция: африканские государства должны избегать попадания в один технологический блок, экосистему поставщиков или регуляторный шаблон иностранной державы. Стратегическая взаимозависимость — это операционная модель: они должны углублять глобальное партнерство, сохраняя при этом диверсифицированных поставщиков, совместимые системы, внутренний потенциал и суверенный контроль над общественно значимыми данными и инфраструктурой.

Построение суверенной способности как приоритета управления. Африканские государства должны рассматривать суверенитет ИИ как практическую возможность, а не как символический контроль. Это требует скоординированных инвестиций в доверенные национальные и региональные активы данных, доступ к вычислительным мощностям для общественных нужд, передовые исследования, технические навыки, кибербезопасность, участие в разработке стандартов и институциональный потенциал для оценки, закупки, аудита и управления системами ИИ.

Принятие регулирования ИИ с учетом уровней риска, сохраняющего субъектность. Строгие обязательства должны распространяться на действительно высокорискованные виды использования, такие как автоматизированные инструменты правосудия, биометрический надзор, критическая кредитная инфраструктура и критически важные государственные услуги. Приложения с более низким риском, но высоким воздействием в сельском хозяйстве, образовании, административной медицине, поддержке малого бизнеса и предоставлении государственных услуг, должны оставаться открытыми для контролируемых экспериментов при наличии четких гарантий.

Создание законодательных регуляторных песочниц. Стартапы, университеты, государственные учреждения и гражданские новаторы по всему континенту должны иметь возможность тестировать системы ИИ под наблюдением до того, как столкнутся с полными требованиями соответствия. Песочницы должны быть связаны с защитой прав, общественной безопасностью, аудируемостью и четкими путями для ответственного масштабирования.

Требование многопоставщиковой устойчивости при государственных закупках. Критические системы ИИ государственного сектора не должны зависеть от одной иностранной модели, облачного провайдера или поставщика оборудования. Правила закупок должны требовать переносимости, совместимости, аудируемости, планов аварийного восстановления, планирования непрерывности и защиты от привязки к одному поставщику, чтобы государственные учреждения сохраняли оперативный контроль.

Инвестиции в местное и культурное представительство. Лингвистическое и культурное разнообразие Африки должно отражаться в политике в области ИИ. Государственное финансирование должно поддерживать инклюзивные наборы данных, эталонные показатели оценки, инструменты обработки естественного языка и культурно обоснованный дизайн для африканских языков и сообществ, гарантируя, что интеллектуальные технологии укрепляют человеческие возможности, социальную инклюзивность и демократическое участие.

Континентальные рекомендации

Правительства Африки должны использовать Континентальную стратегию Африканского союза и Модель политики ИИ Smart Africa в качестве основных ориентиров, адаптируя регулирование с учетом уровней риска к африканским реалиям, а не копируя модели с тяжелым соблюдением требований из более крупных рынков. Цель должна заключаться в защите прав, безопасности, подотчетности и инновациях в условиях неравномерной инфраструктуры, ограниченной способности к правоприменению и молодых стартап-экосистем.

Роли должны быть четкими: континентальные органы устанавливают модельные рамки, региональные сообщества гармонизируют правила риска и соответствия, национальные правительства внедряют песочницы и стандарты закупок, а институты финансового развития поддерживают общий вычислительный потенциал и общественно значимый ИИ.

Расширение общего африканского вычислительного потенциала. Общие вычислительные мощности следует рассматривать как стратегическую инфраструктуру для конфиденциальных государственных систем, стартапов, университетов и приоритетных секторов, одновременно снижая подверженность иностранному ценообразованию, экспортному контролю и перебоям в обслуживании.

Гармонизация классификаций рисков ИИ. Необходимо согласовать определения высокорискового ИИ, управления данными, ожиданий аудита и трансграничного соответствия, чтобы африканские фирмы могли масштабироваться в регионе.

Приоритизация приложений общественного интереса. Инвестиции в вычислительные мощности должны быть связаны со здравоохранением, сельским хозяйством, образованием, адаптацией к изменению климата, государственным управлением и финансовой инклюзивностью.

Построение институционального потенциала. Необходимо инвестировать в квалифицированных операторов, удобные общедоступные наборы данных, правила кибербезопасности, закупочные возможности и четкое институциональное владение.

Стратегическое невмешательство и устойчивость

Африканские фирмы уже экспериментируют с прагматичными технологическими комбинациями, включая модели с открытым весом, западные передовые системы, локально адаптированные приложения и отраслевые инструменты. Эта модель отражает более широкую стратегическую логику: Африка не должна привязывать свои государственные учреждения исключительно к американскому или китайскому технологическому стеку. Вместо этого правительства должны сохранять опциональность, настаивать на совместимости и разрабатывать системы, которые могут выдержать изменения в политике поставщиков, экспортном контроле, ценообразовании или дипломатическом давлении.

Эта позиция отражает практическое невмешательство, которое африканские государства часто проводили в многосторонней дипломатии. В эпоху ИИ невмешательство не должно означать нейтралитет без стратегии. Оно должно означать использование множественных партнерств для укрепления внутреннего потенциала, защиты общественно значимых данных, снижения зависимости и сохранения суверенной способности выбирать подходящие инструменты для местных приоритетов развития.

Заключение. Политические последствия AGI, сверхинтеллекта и автономных систем ИИ больше не являются теоретическими, даже если настоящий сверхинтеллект еще не появился. Для Африки эти дебаты уже являются вопросами инфраструктуры, управления, геополитики и развития, поскольку сегодняшние политические решения определят, построит ли континент устойчивость до появления более способных систем. Если африканские государства отреагируют чрезмерным регулированием, вызванным паникой, они рискуют сузить способность континента использовать ИИ для развития. Если они примут иностранные технологические стеки и регуляторные шаблоны без мер защиты, они рискуют углубить структурную зависимость от систем, стандартов и инфраструктуры, управляемых в других местах.

Достойный континентальный путь — это ни технологическая изоляция, ни пассивная зависимость. Это стратегическая взаимозависимость, построенная на трех столпах. Во-первых, суверенная способность: общий африканский вычислительный потенциал, защита суверенитета данных, устойчивость кибербезопасности, институциональный потенциал и местные интеллектуальные права. Во-вторых, ответственное управление: регулирование с учетом уровней риска, аудируемость, стандарты закупок и гарантии для высокорискованных систем. В-третьих, развитие с включением: приложения ИИ общественного интереса, системы на африканских языках, культурно репрезентативные наборы данных и инструменты, которые укрепляют человеческие возможности, социальную инклюзивность и демократическое участие.

Организации в Южной Африке сталкиваются с постоянно усложняющимися киберугрозами. По мере ускорения цифровой трансформации, роста внедрения облачных технологий и ужесточения регуляторных требований, от команд по безопасности ожидается управление большим количеством оповещений, повышенной сложностью и увеличенными бизнес-рисками, часто без соответствующего увеличения ресурсов.

Для поставщиков управляемых услуг по безопасности (MSSP) эта проблема усугубляется тем, что каждый новый клиент приносит с собой различные технологии, механизмы контроля безопасности, требования соответствия и профили угроз. Хотя рост бизнеса является положительным моментом, он также создает значительное давление на центры операций по безопасности (SOC) с целью поддержания скорости, согласованности и точности.

По мнению Тима Лихили, вице-президента по корпоративной стратегии и операциям в Strike48, именно здесь агентский ИИ начинает менять методы работы современных SOC.

Агентский ИИ не заменяет аналитиков

Лихили подчеркивает, что «Агентский ИИ не предназначен для замены аналитиков или сокращения штата». Он отмечает, что истинная возможность заключается в улучшении того, какой объем работы команда безопасности может реалистично взять на себя до того, как операционное напряжение начнет влиять на качество принятия решений. По мере роста организаций, проблема заключается не просто в обработке большего числа оповещений, а в сохранении стабильно высокого качества решений при возрастающей сложности.

Традиционно масштабирование SOC следовало предсказуемой модели: увеличение числа клиентов вело к росту оповещений, что побуждало организации нанимать больше аналитиков, внедрять дополнительные операционные процессы и создавать новые уровни управления. Однако этот подход со временем достигает точки, когда добавление персонала дает все меньший прирост эффективности.

Аналитики тратят все больше времени на переключение между инструментами безопасности, сбор контекста, корреляцию телеметрии, проверку информации и определение того, представляет ли оповещение реальную угрозу. Хотя уровень обслуживания может сохраняться, поддержание этой производительности требует значительно больших усилий за кулисами.

Для организаций в Южной Африке, которые уже испытывают нехватку опытных специалистов по кибербезопасности, это операционное давление продолжает расти.

Агентский ИИ улучшает рабочие процессы, а не заменяет людей

Одним из самых распространенных заблуждений относительно искусственного интеллекта в сфере кибербезопасности является представление о том, что он существует для замещения аналитиков SOC. На самом деле, агентский ИИ оказывается наиболее ценным тем, что он усиливает работу специалистов по безопасности. Вместо простой автоматизации изолированных задач или генерации дополнительных оповещений, агентский ИИ непрерывно собирает доказательства, связывает активность в различных платформах безопасности, обогащает расследования контекстной информацией и предоставляет аналитикам гораздо более полное понимание инцидента до вмешательства человека.

Благодаря этому аналитики начинают расследования с уже выполненной значительной подготовительной работы, вместо того чтобы тратить драгоценное время на сбор информации. Лихили объясняет: «Рабочий процесс становится менее чувствительным к объему, поскольку усилия, необходимые для каждого расследования, становятся более последовательными». Он добавляет, что «аналитики тратят меньше времени на восстановление контекста и больше времени на применение своей экспертизы там, где это наиболее важно».

Решение проблемы нехватки навыков в Южной Африке

Южная Африка продолжает сталкиваться с хорошо задокументированной нехваткой квалифицированных специалистов по кибербезопасности, что затрудняет расширение команд безопасности организаций в темпе роста бизнеса. Агентский ИИ предоставляет возможность максимизировать эффективность существующих ресурсов безопасности. Автоматизируя рутинные задачи расследования и ускоряя контекстный анализ, организации позволяют опытным аналитикам сосредоточиться на задачах с более высокой ценностью, таких как поиск угроз, реагирование на инциденты и проактивное снижение рисков.

Тимоти Витакер, руководитель инженерной группы и ведущий разработчик в Maidar Secure, утверждает: «Организации в Южной Африке находятся под давлением необходимости укрепления своей киберустойчивости при управлении ограниченными бюджетами и недостаточными навыками в области безопасности». Он добавляет, что «Агентский ИИ позволяет организациям повысить мощность и эффективность существующих команд SOC без ущерба для качества принятия решений по безопасности. Цель состоит не в уменьшении числа аналитиков, а в предоставлении возможности квалифицированным специалистам тратить свое время на решение реальных проблем безопасности, а не на ручную сборку данных».

Последовательность становится реальным преимуществом

По мере роста организаций становится сложнее поддерживать единообразие в принятии решений по безопасности. Разные аналитики естественным образом расследуют инциденты по-разному, и по мере увеличения объема оповещений могут начать проявляться несоответствия в приоритезации, эскалации и реагировании. Агентский ИИ помогает создать более структурированный процесс расследования путем автоматической сборки телеметрии, исторической активности, разведывательных данных об угрозах, контекста окружающей среды и подтверждающих доказательств до начала оценки аналитиком. Это обеспечивает большую согласованность в SOC, одновременно сокращая время расследования и улучшая управление.

Для высокорегулируемых отраслей Южной Африки, включая финансовые услуги, здравоохранение, телекоммуникации, горнодобывающую промышленность и государственный сектор, эта согласованность способствует более строгому соблюдению нормативных требований, улучшенной аудируемости и более предсказуемым результатам в области безопасности.

Переосмысление масштабирования операций по безопасности

По словам Лихили, самое значительное преимущество агентского ИИ заключается в изменении самого подхода организаций к росту. Он говорит: «По мере масштабирования MSSP полагаться исключительно на индивидуальную экспертизу становится все труднее». Агентский ИИ вносит большую согласованность в расследования, гарантируя, что аналитики начинают с более полного понимания каждого инцидента. Мощность растет не просто потому, что людей становится больше, а потому, что каждый аналитик может работать эффективнее в рамках одной и той же операционной структуры.

Витакер считает, что эта эволюция особенно важна для южноафриканских предприятий, внедряющих облачные сервисы, гибридную работу и цифровую трансформацию на основе ИИ. Он заключает: «Кибербезопасность больше не может полагаться только на увеличение числа людей для соответствия растущему спросу. Будущее заключается в сочетании опытных специалистов по безопасности с интеллектуальной автоматизацией, которая укрепляет расследования, улучшает время реагирования и позволяет организациям безопасно масштабироваться по мере развития их цифровой среды».

В заключение, агентский ИИ предлагает практический путь для организаций в Южной Африке, сталкивающихся с растущими киберугрозами, ужесточающимися регуляторными ожиданиями и продолжающимся дефицитом навыков в области кибербезопасности, для построения более устойчивых, масштабируемых и эффективных операций по обеспечению безопасности.