Появление так называемого теневого ИИ обнажает существующие недостатки в системе управления корпоративными данными. Как и другие технологические сдвиги, например, облачные вычисления, которые выявили ограничения периметральной безопасности, или удаленная работа, которая поставила под сомнение доверие к сетям, генеративный ИИ акцентирует внимание на новой проблеме: как организации управляют своими данными.
Темпы внедрения ИИ внутри предприятий оказались чрезвычайно высокими. Сотрудники используют инструменты ИИ для анализа документов, создания контента, ускорения исследований и улучшения принятия решений. По оценкам IDC, более половины сотрудников уже применяют инструменты ИИ вне утвержденных корпоративных сред. Хотя большая часть дискуссий сосредоточена на теневом ИИ, более широкая картина кроется в другом.
Искусственный интеллект поднял данные из статуса простого бизнес-актива до центрального операционного уровня современной компании. Каждый запрос, рекомендация и автоматизированное действие зависит от потока информации между людьми, системами и, все чаще, интеллектуальными агентами. По мере ускорения этого процесса организации обнаруживают, что знание о приложениях и пользователях дает лишь частичную картину. Истинная сложность заключается в понимании того, как корпоративная информация потребляется, интерпретируется и используется.
Долгое время организации накапливали данные быстрее, чем могли извлекать из них ценность. Информация хранилась, передавалась и архивировалась, тогда как получение значимых выводов часто требовало специализированных навыков, выделенных команд и больших усилий. ИИ кардинально изменил эту формулу.
Сегодня корпоративную информацию можно анализировать, обобщать и преобразовывать в действенные сведения за считанные секунды. Контракт превращается в источник коммерческой информации, а хранилище знаний становится системой поддержки принятия решений. Годы институциональных знаний становятся мгновенно доступными через простой запрос.
Поскольку ценность корпоративной информации возрастает, растет и важность ее эффективного управления. Данные перестали быть пассивным активом, находящимся в хранилищах; они стали активным участником принятия решений во всей организации. Задача состоит в сохранении контекста.
Большинство организаций понимают необходимость защиты конфиденциальной информации. Однако более сложной задачей является сохранение контекста вокруг этих данных. Презентация для совета директоров имеет стратегическое значение благодаря решениям, которые она информирует. Проект продукта содержит интеллектуальную собственность из-за способа его использования. Набор данных клиента несет обязательства, выходящие за рамки самих данных.
Контекст определяет ценность, чувствительность и надлежащее использование. По мере перемещения информации между командами, партнерами и системами ИИ, поддержание этого контекста становится все более критичным. Управление становится гораздо более эффективным, когда политики, подотчетность и деловое намерение остаются связанными с самой информацией, а не с местом ее нахождения.
В этом направлении многие организации сегодня концентрируют свои усилия: обеспечение того, чтобы информация оставалась управляемой, даже когда рабочие процессы становятся более распределенными и управляемыми ИИ.
Следующая фаза внедрения ИИ будет определяться уровнем доверия. Советы директоров требуют уверенности в том, что критически важная информация обрабатывается ответственно. Регуляторы ожидают прозрачности в использовании конфиденциальных данных. Клиенты все чаще оценивают организации по тому, как они защищают и управляют информацией.
В результате доверие трансформируется из требования соответствия в бизнес-возможность. Организации, которые быстрее внедряют ИИ, часто являются теми, которые уверены в том, как используется информация среди сотрудников, партнеров и цифровых экосистем. Надежное управление создает эту уверенность. Оно способствует инновациям, поскольку команды могут внедрять новые технологии с большим пониманием рисков, ответственности и контроля.
Во многих отношениях доверие становится основой, на которой строится масштабируемое внедрение ИИ.
Сегодняшняя дискуссия сосредоточена на использовании сотрудниками инструментов ИИ. Следующая глава будет связана с тем, как системы ИИ будут взаимодействовать с информацией гораздо более автономно. Агенты ИИ будут извлекать информацию, координировать рабочие процессы, генерировать рекомендации и выполнять действия в нескольких системах. Их эффективность будет зависеть от доступа к корпоративным знаниям, а качество их результатов — от качества управления, окружающего эту информацию.
Именно поэтому теневой ИИ имеет значение. Он дает ранний взгляд в будущее, где корпоративная ценность все больше создается за счет интеллектуального использования информации. Организации, которые преуспеют в этом будущем, — это те, кто глубоко понимает свои данные, сохраняет их контекст и устанавливает доверие везде, куда путешествует информация. Определяющий вопрос для предприятий быстро смещается с «Как нам внедрить ИИ?» на «Как нам управлять информацией, которая питает ИИ?» Ответ на этот вопрос определит следующую эру корпоративных инноваций.
Отправляя резюме и адаптируя документы для разных возможностей, кандидаты могут заметить, что получаемые ответы часто схожи. Исследование, проведенное Стэнфордским университетом, предполагает, что это сходство может быть не совпадением.
Исследователи проанализировали миллионы заявок и пришли к выводу, что различные компании могут использовать системы искусственного интеллекта, которые воспроизводят одни и те же критерии принятия и отбраковки. Исследование под названием «Алгоритмические монокультуры в найме» изучило около 4 миллионов заявок, поданных более чем 3,4 миллионами человек в 156 компаний из 11 секторов экономики.
Ключевым выявленным фактором было то, что все эти организации использовали алгоритмы, предоставленные одним и тем же поставщиком. Эта деталь позволила выявить явление, называемое «алгоритмической монокультурой», термин, заимствованный из сельского хозяйства, где обширные территории посвящены одному типу посевов. Когда многие компании принимают аналогичные инструменты, возрастает вероятность того, что они будут оценивать соискателей, по сути, по одной и той же логике, что относится как к успехам, так и к недостаткам, присущим моделям.
Другое важное открытие касается схожих профилей кандидатов. Согласно исследованию, люди с аналогичными характеристиками, как правило, получают последовательную оценку, даже претендуя на вакансии в разных корпорациях. Основные результаты показывают, что примерно 10% кандидатов, участвующих в четырех отборах, отклоняются во всех них. Кроме того, около 4% тех, кто подает заявки на десять вакансий, сталкиваются с десятью последовательными отказами.
Отказы происходят чаще, чем ожидалось при независимом принятии решений. Примечательно, что многие резюме отсеиваются еще до того, как их рассмотрит человек-рекрутер. Чтобы подтвердить, был ли это поведение случайным, исследователи сравнили данные с теоретической базой и предыдущими исследованиями о найме без алгоритмической централизации, показав, что последовательные отказы отражают общий паттерн между различными процессами отбора.
Согласно проведенным симуляциям, продолжение отправки резюме все еще выгодно. Исследование показывает, что увеличение объема заявок повышает шансы получить возможность, хотя эта выгода снижается, когда компании используют идентичные системы. В сценарии, где решения автономны, около десяти заявок будет достаточно для достижения высокой вероятности получения хотя бы одной положительной рекомендации. Однако, когда процессы опосредованы централизованными платформами, это число возрастает примерно до 25 заявок, чтобы гарантировать вероятность в 99,9%.
Авторы также предупреждают о концентрации рынка технологий, ориентированного на подбор персонала. Поскольку немногие поставщики обслуживают множество компаний, любые существующие предубеждения или ограничения могут быстро распространиться. Более того, низкая прозрачность этих платформ затрудняет проведение независимых исследований и усложняет понимание того, как такие инструменты влияют на доступ к работе, при этом для многих кандидатов весь этот процесс происходит без ведома того, что алгоритм провел первый анализ резюме.
