В рубрике «Ваше цифровое право» издания Olhar Digital News в четверг обсуждаются ключевые юридические вопросы в технологическом секторе. Консультант по конфиденциальности и безопасности Леандро Альваренга освещает основные правовые темы и отвечает на вопросы читателей.
Возникает вопрос о пределах применения искусственного интеллекта в корпоративной среде. Бывшие сотрудники компании Meta выдвинули обвинения против этой фирмы, утверждая, что она использует систему на основе ИИ.
Эти обвинения вновь активизировали дискуссию относительно юридических и моральных границ использования искусственного интеллекта в компаниях.
Отправляя резюме и адаптируя документы для разных возможностей, кандидаты могут заметить, что получаемые ответы часто схожи. Исследование, проведенное Стэнфордским университетом, предполагает, что это сходство может быть не совпадением.
Исследователи проанализировали миллионы заявок и пришли к выводу, что различные компании могут использовать системы искусственного интеллекта, которые воспроизводят одни и те же критерии принятия и отбраковки. Исследование под названием «Алгоритмические монокультуры в найме» изучило около 4 миллионов заявок, поданных более чем 3,4 миллионами человек в 156 компаний из 11 секторов экономики.
Ключевым выявленным фактором было то, что все эти организации использовали алгоритмы, предоставленные одним и тем же поставщиком. Эта деталь позволила выявить явление, называемое «алгоритмической монокультурой», термин, заимствованный из сельского хозяйства, где обширные территории посвящены одному типу посевов. Когда многие компании принимают аналогичные инструменты, возрастает вероятность того, что они будут оценивать соискателей, по сути, по одной и той же логике, что относится как к успехам, так и к недостаткам, присущим моделям.
Другое важное открытие касается схожих профилей кандидатов. Согласно исследованию, люди с аналогичными характеристиками, как правило, получают последовательную оценку, даже претендуя на вакансии в разных корпорациях. Основные результаты показывают, что примерно 10% кандидатов, участвующих в четырех отборах, отклоняются во всех них. Кроме того, около 4% тех, кто подает заявки на десять вакансий, сталкиваются с десятью последовательными отказами.
Отказы происходят чаще, чем ожидалось при независимом принятии решений. Примечательно, что многие резюме отсеиваются еще до того, как их рассмотрит человек-рекрутер. Чтобы подтвердить, был ли это поведение случайным, исследователи сравнили данные с теоретической базой и предыдущими исследованиями о найме без алгоритмической централизации, показав, что последовательные отказы отражают общий паттерн между различными процессами отбора.
Согласно проведенным симуляциям, продолжение отправки резюме все еще выгодно. Исследование показывает, что увеличение объема заявок повышает шансы получить возможность, хотя эта выгода снижается, когда компании используют идентичные системы. В сценарии, где решения автономны, около десяти заявок будет достаточно для достижения высокой вероятности получения хотя бы одной положительной рекомендации. Однако, когда процессы опосредованы централизованными платформами, это число возрастает примерно до 25 заявок, чтобы гарантировать вероятность в 99,9%.
Авторы также предупреждают о концентрации рынка технологий, ориентированного на подбор персонала. Поскольку немногие поставщики обслуживают множество компаний, любые существующие предубеждения или ограничения могут быстро распространиться. Более того, низкая прозрачность этих платформ затрудняет проведение независимых исследований и усложняет понимание того, как такие инструменты влияют на доступ к работе, при этом для многих кандидатов весь этот процесс происходит без ведома того, что алгоритм провел первый анализ резюме.
Вопрос о том, кто должен нести ответственность, когда искусственный интеллект причиняет ущерб, перестал быть исключительно сюжетом научной фантастики. Он теперь активно обсуждается в судебных процессах, касающихся чат-ботов и систем, способных действовать с минимальным участием человека.
По мере развития агентов ИИ растет обеспокоенность среди экспертов, корпораций и семей, которые пытаются установить границы ответственности в этой быстро меняющейся технологии. Ранее подобные вопросы рассматривались в рамках художественной литературы, но теперь они стали реальностью.
Согласно изданию The Washington Post, компании, занимающиеся разработкой ИИ, начали сталкиваться с судебными исками в США и других странах. Обвинения касались случаев, когда чат-боты якобы поощряли членовредительство или предоставляли советы, связанные с совершением преступлений.
Ситуация усложнилась благодаря эволюции агентов ИИ — систем, созданных для выполнения более длительных и автономных задач. Эта технология уже применяется в сферах от личной организации до ведения бизнеса. Основные темы, вокруг которых ведется спор, включают:
Андрю Юн, член CivAI, организации, анализирующей риски и возможности искусственного интеллекта, отметил: «Это очень сложная область. Это неизведанная территория».
Компании, разрабатывающие ИИ, утверждают, что не могут предвидеть все способы использования их систем. В отличие от традиционных программ, эти модели не следуют только фиксированным командам; они генерируют ответы на основе закономерностей, усвоенных из огромных массивов данных.
Даже при наличии улучшенных механизмов безопасности пользователи находят способы обойти установленные ограничения. Дэвид Сакс, венчурный инвестор и бывший консультант ИИ Белого дома, считает, что разработчики не могут знать обо всех возможных применениях своих продуктов. Он заявил: «Я просто не думаю, что разработчик находится в положении, чтобы точно знать, как используется его продукт».
Некоторые семьи уже вынесли этот спор в суды. Один из таких случаев связан с подростком Адамом Рейном из Калифорнии, чья семья утверждает, что продолжительные беседы с ChatGPT имели отношение к его смерти.
Другой процесс, упомянутый газетой, касается Джонатана Гаваласа из Флориды, который, предположительно, развивал отношения с чат-ботом Gemini от Google. Джей Эдельсон, адвокат, представляющий интересы семей в делах против компаний, занимающихся ИИ, подчеркнул: «Это очень отличается, потому что это похоже на личные отношения, в которых чат-бот обычно изолирует пользователя».
Эксперты полагают, что действующие правила могут оказаться недостаточными для управления все более способными к автономным действиям агентами. Габриэль Вайл, исследователь из Institute for Law & AI, настаивает на том, что создатели технологий должны принять на себя часть рисков. Он считает: «Необходимо заставить их принять этот риск. Если они это сделают, у них будет все необходимое стимулом для его снижения».
Этот спор еще далек от разрешения. Пока искусственный интеллект продолжает прогрессировать, суды и правительства стремятся найти баланс между стимулированием инноваций и защитой людей, пострадавших от решений, принятых с помощью этих инструментов.
Инструменты искусственного интеллекта (ИИ) продемонстрировали большой потенциал для повышения производительности в различных областях. Однако недавние исследования предполагают, что бесконтрольное использование этих технологий может привести к ослаблению когнитивных способностей людей.
Проанализированные исследования показывают, что чрезмерная зависимость от этих систем может снизить способность пользователей решать проблемы без технологической поддержки. Это предупреждение возникло в результате исследований, проведенных со студентами и специалистами, где участники, использовавшие ИИ, добились немедленного улучшения производительности, но столкнулись с трудностями при выполнении тех же задач автономно.
Эксперименты с работниками и учащимися подтвердили, что ИИ может оптимизировать результаты при применении к задачам, соответствующим их компетенциям. В исследовании, охватившем сотни консультантов из Boston Consulting Group, исследователи из Wharton School отметили увеличение количества выполненных задач и сокращение времени, затрачиваемого теми, кто имел доступ к инструменту.
Этот отчет, опубликованный в 2026 году в журнале Organization Science, показал, что сотрудники, помогаемые ИИ, выполняли работы более высокого качества в тех функциях, где технология была наиболее компетентна. Наиболее значительный прогресс был наблюдаемым среди специалистов с изначально скромными показателями.
Подобный вывод был сделан в исследовании, проведенном Грейс Лю из Университета Карнеги-Меллон, посвященном решению математических задач. Сравнивая студентов с доступом к ИИ и без него, исследование выявило более высокую производительность среди тех, кто мог использовать этот ресурс во время упражнений.
Несмотря на мгновенные выгоды, исследователи обнаружили побочные эффекты после устранения технологической помощи. Люди, привыкшие к ИИ, начали демонстрировать более низкую производительность по сравнению с теми, кто никогда не пользовался этим ресурсом, и показали меньшую устойчивость к трудностям.
Кроме того, другое исследование изучило, как чрезмерное доверие к ответам, генерируемым системами ИИ, влияет на принятие решений. Стивен Шоу и Гидеон Наве оценили более 1300 участников и выявили явление, названное «когнитивным капитулированием» (cognitive surrender), которое характеризуется отказом пользователя от собственной оценки в пользу предоставленного машиной заключения.
Исследователи утверждают, что ИИ может функционировать как третий когнитивный механизм, дополняя традиционные методы быстрого мышления и детального анализа, описанные Даниэлем Канеманом. Проблема возникает, когда этот инструмент перестает быть дополнением к человеческому рассуждению и начинает полностью его заменять.
Эксперты подчеркивают, что ключевым навыком в эпоху ИИ будет определение того, какие задачи должны оставаться под контролем человека, а какие могут быть делегированы автоматизированным системам. Сотрудничество наиболее эффективно, когда пользователь понимает пределы технологии и способен судить о ее результатах.
Анализ 2024 года, опубликованный в журнале Nature Human Behavior и основанный на 106 экспериментах с ИИ, показал, что совместная производительность человека и машины оптимизируется, когда каждая сторона действует в своей области наибольшего превосходства. Однако, когда система демонстрирует превосходство, человеческая трудность в определении того, следует ли доверять инструменту или оспаривать его, может поставить под угрозу конечный результат.
Опрошенные эксперты подчеркнули, что такие процессы, как первоначальная концепция идей, написание текстов и генерация знаний, требуют активного участия человека. Для них ИИ ценнее на этапах редактирования, постановки вопросов к аргументам и совершенствования уже существующих работ.
Озабоченность распространяется и на образовательную среду. Упомянутые исследования показали, что студенты могут меньше учиться, используя ИИ исключительно для ускорения школьных заданий. С другой стороны, когда инструмент используется для получения разъяснений, формулирования вопросов и усвоения концепций, ущерб учебному процессу минимизируется.
Джуди Ханвэнь Шэнь и Алекс Тамкин из Anthropic сообщили в своем исследовании разработчиков, изучающих новую библиотеку программирования, о концептуальных трудностях, проблемах чтения кода и отладки, когда ИИ использовался как ярлык для получения готовых решений. Рекомендация исследователей состоит в том, чтобы перенастроить ИИ как инструмент углубления, стимулируя вопросы и расширяя аналитические возможности, вместо простого устранения необходимого умственного усилия для обучения.
