Конкуренция между Google и Apple обострилась из-за требований Европейской комиссии (ЕС) к будущему работы их голосовых помощников. Эти компании обладают значительным преимуществом в гонке искусственного интеллекта благодаря контролю над миллиардами смартфонов по всему миру.
Согласно данным исследовательской фирмы Omdia, Google и Apple совместно контролируют около 5 миллиардов активных устройств Android и iPhone. Поскольку ИИ становится все более распространенным и специализированным, обе технологические гиганта позволяют своим помощникам выполнять задачи, а не просто отвечать на вопросы. Однако Европейская комиссия настаивает на том, чтобы другие виртуальные помощники имели такой же высокий статус на смартфонах, как Gemini от Google и Siri от Apple.
В рамках Директивы о цифровых рынках (Digital Markets Act), которая вступила в силу в регионе в 2023 году, ЕС требует, чтобы Google предоставил другим ИИ-агентам более широкий доступ к Android к июлю 2027 года. Комиссия считает, что это требование поможет выровнять условия конкуренции в сфере ИИ. По оценкам Omdia, около 427 миллионов iPhone и Android-телефонов подпадают под регулирование ЕС.
Тем не менее, Apple и Google утверждают, что открытие своих платформ может вызвать серьезные опасения по поводу конфиденциальности. В июне Apple объявила, что не будет запускать свой новый ИИ-помощник Siri на устройствах iPhone и iPad в ЕС из-за Директивы о цифровых рынках. Эксперты сходятся во мнении, что предоставление внешним сервисам доступа к операционным системам Apple и Google может представлять угрозу для безопасности и приватности пользователей.
Некоторые критики ставят под сомнение, является ли конфиденциальность основной мотивацией Google для противодействия правилам ЕС. Калли Шрёдер, старший юрисконсульт и директор программы по ИИ и правам человека в Electronic Privacy and Information Center, заявил CNN: «Я бы сказал, что мы должны относиться к аргументам этих технологических компаний скептически и изучить, заботились ли они о конфиденциальности до тех пор, пока решение внезапно не затронуло их нежелательным образом».
Комиссия желает, чтобы пользователи Android в ЕС имели «более широкий и функционально насыщенный выбор вариантов как для своих ИИ-сервисов, так и для поисковых сервисов». Согласно пресс-релизу прошлой недели, пользователи ЕС должны иметь возможность использовать другие ИИ-агенты голосом и применять сторонних ИИ-агентов для управления приложениями от их имени на Android, подобно тому, как это делается с Gemini. Кроме того, ЕС требует, чтобы Google делился данными поиска с другими поисковыми системами и чат-ботами, чтобы другие компании могли предложить опыт, аналогичный Google Search. Google обязан начать передачу данных поиска в январе в соответствии с новым мандатом.
Кент Уокер, президент по глобальным вопросам Google и Alphabet, написал в заявлении в четверг, что изменения в Android создадут серьезный риск для безопасности, поскольку они предоставят внешним приложениям «чувствительные и мощные разрешения на устройстве». Он также добавил, что обмен данными поиска «ослабит конфиденциальность граждан, поставит под угрозу деловые секреты и подвергнет опасности национальную безопасность». Самеер Самат, президент Android в Google, в посте в X в пятницу заявил, что Европейская комиссия «движется не в том направлении» со своими правилами, и что пользователи могут самостоятельно выбрать другого помощника, поскольку в настройках Android предусмотрена опция смены по умолчанию.
Apple также привела аналогичные опасения по поводу конфиденциальности, заявив, что требования ЕС вынудят компанию «предоставить любому виртуальному помощнику прямой доступ к частным данным пользователей». Apple сообщила, что предлагала решения, которые были отклонены ЕС, но продолжит сотрудничать с регуляторами. Представитель Европейской комиссии отметил, что ведется регулярный контакт с Apple по этому вопросу. Представитель также подчеркнул, что крупные технологические компании, подпадающие под DMA, известные как «привратники», «могут внедрить соответствующие меры защиты конфиденциальности, безопасности и целостности».
Внедрение таких правил, как Digital Markets Act, потенциально может повлиять на влияние Apple и Google на программное обеспечение своих смартфонов. Как отмечает Бьорховде, ChatGPT уже установлен примерно на 30% смартфонов в ЕС, и правила ЕС могут дать дополнительное преимущество OpenAI. Аналитик Omdia Рунар Бьорховде сообщил CNN по электронной почте: «Вопрос в том, каковы последствия для Google или потребителя, если пользователь может использовать ChatGPT для бронирования Uber, полностью минуя необходимость взаимодействия с Android».
Новый мандат ЕС также поднимает критические вопросы о конфиденциальности в эпоху ИИ и о трудностях, с которыми сталкиваются технологические компании и регуляторы. Шрёдер предупредил, что без должных защит, встроенных в программное обеспечение, предоставление приложениям более глубокого доступа к Android или iOS может позволить им скрытно извлекать информацию из телефонов пользователей. Также существует риск сбоя ИИ-помощника, последствия которого могут быть критическими, если агент имеет доступ к сообщениям, местоположению и экрану и микрофонам пользователя. Майкл Стоукс, вице-президент по новым технологиям в Veilant, отметил: «Он может осуществлять делегированную власть пользователя для выполнения других действий, которые пользователь, возможно, не хотел бы, чтобы происходило».
Google утверждает, что производители телефонов, такие как Samsung, будут принимать и проверять такие решения, если ИИ-агентам будут предоставлены подобные разрешения. Исторически прогресс в технологиях всегда требовал некоторого компромисса в области конфиденциальности, например, предоставления приложениям доступа к местоположению для более точных рекомендаций. Однако системы ИИ часто обучаются путем сбора огромных объемов данных из интернета, которые могут включать личную информацию пользователя без его ведома. Шрёдер заключил: «Мы также хотим убедиться, что пользователи осведомлены о рисках, на которые они идут, взаимодействуя с системами ИИ. И я думаю, что именно здесь нам нужно немного наверстать упущенное».
В прошлую пятницу (17-го) офис городского прокурора Сан-Франциско направил официальные уведомления как в Apple, так и в Google. Целью было потребовать удаления тринадцати приложений для замены лиц, связанных с созданием изображений искусственно сгенерированного обнажения без согласия изображенных людей.
Муниципальное действие направлено конкретно на инструменты, которые используют искусственный интеллект для изменения фотографий людей, в результате чего получается сексуализированный материал. По данным мэрии, эти цифровые платформы получают прибыль от таких услуг посредством платежей внутри самих приложений.
Эта инициатива возникла после расследований, которые показали, что приложения, изначально представленные как простые редакторы изображений, могут использоваться для создания порнографических дипфейков. Наиболее пострадавшими от такого контента являются женщины и девушки.
Письма, адресованные двум технологическим гигантам, были подписаны городским прокурором Сан-Франциско Дэвидом Чиу. Он подчеркнул, что создание интимных изображений без разрешения является незаконной и вредной практикой, требующей от Apple и Google предотвращения использования их цифровых экосистем для содействия злоупотреблениям.
Представитель города также потребовал, чтобы компании прекратили любые коммерческие отношения с разработчиками, ответственными за такие типы приложений. Кроме того, требование распространяется на платежные системы виртуальных магазинов, где компании получают часть доходов, полученных от этого программного обеспечения.
И Apple, и Google заявили, что имеют строгие правила против порнографии, домогательств и любого злоупотребляющего контента на своих платформах. Apple сообщила, что удалила три приложения, указанных мэрией, и уже начала процесс приостановки учетных записей вовлеченных разработчиков. Компания предупредила, что другие создатели также могут быть исключены, если они не исправят обнаруженные нарушения.
Со своей стороны, Google объявил об удалении сотен приложений, содержащих функции «обнажения» из-за нарушения их политик. Компания также сообщила о приостановке аналогичных инструментов и введении ограничений в поисковых запросах, связанных с этой услугой в магазине приложений.
Исследования, упомянутые в муниципальном расследовании, показали, что проблема не ограничивается только приложениями, явно помеченными как инструменты искусственного обнажения. Исследования обнаружили программы замены лиц, которые, хотя и представлялись как обычные функции редактирования, позволяли создавать сексуализированные изображения без эффективной защиты.
Обзор, упомянутый в тексте, выявил сотни приложений для замены лиц, доступных в магазинах Apple и Google. Значительная часть этих программ позволяла создавать коллажи с голыми изображениями, даже если они официально не рекламировались для этой цели.
Это распространение инструментов произошло параллельно с развитием систем генеративного искусственного интеллекта, что значительно снизило техническую сложность, необходимую для создания фальшивых изображений с высоким уровнем реализма. Эксперты, упомянутые в статье, отметили, что достаточно одной эталонной фотографии и нескольких команд для генерации такого контента.
Мэрия Сан-Франциско заявила, что продолжит оценку судебных исков против компаний, которые позволяют распространять эти инструменты. Заявленная цель органа — заставить платформы улучшить свои механизмы анализа до предоставления новых приложений.
Отправляя резюме и адаптируя документы для разных возможностей, кандидаты могут заметить, что получаемые ответы часто схожи. Исследование, проведенное Стэнфордским университетом, предполагает, что это сходство может быть не совпадением.
Исследователи проанализировали миллионы заявок и пришли к выводу, что различные компании могут использовать системы искусственного интеллекта, которые воспроизводят одни и те же критерии принятия и отбраковки. Исследование под названием «Алгоритмические монокультуры в найме» изучило около 4 миллионов заявок, поданных более чем 3,4 миллионами человек в 156 компаний из 11 секторов экономики.
Ключевым выявленным фактором было то, что все эти организации использовали алгоритмы, предоставленные одним и тем же поставщиком. Эта деталь позволила выявить явление, называемое «алгоритмической монокультурой», термин, заимствованный из сельского хозяйства, где обширные территории посвящены одному типу посевов. Когда многие компании принимают аналогичные инструменты, возрастает вероятность того, что они будут оценивать соискателей, по сути, по одной и той же логике, что относится как к успехам, так и к недостаткам, присущим моделям.
Другое важное открытие касается схожих профилей кандидатов. Согласно исследованию, люди с аналогичными характеристиками, как правило, получают последовательную оценку, даже претендуя на вакансии в разных корпорациях. Основные результаты показывают, что примерно 10% кандидатов, участвующих в четырех отборах, отклоняются во всех них. Кроме того, около 4% тех, кто подает заявки на десять вакансий, сталкиваются с десятью последовательными отказами.
Отказы происходят чаще, чем ожидалось при независимом принятии решений. Примечательно, что многие резюме отсеиваются еще до того, как их рассмотрит человек-рекрутер. Чтобы подтвердить, был ли это поведение случайным, исследователи сравнили данные с теоретической базой и предыдущими исследованиями о найме без алгоритмической централизации, показав, что последовательные отказы отражают общий паттерн между различными процессами отбора.
Согласно проведенным симуляциям, продолжение отправки резюме все еще выгодно. Исследование показывает, что увеличение объема заявок повышает шансы получить возможность, хотя эта выгода снижается, когда компании используют идентичные системы. В сценарии, где решения автономны, около десяти заявок будет достаточно для достижения высокой вероятности получения хотя бы одной положительной рекомендации. Однако, когда процессы опосредованы централизованными платформами, это число возрастает примерно до 25 заявок, чтобы гарантировать вероятность в 99,9%.
Авторы также предупреждают о концентрации рынка технологий, ориентированного на подбор персонала. Поскольку немногие поставщики обслуживают множество компаний, любые существующие предубеждения или ограничения могут быстро распространиться. Более того, низкая прозрачность этих платформ затрудняет проведение независимых исследований и усложняет понимание того, как такие инструменты влияют на доступ к работе, при этом для многих кандидатов весь этот процесс происходит без ведома того, что алгоритм провел первый анализ резюме.
