Искусственный интеллект (ИИ) может использоваться в компьютере различными способами. Такие сервисы, как чат-боты и помощники вроде ChatGPT, Gemini и Copilot, могут работать в облаке, тогда как ПК с ИИ начинают включать специализированное оборудование для выполнения определенных задач непосредственно на устройстве.
Однако эти два подхода не обязательно должны конкурировать друг с другом. По мнению Карлоса Буарке, директора по маркетингу Intel Brasil, тенденция заключается в том, что приложения ИИ будут сочетать локальную и облачную обработку в зависимости от характеристик каждой задачи. Он заявил в интервью Olhar Digital: «Мы считаем, что все приложения ИИ станут гибридными приложениями».
Одной из причин переноса обработки ИИ на компьютер является желание избежать отправки определенных данных в облако. Буарке указывает на конфиденциальность и стоимость использования сервисов ИИ как на факторы, способствующие локальному выполнению. По его словам, языковые модели, установленные на самом ПК, способны выполнять такие операции, как корректура текстов, перевод и анализ данных.
Выполнение части рабочих процессов локально может снизить расходы, поскольку некоторые задачи перестают зависеть от облачной обработки. В таком сценарии модель загружается в машину и выполняет выводы локально, не требуя подключения к интернету для этой конкретной задачи.
Конфиденциальность особенно важна, когда ИИ работает с личной или секретной информацией. Буарке рассказал, что использовал ИИ для анализа данных своей налоговой декларации, включая сведения об операциях с акциями. Он отметил, что не хотел бы отправлять такой контент в публичную модель без гарантий конфиденциальности данных.
Директор также привел пример медицинского обслуживания, где локальная обработка имеет смысл. Например, во время консультации транскрипция могла быть выполнена прямо на компьютере перед включением в медицинскую карту врача. Он подчеркнул: «Я транскрибирую консультацию. Это критически важная, конфиденциальная информация моего пациента. Она будет выполняться локально и транскрибироваться на моем компьютере для попадания в карточку моего пациента на моем компьютере. Я не буду запускать это в облаке, понимаете? Потому что существует конфиденциальные отношения между врачом и пациентом».
Кроме того, существуют ситуации, когда соединение является решающим фактором. На фабрике Буарке приводит пример использования компьютерного зрения для обнаружения дефектов на производственной линии. В этом случае анализ может происходить локально, чтобы работа не зависела от сети. Он утверждает: «Вы не будете запускать это в облаке, вы запускаете это локально из-за производительности».
Аналогичный принцип применим и к системам безопасности. Буарке упоминает камеры, способные идентифицировать определенные ситуации и принимать решения локально, например, активируя оповещение или сигнализацию.
Локальная обработка не отменяет необходимость в облачных сервисах. Сам Буарке упоминает чат-боты как приложения, которые продолжают хорошо функционировать в облаке. Он говорит: «Я запускаю свой Copilot, Gemini, ChatGPT в облаке».
Облако остается вариантом, когда часть работы требует обработки, которая не должна происходить на устройстве. Вместо окончательного выбора между архитектурами, Буарке считает, что приложения могут распределять задачи между компьютером и внешними серверами. Он заключает: «Есть разные типы приложений, которые очень разумно запускать локально, и есть другие, для которых я бы сказал, что смысл — гибридный. Будет часть, которую вы запустите локально, и другая, которую вы запустите вне из-за производительности».
Эта модель также может применяться для разделения различных типов информации внутри одного приложения. Буарке приводит примеры, когда более чувствительные данные остаются на устройстве, в то время как общедоступная информация или задачи, требующие внешних поисков, обрабатываются в облаке.
Обсуждение локальной обработки не ограничивается размещением чат-бота в ноутбуке. Буарке утверждает, что новые приложения могут использовать способность выполнять модели непосредственно на устройстве для создания опыта, отличного от текущего. В играх, например, он упоминает неигровых персонажей (NPC). По мнению эксперта, локально исполняемые модели ИИ могут сделать этих персонажей умнее, заставить их вести себя более естественно и лучше реагировать на стиль игрока.
С помощью ИИ эти неигровые персонажи смогут стать гораздо умнее и действовать естественно. Игра сможет гораздо лучше адаптироваться к вашему стилю игры и стать намного более персонализированной для вас.
Еще один пример появляется в видеоконференциях. Буарке отмечает, что платформы вроде Microsoft Teams используют ЦП, ГП и НПУ для выполнения таких функций, как шумоподавление и размытие фона. В этом случае преимущество заключается не только в видимом или слышимом результате, но и в энергоэффективности: такую задачу можно было бы выполнить ЦП, но это потребовало бы больше энергии.
Таким образом, комбинация локальной и облачной обработки не должна определяться полной заменой одной технологии другой. Для Буарке место выполнения каждой части ИИ будет зависеть от характеристик приложения, включая такие факторы, как конфиденциальность, стоимость, производительность и необходимость работы без подключения.
В ходе интервью эксперт подчеркнул, что выбор между локальной и облачной обработкой должен основываться на особенностях каждого приложения. По его мнению, различные задачи могут быть разделены между компьютером и внешними серверами в зависимости от таких факторов, как производительность, стоимость и конфиденциальность.