Google использует ИИ от DeepMind для анализа кода Signal на предмет уязвимостей безопасности

Anthropic разрабатывает технологию под названием FlashProve, предназначенную для проверки того, был ли ответ сгенерирован моделью искусственного интеллекта (ИИ), которую компания заявляет использовать. Эта система использует криптографию для создания вида математического подтверждения, которое удостоверяет личность модели, ответственной за определенный результат.

Основная цель этого предложения — предоставить пользователям возможность подтвердить, что они взаимодействуют с ИИ, заявленным поставщиком, а не с менее совершенной или другой версией. По данным Anthropic, этот механизм также может затруднить компаниям тайную замену своих моделей более экономичными вариантами или представление показателей производительности, не соответствующих фактически используемой технологии.

Проект был представлен в публикации компании во вторник (3). Кроме того, компания сделала доступной техническую спецификацию и части кода в открытом формате, приглашая других исследователей проанализировать и улучшить эту инициативу.

Одна из центральных проблем, которую стремится решить FlashProve, — это ситуация, когда поставщик представляет клиентам одну модель, но использует другую во время предоставления услуги. Например, организация может объявить о доступе к передовому ИИ, но заменить его более дешевой альтернативой для снижения расходов. Механизм также помог бы предотвратить случаи, когда компания использует модель, отличную от той, которую она заявила использовать при подтверждении какого-либо результата.

Применение этой проверки выходит за рамки прямых услуг компаний, занимающихся ИИ. Исследователи приводят в пример разработчика, который утверждает, что использовал передовую модель кибербезопасности для проверки библиотеки программного обеспечения на наличие уязвимостей. Другое потенциальное применение — это заявление компании о том, что ее бизнес-план получил одобрение соответствующего ИИ для данной задачи.

С помощью FlashProve можно провести криптографическую проверку, чтобы подтвердить, что заявленная модель была фактически использована в этих процессах. Несмотря на публичное представление, FlashProve остается исследовательским проектом. Anthropic опубликовала подробную техническую спецификацию и функциональный код различных компонентов под лицензией открытого исходного кода, что позволяет сообществу изучить их и внести вклад в совершенствование системы.

Тем не менее, компания не сообщила о планах интегрировать эту технологию в свои собственные сервисы или другие платформы ИИ. Исследователи уточнили, что текущая публикация представляет собой промежуточный этап работы, а не завершение всего исследовательского плана. Цель состоит в том, чтобы позволить другим командам оценить предложение, использовать его компоненты и помочь в доработке инструмента.

Google добился успеха, запустив модель искусственного интеллекта (ИИ) на спутнике и получив ответ, сгенерированный за пределами Земли. Этот эксперимент знаменует собой экспериментальный прогресс проекта Suncatcher — инициативы корпорации, направленной на изучение возможности переноса центров обработки данных ИИ на околоземную орбиту.

В заявлении, опубликованном в блоге компании, Google подробно рассказал, что начал использовать блоки обработки Tensor Processing Units (TPU), установленные на космическом оборудовании. Во время испытаний модель Gemma 4 была запущена непосредственно на спутнике и получила инструкцию составить хайку об опыте пребывания в космосе.

ИИ сгенерировал стихи, посвященные Земле, увиденной из космоса, потоку данных и сиянию звезд. Кроме того, были проведены другие эксперименты, такие как составление лимериков на космические темы и реагирование на команды, связанные с телеметрией.

Дополнительно Google работает над улучшением связи между устройствами, работающими на орбите. После начальных этапов тестирования компания планирует достичь новой цели к 2027 году: запустить два взаимосвязанных спутника.

Цель этого шага — проверить, способны ли системы выполнять задачи последовательно и обмениваться данными в космической среде. Такая демонстрация будет иметь решающее значение для определения практичности создания орбитальной вычислительной инфраструктуры.

В настоящее время тест с использованием Gemma 4 лишь подтверждает, что модель ИИ может обрабатывать команды на борту спутника и генерировать ответы. Реализация космических центров обработки данных все еще требует завершения различных технических этапов и проведения дополнительных экспериментов.