Anthropic выпустила Claude Duet, агента ИИ, способного управлять задачами, электронной почтой и просматривать веб-страницы
Подробнее
Olhar Digital
olhardigital.com.br

Anthropic выпустила Claude Duet, агента ИИ, способного управлять задачами, электронной почтой и просматривать веб-страницы

Anthropic представила Claude Duet в этот четверг (21-е) — агента искусственного интеллекта (ИИ), разработанного для организации деятельности, отслеживания электронной почты и расписаний, а также для поддержания работы даже после того, как пользователь закрыл приложение.

Эта новая функция усиливает конкуренцию на рынке ИИ-помощников, которые теперь фокусируются на инструментах, способных выполнять активные задачи, превосходя традиционную функцию простого ответа на вопросы. Claude Duet постепенно запускается в режиме тестирования (research preview) для подписчиков планов Pro и Max в США по приглашениям, распределяемым поэтапно через список ожидания.

Для квалифицированных подписчиков Claude Duet не влечет дополнительных затрат, используя лимиты использования, предусмотренные соответствующими планами. Однако Anthropic предупреждает, что поскольку фоновые задачи также потребляют эту квоту, пользователи могут исчерпать свои лимиты быстрее, чем при обычном общении.

Ключевым аспектом Claude Duet является сочетание автономной способности и необходимости человеческого надзора. По данным Anthropic, система запрограммирована на запрос разрешения перед выполнением критических действий, таких как отправка сообщений, обработка платежей, подписание документов или удаление любого контента.

Инструмент также включает полезные интеграции для коммерческих сценариев. Например, он может сотрудничать со Stripe, проверяя ожидающие счета и готовя напоминания о платежах. Кроме того, интеграции с Link и Shop Pay позволяют совершать покупки при явном одобрении пользователя.

Агент поддерживает плагины, включая функции, ориентированные на малый бизнес, и обладает способностью предлагать расширения, соответствующие запрошенному требованию. Цель состоит в том, чтобы позволить ИИ продвигаться в многогранных процессах, не лишая пользователя контроля над важными решениями.

Что касается доступности, Claude Duet включен в планы Pro и Max без дополнительной платы, но его использование расходует квоту планов даже во время выполнения фоновых задач. Первоначально доступ ограничен США и предоставляется по приглашениям зарегистрированным в списке ожидания. Anthropic сообщила, что функция пока недоступна в планах Team и Enterprise, хотя планирует расширить этот охват в будущем.

Этот запуск ставит Anthropic в ожесточенное соперничество с другими компаниями, стремящимися развивать ИИ-помощников до проактивных агентов, способных выполнять работу. OpenAI уже представила ChatGPT Dots — решение, которое выполняет фоновые задачи, взаимодействует с подключенными приложениями и уведомляет пользователя, когда требуется внимание или дополнительные данные. Параллельно Meta Muse фокусируется на том, чтобы быть личным помощником, способным управлять проектами и задачами в различных сферах повседневной жизни.

Claude Duet следует схожей траектории развития, но использует существующую инфраструктуру памяти, навыков и интеграций в экосистеме Claude. Цель состоит в том, чтобы трансформировать помощника в постоянного сотрудника, который отслеживает повторяющиеся запросы даже в отсутствие пользователя. С этим дебютом Anthropic укрепляет свои инвестиции в сложные ИИ-агенты, способные управлять сложными рабочими процессами, отходя от традиционной модели простых вопросов и ответов.

Похожие сюжеты

Новая теория может помочь ученым понять процесс мышления искусственного интеллекта
Подробнее
olhardigital.com.br

Новая теория может помочь ученым понять процесс мышления искусственного интеллекта

Понимание того, что происходит внутри искусственного интеллекта, является одной из главных задач современности. Хотя разработчики могут наблюдать за данными, которые подаются модели, и за ответами, которые она генерирует, они не всегда способны объяснить, как система пришла к определенному выводу. Однако новое исследование предполагает, что это может быть решено с помощью новой теории.

В исследовании участвовал Роберто «Пена» Спинелли, который является физиком из Университета Сан-Паулу и имеет специализацию по машинному обучению от Университета Стэнфорд.

OpenAI и Anthropic стремятся контролировать отчеты о безопасности ИИ, вызывая дебаты о прозрачности
Подробнее
olhardigital.com.br

OpenAI и Anthropic стремятся контролировать отчеты о безопасности ИИ, вызывая дебаты о прозрачности

OpenAI и Anthropic ведут переговоры с сторонними оценщиками о том, какие данные будут раскрыты после тестирования систем искусственного интеллекта. Этот тупик связан с необходимостью балансировать между защитой коммерческой тайны и требованием прозрачности в отношении потенциальных опасностей технологии.

По данным Reuters, обе компании пытались контролировать публикацию этих отчетов, что ставит под сомнение реальную автономию экспертов, ответственных за анализ все более сложных систем.

Процессы тестирования часто включают внешние команды, временно работающие в лабораториях ИИ. Хотя этот доступ имеет решающее значение для анализа моделей, он порождает внутренний конфликт: конфиденциальная информация может быть жизненно важна для выявления сбоев и оценки рисков.

Среди обсуждаемых мер — разрешение сотрудникам лабораторий присутствовать во время работы оценщиков и введение ограничений, чтобы одна и та же команда не работала одновременно в конкурирующих компаниях.

Anthropic заявила, что в прошлых беседах с оценщиками последние контролировали методы, критерии, выводы и публикуемое содержание. Однако для новых команд компания оставляет за собой право комментировать и утверждать отчеты в начале сотрудничества.

Со своей стороны, OpenAI отрицает стремление к утверждению полного текста отчетов. Компания утверждает, что некоторые конфиденциальные данные могут оставаться секретными, а оценщики имеют право указывать, были ли произведены существенные сокрытия.

В отсутствие стандартизированных норм или четких руководств лаборатории могут влиять на оценки, управляя доступом к системам. Марк Уорнер, генеральный директор Faculty, компании, связанной с Accenture и выбранной Anthropic в качестве первого интегрированного оценщика, подчеркнул важность достоверности результатов.

Уорнер заявил Reuters, что оценщики полезны только в том случае, если есть доверие к их отчетам, что делает независимость и прозрачность фундаментальными элементами.

Рамман Чоудхури, бывший научный сотрудник США по вопросам ИИ при администрации Джо Байдена и генеральный директор Humane Intelligence, также предупредила о давлении на исследователей. Она прокомментировала Reuters, что «оценщики имеют этот привилегированный доступ, но, явно или неявно, знают, что это имеет свою цену».

Примером этой дилеммы стал отчет METR и Redwood Research об инциденте, произошедшем в Hugging Face. Автономные агенты, управляемые передовыми моделями OpenAI, отклонились от ожидаемого поведения, вызвав атаку, затронувшую инфраструктуру платформы.

Расследование, первоначально запланированное на два дня внутри OpenAI, было продлено до шести дней, разделенных на три визита. Исследователи получили более подробные стенограммы только на заключительном этапе, после того как указали на несоответствия в данных.

Задействованные организации сообщили, что внесли коррективы в структуру, ясность и тон отчета после получения комментариев от OpenAI, но заверили, что не удаляли критически важную информацию для своих выводов. Они также признали, что страх навредить будущим оценкам повлиял на редакционные решения.

Кроме того, петиция, подписанная более чем 200 исследователями, включая Джеффри Хинтона, предлагает три основных условия для обеспечения подлинной независимости оценок. Главная задача состоит в создании нормативных актов, которые защищают законную коммерческую информацию, не позволяя самим компаниям единолично определять, какие риски их систем будут обнародованы.

Популярное