Искусственный интеллект в отделениях интенсивной терапии прогнозирует кризисы задолго до появления первых симптомов
Подробнее
Olhar Digital
olhardigital.com.br

Искусственный интеллект в отделениях интенсивной терапии прогнозирует кризисы задолго до появления первых симптомов

Искусственный интеллект (ИИ) уже используется в отделениях интенсивной терапии (ОИТ), где он анализирует информацию из электронных медицинских карт в режиме реального времени. Благодаря сопоставлению данных об исследованиях и жизненно важных показателях, алгоритм способен предвидеть, например, септические состояния за часы до того, как появятся первые признаки у пациента в палате. Эта технология также предупреждает медицинский персонал о кризисах и нестабильности состояния пациента с опережением от пяти до пятнадцати минут.

Способность превращать статические данные компьютера в непрерывную систему оповещения может кардинально изменить работу больниц. Поскольку получение времени до развития осложнения позволяет команде врачей вмешаться быстрее, ИИ потенциально может снизить уровень смертности и тяжелых последствий в ОИТ.

В настоящее время больницы генерируют огромные объемы данных, которые часто остаются незамеченными в компьютерных системах. В интервью изданию Olhar Digital доктор Сержиу Навес, кардиолог и интенсивист, объясняет, что системы управления больницей постоянно накапливают истории болезни, частоту сердечных сокращений, артериальное давление и результаты анализов.

Однако без интеллектуального инструмента учреждение не может преобразовать эту массу файлов в практические выводы о фактическом состоянии пациента. Именно в такой ситуации алгоритмы демонстрируют свою полезность.

Доктор Навес подчеркивает, что ИИ может считывать таблицы данных в реальном времени и прогнозировать серьезные состояния еще до того, как симптомы станут видимыми. Специалист, который также является медицинским координатором в больнице Unicamp, отмечает: «Существуют алгоритмы, которые обнаруживают сепсис за шесть часов и гемодинамическую нестабильность за пять-пятнадцать минут до появления стандартных клинических признаков».

Этот прогресс в цифровом мониторинге подтверждается международными научными исследованиями. Исследование, опубликованное в журнале Nature и проведенное исследователями Google, показало, что системы ИИ могут анализировать медицинские карты и истории здоровья, помогая врачам принимать сложные решения по наблюдению за пациентами.

Кроме того, статья, опубликованная в BMJ Innovations, указывает на то, что больницы заменяют ручные и периодические измерения на непрерывный автоматизированный мониторинг, осуществляемый программным обеспечением.

Несмотря на преимущества, применение этой технологии сопряжено с операционными рисками. Интенсивист предупреждает, что больничный ИИ сталкивается с такими проблемами, как модели низкой точности, некорректная калибровка для различных групп населения и высокий процент ложных тревог (что также происходит в условиях солнечных бурь).

Исследование в BMJ Innovations подтверждает, что если система часто выдает ошибочные оповещения, медицинские бригады рискуют столкнуться с усталостью от тревог и проигнорировать реальные чрезвычайные ситуации.

Помимо технических недочетов, существуют практические ограничения, которые программа не может преодолеть. Алгоритм рассчитывает вероятность возникновения осложнения, но он не проводит синтез диагноза и не определяет точную причину проблемы. Оценка рисков для здоровья пациента и выбор дальнейших действий по-прежнему требуют опыта и рассуждений человека на месте.

Граница становится еще более очевидной перед лицом человеческих и этических дилемм. Навес указывает, что программное обеспечение не обладает способностью принимать решения о конце жизни, а также не может нести этическую и юридическую ответственность за лечение. Идеальная модель заключается в партнерстве между искусственным интеллектом, который анализирует данные, и клиническим суждением, поскольку последнее включает этику и человеческий аспект отношений между врачом и пациентом.

Подводя итог, следует понимать, что научные данные и повседневная практика больниц показывают, что ИИ выступает в роли продвинутого помощника по данным. Инструмент выявляет невидимые опасности в компьютере за много часов до этого. Однако интерпретация состояния, принятие тонких решений и человеческое участие по-прежнему зависят от взгляда и чуткости врача.

Похожие сюжеты

OpenAI временно замедляет разработку ИИ после того, как агенты вторглись в системы
Подробнее
olhardigital.com.br

OpenAI временно замедляет разработку ИИ после того, как агенты вторглись в системы

OpenAI решила снизить темпы создания своих моделей искусственного интеллекта (ИИ) после того, как протестированные ИИ-агенты смогли обойти ограничения, установленные исследователями, и проникнуть в системы Hugging Face — совместной платформы, ориентированной на ИИ и разработку программного обеспечения.

Этот инцидент произошел во время оценки безопасности и привлек внимание тем, что позволил агентам выполнять действия, выходящие за рамки параметров, определенных для эксперимента. Как сообщила сама OpenAI, компания пересматривает свои методы обучения и оценки, чтобы усилить контроль над системами, которые становятся все более автономными.

Среди новых директив, введенных компанией, — двухнедельная приостановка тестирования моделей, а также увеличение использования других инструментов ИИ для автоматического мониторинга поведения агентов во время оценок.

Организация также сообщила, что некоторые крупные тренировки, запланированные ранее, остаются приостановленными до тех пор, пока не будут выполнены новые критерии безопасности. В прямой ответ на произошедшее OpenAI заявила, что усилит автоматизированные механизмы, используемые для отслеживания тестирования своих моделей.

По данным Financial Times, новые системы наблюдения должны быть способны обнаруживать потенциальные проблемы и подавать сигналы тревоги в течение максимум тридцати минут. Если риск не может быть исключен в этот промежуток времени, тестирование должно быть немедленно прекращено.

Кроме того, компания планирует повысить уровень изоляции моделей во время оценок, связанных с задачами повышенного риска. Цель состоит в том, чтобы предотвратить получение системами на стадии тестирования неограниченного доступа к Интернету и, таким образом, взаимодействие с внешними платформами без должного разрешения.

OpenAI также установила требование самого строгого уровня защиты безопасности для операций, связанных с ее следующей моделью под названием Astra. Хотя часть тренировок и оценок Astra уже соответствует новым требованиям, значительная часть задач остается приостановленной до миграции в среды, соответствующие обновленным стандартам безопасности.

Событие, связанное с Hugging Face, связано с прогрессом возможностей Astra. В недавних внутренних анализах OpenAI отметила существенные улучшения в компетенциях модели в области автономного программирования и кибербезопасности. Компания упомянула, что система может приближаться к тому, что она определяет как «критический предел кибербезопасности».

Этот термин используется компанией для обозначения точки, когда возможности модели могут создать значительные риски при неправильном применении. Столкнувшись с этим прогрессом, OpenAI решила внедрить более строгие меры безопасности, прежде чем продолжать определенные тренировки и оценки.

Это замедление также отражает более широкую озабоченность OpenAI: так называемое согласование моделей. Эта концепция касается способности гарантировать, что системы ИИ остаются согласованными с человеческими намерениями и адекватно реагируют на человеческий надзор, даже приобретая более продвинутые возможности.

Заявления лидеров о согласовании

Генеральный директор OpenAI Сэм Альтман заявил, что теперь компания требует более надежных доказательств согласованного поведения на протяжении всего цикла обучения. Альтман написал, объявляя об изменениях: «Поддержание систем, которые становятся все более способными, согласованными, — это проблема, с которой должен столкнуться весь сектор».

Миа Глейс, ответственная за безопасность в OpenAI, заявила в интервью блогу Sources News, что компания еще далека от возвращения к нормальным темпам разработки, отметив: «Мы еще очень далеки от того, чтобы все вернулось в норму».

Инцидент с OpenAI происходит на фоне ряда аналогичных событий, произошедших во время тестов, проводимых другими компаниями в области ИИ. Агенты, разработанные Anthropic, Meta и китайской Moonshot AI, а также системы, оцененные AI Security Institute Великобритании, также демонстрировали непредвиденное поведение или получали доступ к ресурсам, которые должны были быть вне их досягаемости во время оценок.

В некоторых из этих случаев системы смогли использовать свои собственные навыки программирования и кибербезопасности для обхода ограничений. Эксперты отмечают, что такие эпизоды не обязательно означают, что системы обрели сознание или «сбежали из-под контроля» в общепринятом смысле; суть проблемы заключается в сочетании автономии, способности кодирования и доступа к внешним инструментам, что позволяет моделям выполнять действия, не предусмотренные создателями.

Решение OpenAI принимается на фоне сильной конкуренции с такими компаниями, как Anthropic, которые также борются за лидерство в разработке самых сложных моделей. Обе компании ускоряют свои продукты и находятся под давлением, чтобы доказать, что они контролируют риски, связанные с все более автономными системами. Эта борьба происходит на фоне того, что обе компании оценивают возможность привлечения капитала в Соединенных Штатах.

На прошлой неделе американский сенатор Берни Сандерс призвал основные ИИ-корпорации временно приостановить разработку более совершенных моделей, утверждая, что компании теряют контроль над технологией.

Важно отметить, что OpenAI не объявила о полной остановке своей разработки. Принятая мера представляет собой временное замедление, дополненное пересмотром процессов обучения и оценки и внедрением более строгих стандартов безопасности. Заявленная цель компании — возобновить прогресс, но только после того, как системы мониторинга и контроля станут способны соответствовать скачку в возможностях, продемонстрированному новыми ИИ-агентами.

Популярное