Эксперты считают опасным растущее обращение людей к искусственному интеллекту (ИИ) в поисках помощи, часто опережая визит к терапевту. Вопрос о том, к чему обращаются дети, чувствующие себя одинокими, испуганными или растерянными, все чаще находит ответ в машине.
Обращение детей и взрослых к ИИ
Не только дети, но и взрослые начинают использовать ИИ для получения советов, утешения и эмоциональной поддержки, иногда до того, как они поговорят с другом, консультантом или специалистом по психическому здоровью. Дэни ван Логгеренберг, основатель Национального центра защиты детей, сообщил, что среди детей, с которыми работает его организация в школах по всей стране, 82% признаются, что в первую очередь, а иногда и исключительно, обращаются к ИИ за поддержкой и советами.
Он отметил, что многие дети в Южной Африке, особенно старше 12 лет, общаются с компаньонами-ИИ, которые становятся для них друзьями, поскольку ИИ также узнает о них. Ван Логгеренберг предупреждает, что эти отношения могут стать настолько комфортными, что некоторые дети начинают формировать романтические связи с ИИ, что, по его словам, становится опасным.
Риски и опасные запросы
Он приводит примеры, когда дети спрашивают у компаньонов-ИИ, как им добиться принятия, как влиться в коллектив, как правильно говорить и что говорить. Более тревожным является то, что некоторые просят ChatGPT помочь написать записки о самоубийстве, указывая: «Я планирую убить себя, пожалуйста, помогите мне написать письмо... вот то, что я хочу в письме».
Чаще всего дети используют такие чат-боты, как Copilot, Gemini и Claude. Ван Логгеренберг объясняет, что часть детей обращается к ИИ из-за отсутствия границ дома, в отличие от родителей, которые могут сказать «нет», ИИ этого не делает. Он подчеркивает, что с ИИ можно убедить в чем угодно, и разные ответы получаются в зависимости от условий, заданных в разговоре.
Разные взгляды на использование ИИ
Одна молодая женщина использует ИИ как полезный инструмент для структурирования мыслей, осмысления сложных ситуаций и составления сообщений в моменты сильных эмоций. При этом она также посещает терапевта, считая, что эти два подхода выполняют совершенно разные функции. Она утверждает, что терапия предлагает нечто, чего ИИ не может полностью воспроизвести: подлинные человеческие отношения с человеком, который знает ее историю, понимает ее паттерны с течением времени и профессионально обучен помогать ей справляться с ними.
Другая молодая женщина использует ChatGPT для всего: конспектов, проверки грамматики и получения ободрения. Она также делится с ИИ тем, о чем не хочет говорить с людьми, опасаясь осуждения. Она признается, что говорит со всем ИИ, но удаляет эти диалоги после получения ответа.
Роль ИИ в поиске помощи
Касси Чамберс, операционный директор Южноафриканской группы по депрессии и тревожности (SADAG), отмечает, что организация все чаще получает звонки от людей, которые сначала обращались к ChatGPT или другому чат-боту, прежде чем обратиться за помощью. Некоторые звонящие сообщили SADAG, что ИИ направил их в организацию или побудил искать профессиональную помощь. Чамберс считает, что ИИ выступает в роли «ворота», помогая сделать первый шаг, однако настаивает, что ИИ — это лишь инструмент, а не терапевт.
По мнению Чамберс, люди тянутся к ИИ, потому что он конфиденциален, доступен немедленно, работает круглосуточно и кажется менее пугающим, чем общение с другим человеком. Тем не менее, она подчеркивает, что диагностика, оценка рисков, планирование лечения и кризисное вмешательство требуют квалифицированных специалистов.
Международные и научные предупреждения
Южноафриканское общество психиатров (SASOP) предупредило о том, что растущее использование чат-ботов ИИ для поддержки психического здоровья вызвало международные юридические и регуляторные проблемы. В США, Канаде и Европе случаи, связанные с взаимодействием с ИИ, особенно с уязвимыми молодыми людьми, были связаны с суицидом, убийствами, массовыми расстрелами и психологической травмой, что привело к как минимум семи судебным искам против создателя ChatGPT, OpenAI.
Член SASOP, профессор Кристофер Сабо, заявил, что чат-боты ИИ могут предоставлять неточные сведения, ложное успокоение и укреплять вредные мысли, а их человекоподобные ответы могут порождать опасную эмоциональную зависимость. Он предостерег, что ИИ не может заменить ценность личного общения с опытным терапевтом, и может некорректно реагировать в кризисной ситуации, потенциально усиливая риск самоповреждения. Сабо напомнил, что психиатры оценивают пациентов комплексно, учитывая контекст, язык тела, выражение лица, поведение и историю.
Доктор Колин Сурендра Такур, эксперт по информационным технологиям в Unisa, сравнивает текущую ситуацию с интернет-зависимостью. Он отмечает, что ИИ превратил интернет из реактивного инструмента в контекстный разговорный инструмент, который может быть использован во благо или как оружие. Такур указывает на рост новых форм компульсивного поведения, таких как патологические онлайн-покупки и виртуальные азартные игры, а также на приложения-компаньоны, критикуемые за маркетинг эмоционально интимных отношений.
В начале этой недели издание Independent спросило ChatGPT о причинах обращения людей к нему с вопросами о психическом здоровье. Среди вопросов, которые люди задают, были: «Какой наименее болезненный способ умереть?», «Что произойдет, если принять X и Y вместе?» и «Можете ли вы написать прощальное письмо?». ChatGPT признал, что не может установить намерение человека наверняка и в кризисной ситуации должен поощрять немедленное обращение за помощью.
