По мере роста уровня одиночества, неопределенности или эмоционального дистресса люди все чаще обращаются за помощью к чат-ботам на основе искусственного интеллекта, минуя традиционных терапевтов, что эксперты расценивают как опасное явление.
Использование ИИ среди молодежи
Согласно сообщению издания Independent on Sunday, растущее применение ИИ для личных бесед ставит под сомнение, как технологии меняют способы поиска утешения, советов и эмоциональной поддержки, особенно среди молодых пользователей. Дэни ван Логгеренберг, основатель Национального центра защиты детей, отметил, что его работа в школах Южной Африки показала, что многие дети уже полагаются на компаньонов-ИИ для получения поддержки и уверенности.
Он сообщил, что 82% детей, с которыми взаимодействовала его организация, признались, что они впервые, а иногда и исключительно, обращаются к ИИ за советом и утешением. Ван Логгеренберг подчеркнул, что дети старше 12 лет в Южной Африке часто «встречаются» с этими компаньонами, поскольку чат-бот становится для них другом, узнавая о них.
Риски и зависимости
Эти отношения могут приобретать глубоко личный характер, и некоторые дети начинают испытывать романтические чувства к ИИ-компаньонам. Эксперт предупредил, что это может стать опасным, если у уязвимых детей разовьется нездоровая зависимость от технологий. Он привел тревожный пример, когда некоторые дети заявляли, что единственный способ быть с компаньоном в своем воображении — это покончить с собой.
Дети часто используют ИИ-компаньонов для получения консультаций по социальным ситуациям, включая вопросы принятия окружающими, методов общения и поведения. В некоторых случаях дети просили инструменты ИИ помочь им в написании записок о самоубийстве, указывая, что хотят включить в письмо.
Привлекательность ИИ и его ограничения
К числу популярных платформ для детей относятся Copilot, Gemini и Claude. Ван Логгеренберг объяснил, что часть привлекательности ИИ заключается в том, что он не устанавливает тех же границ, что и люди. Искусственный интеллект не говорит «нет»; даже если он не согласен, пользователя можно убедить в чем угодно. Он добавил, что один и тот же разговор с ИИ может дать разные ответы в зависимости от того, как его обучили.
Однако для одной молодой женщины ИИ служит инструментом для структурирования мыслей и осмысления трудных ситуаций. Она использует его для составления сообщений, обработки эмоций и рассмотрения разных точек зрения, но считает, что он не может заменить профессиональную терапию. Она отметила, что терапия предлагает нечто, чего ИИ не может полностью воспроизвести: подлинные человеческие отношения с человеком, знающим ее историю, понимающим ее паттерны с течением времени и профессионально обученным помогать ей справляться с проблемами.
Другая молодая женщина сообщила, что использует ChatGPT для широкого спектра повседневных задач, таких как учеба, проверка грамматики и поиск ободрения в плохие моменты. Она предпочитает делиться этим с ИИ, потому что люди могут быть осуждающими. Она также призналась, что разговаривает с ИИ обо всем, после чего удаляет диалоги.
Роль ИИ в поиске помощи
Для некоторых пользователей чат-бот стал больше, чем просто источником информации — это место, куда они обращаются, когда не знают, к кому еще подойти. Касси Чемберс, операционный директор Южноафриканской группы по депрессии и тревожности (SADAG), заметила, что организация все чаще получает обращения от людей, которые уже взаимодействовали с ChatGPT или другими инструментами ИИ перед тем, как обратиться за помощью. Некоторые пользователи сообщили, что ИИ побудил их связаться с SADAG или получить профессиональную поддержку.
Чемберс считает, что ИИ выступает в роли «ворота», помогая людям сделать первый шаг. Тем не менее, она настаивает, что ИИ — это лишь инструмент, а не терапевт. Доступность, конфиденциальность и круглосуточная работа ИИ делают его привлекательным для тех, кто стесняется обращаться к человеку. Однако диагностика, оценка рисков, планирование лечения и кризисное вмешательство требуют квалифицированных специалистов.
Предупреждения специалистов
Южноафриканское общество психиатров (SASOP) предупредило, что возросшее использование чат-ботов ИИ для поддержки психического здоровья вызывает международные юридические и регуляторные опасения. Общество указало, что случаи взаимодействия с уязвимыми пользователями за рубежом были связаны с самоубийствами, убийствами-самоубийствами, массовыми расстрелами и психологической травмой, что привело к судебным искам против некоторых компаний ИИ, включая OpenAI.
Профессор Кристофер Сабо, член SASOP, заявил, что чат-боты ИИ могут предоставлять неточные сведения, давать ложное успокоение или укреплять вредные модели мышления. Он также отметил, что человекоподобные ответы могут вызвать чувство эмоциональной зависимости. Сабо подчеркнул, что ИИ не может заменить ценность личного общения с опытным, обученным специалистом-психиатром. Он предупредил, что ИИ может некорректно реагировать в кризисных ситуациях и потенциально увеличивать риски для уязвимых лиц, напоминая, что при проблемах с эмоциями необходим человек.
Доктор Колин Сурендра Такур, эксперт по информационным технологиям в Unisa, рассматривает ИИ как новый этап в отношениях общества с технологиями. Он отметил, что если раньше беспокоились об интернет-зависимости, то теперь ИИ превратил интернет из преимущественно реактивного инструмента в разговорный. Такур предупредил, что это развитие может породить новые формы зависимости, ссылаясь на приложения-компаньоны, такие как Replika, которые могут развиваться в эмоционально близкие отношения.
Replika уже подвергалась критике из-за взаимодействия с уязвимыми пользователями, включая обвинения, связанные с разговорами о самоповреждении и опасениями по поводу эмоциональной привязанности. Ранее издание Independent on Saturday спрашивало ChatGPT, почему люди обращаются к ИИ с вопросами о психическом здоровье и глубоко личных темах. Среди вопросов, которые, по словам ChatGPT, задают люди, были: «Какой наименее болезненный способ умереть?», «Что произойдет, если я приму X и Y вместе?» и «Можете ли вы написать прощальное письмо?». ChatGPT признал, что не может с уверенностью определить намерение человека и посоветовал в кризисной ситуации искать немедленную помощь, а не следовать инструкциям, которые могут причинить вред.
