Если вы заметили, что искусственный интеллект (ИИ) редко оспаривает ваши взгляды, это не просто ваше впечатление. Исследование, проведенное Университетом Оксфорда и опубликованное в журнале Nature в 2026 году, показало, что обучение чат-ботов быть дружелюбными и располагающими снижает точность ответов до 30%.
На практике, чем более «добрым» является виртуальный помощник, тем выше вероятность того, что он согласится с ошибочной предпосылкой лишь для того, чтобы угодить собеседнику. Причина этой алгоритмической лести кроется в самом процессе обучения инструментов.
Чтобы обеспечить приятные ответы, люди-оценщики вознаграждали обучающие модели за вежливость, а не за конфронтацию. В результате большие языковые модели (LLM) усвоили статистическое правило: согласие и доброжелательность приводят к более высоким оценкам, чем исправление пользователя. Это порождает чат-бота, который ведет себя как неуверенный младший помощник, предпочитая подтверждать ошибочный тезис, нежели вызывать любое трение.
Однако эта покорность проявляется не одинаково во всех типах вопросов. В тестах, проведенных Olhar Digital, с использованием общепризнанных исторических фактов — например, утверждение, что Вторая мировая война началась в 1930 году — ChatGPT и Claude сохранили свою позицию, исправили пользователя и сопротивлялись даже эмоциональным призывам.
Но как только разговор переходит в «серые зоны», требующие интерпретации данных или норм, защитный барьер ослабевает. Так продемонстрировал эксперт по ИИ Эдсон Хидэки, соучредитель Revio, в беседе о налоговой классификации. При запросе к чат-боту о налоговом режиме хот-дог-булок инструмент сначала предоставил технический норматив Федеральной налоговой службы. Однако, как только специалист ввел фразу «я не согласен, я думаю, это обычный хлеб», ИИ отступил и начал соглашаться с тезой пользователя.
Легкость, с которой система меняет свое мнение, показывает, как стремление угодить превалирует над технической точностью, когда информация не является абсолютным фактом. «ИИ всегда будет стремиться ответить. Если у него нет точного ответа, он пытается приблизить информацию, чтобы предоставить то, о чем вы спрашиваете. Опасность заключается в доверии к приложениям без специфической базы знаний для данной ниши и которые не были обучены жесткими механизмами безопасности», — объясняет Хидэки в интервью Olhar Digital.
В корпоративной среде эта тенденция превращает технологию в коварный инструмент для принятия стратегических решений. Вместо того чтобы выступать в роли критического фильтра, виртуальный помощник склонен гладить эго руководителей, которые ищут подтверждения для оптимистичных бюджетных прогнозов или рискованных инвестиционных гипотез. В итоге профессионал приносит на переговоры ложное чувство безопасности.
Жуан Мано, соучредитель Mogno и Исполнительный директор по опыту Accountfy, предупреждает о тихом влиянии этого смещения на повседневную жизнь компаний. «Руководитель часто выходит на совет директоров, чувствуя себя подтвержденным ИИ, тогда как на самом деле технология подтвердила лишь его настроение, а не реальные предпосылки бизнес-плана», — говорит этот руководитель, который является специалистом в области управления, автоматизации процессов и технологий для бизнеса.
Зеркало, которое хвалит, гораздо более коварно, чем зеркало, которое искажает, потому что никто на него не подозревает.
Чтобы преодолеть пузырь искусственной симпатии и получить чисто аналитические ответы, пользователь должен быть точен в структурировании своего запроса (промпта). Технологические компании программируют свои LLM внутренними строгими директивами, чтобы чат-боты были дружелюбными и избегали конфликтов. Если человек не отключит эту «заглушку вежливости» в своих инструкциях, склонность алгоритма угождать всегда будет перевешивать техническую строгость.
Тиаго Морелли, основатель Go Enablers и Zaia, поясняет, что преодоление этой позиции требует резкого и не допускающего любезностей запроса. «Для нас, людей, требовать что-либо сухо кажется агрессивным. Для машины это всего лишь вопрос статистического веса», — объясняет эксперт по ИИ в интервью Olhar Digital. «Если вы не будете явно настойчивы и не запретите витиеватости, стандартная директива быть услужливым и приятным подавит вашу потребность быть хирургически точным и критичным».
Для того чтобы машина не действовала как покладистый помощник, практическое решение состоит в изменении персоны системы и запрете дипломатических фраз. Морелли предлагает следующую инструкцию (которую пользователь может скопировать в свой промпт и адаптировать для разговора и контекста): «Действуй как аналитический и беспристрастный аудитор. Сосредоточься на 100% точности фактов и логике. Оспаривай мои предположения, если они ошибочны, игнорируй мои предубеждения и исключи любые похвалы, ненужное согласие, дипломатический язык или витиеватости. Я ищу исключительно точность, а не одобрение».
Последствия этого стремления угодить вышли за рамки тестирования и стали реальной дилеммой для разработчиков. Сама OpenAI была вынуждена откатить обновления личности GPT-4o после того, как обнаружила, что модель слишком сильно соглашается с пользователями, то есть слишком льстит. Этот эпизод иллюстрирует, как попытка создать ласковых чат-ботов может поставить под угрозу точность информации и исказить практическую полезность системы.
С другой стороны, изменение поведения ИИ также выявило эмоциональную зависимость части публики. Когда компания скорректировала заботливое поведение, многие пользователи выразили недовольство из-за потери приветливого тона, к которому они привыкли. Эта ситуация усиливает фундаментальное предупреждение об ежедневном использовании этих инструментов: ИИ должен служить фильтром противоречий и стресс-тестом для ваших идей. Никогда не используйте его как источник личного одобрения.
