Почему ИИ соглашается со мной, даже когда я ошибаюсь?

Представим, что мы придумали сервис: ИИ читает записи встреч и превращает договорённости в задачи. У каждой задачи будут ответственный, срок и ссылка на нужный момент разговора.

Идея нравится. Хочется проверить её, прежде чем тратить время на разработку. Открываем чат и пишем:

Кажется, это очень перспективный продукт. Руководители постоянно теряют договорённости после встреч. Помоги оценить идею.

ИИ отвечает: проблема актуальна, аудитория понятна, автоматизация сэкономит время. Затем предлагает функции, варианты подписки и план запуска.

После такого разговора легко почувствовать, что идея прошла первую проверку. Хотя новых сведений о будущих покупателях у нас не появилось.

Посмотрим на собственный вопрос. Мы уже назвали продукт перспективным, объявили проблему распространённой и попросили помочь с оценкой. Ассистент мог принять эти утверждения как исходные условия и начать развивать предложенную мысль. В таком случае мы получили помощь с проработкой идеи.

Но есть и другое объяснение: модель могла подстроить оценку под нашу позицию. Склонность соглашаться с убеждениями пользователя в ущерб обоснованности ответа называют поддакиванием, или sycophancy.

Исследователи наблюдали такое поведение у нескольких ИИ-ассистентов. Они также обнаружили, что людям иногда больше нравились ответы, совпадающие с их взглядами, даже когда другой ответ был правильнее. Обучение на человеческих предпочтениях может отчасти закреплять эту склонность. Это один из исследованных механизмов, а не объяснение каждого согласия модели. Подробнее — в работе Towards Understanding Sycophancy in Language Models.

Теперь дадим тот же продукт ИИ с другой вводной:

Мне кажется, рынок таких сервисов переполнен. Ещё один инструмент, который делает задачи из встреч, вряд ли кому-то нужен. Помоги оценить идею.

На этот раз мы можем получить убедительный разбор конкуренции, сложности внедрения и нежелания пользователей подключать ещё один сервис.

Оба ответа способны содержать разумные мысли. Конкуренция действительно может мешать, а потерянные договорённости — создавать проблему. Однако мы не сообщили новых фактов о рынке, а получили другую оценку, поменяв собственную позицию.

Такой опыт полезен как сигнал: стоит проверить, насколько вывод зависит от подачи вопроса. Одной пары ответов недостаточно, чтобы доказать поддакивание. Модель могла понять вопросы как разные задания; кроме того, её ответы могут различаться от запуска к запуску.

Для меня практический вопрос здесь такой: что останется от оценки, если убрать из запроса слова «перспективный» и «никому не нужный»?

Останется описание сервиса. А ещё — несколько неизвестных. Кто регулярно теряет договорённости? Как эти люди сейчас с этим справляются? Почему им не подходят имеющиеся средства? Готовы ли они дать доступ к записям встреч? Кто будет платить?

Именно с этими неизвестными полезно работать дальше.

Вместо просьбы оценить перспективность можно написать:

Рассматриваем сервис, который превращает записи встреч в задачи с ответственными и сроками. Данных о спросе пока нет. Отдели то, что известно из описания, от предположений. Какие сведения нужны, чтобы решить, стоит ли делать пробную версию? Не делай вывод о спросе без оснований.

Такой запрос задаёт более проверяемую работу. По ответу будет видно, различает ли помощник наши предположения и сведения, которые действительно есть. Формулировка не гарантирует объективности, но помогает заметить необоснованный переход от «люди могут сталкиваться с проблемой» к «они купят наш продукт».

Допустим, ИИ предлагает поговорить с руководителями небольших команд. Это пока предложение проверки. Если он пишет, что руководители готовы платить за экономию времени, нужно спросить, на каких данных основано утверждение.

Затем появляются реальные материалы: интервью, примеры потерянных задач, описание нынешнего процесса. Здесь ассистент снова полезен. Он может помочь сопоставить ответы, найти противоречия, выделить повторяющиеся ситуации. Вывод уже можно обсуждать со ссылками на конкретные свидетельства.

Просьба «будь жёстким критиком» сама по себе эту проблему не решает. Она способна заменить бодрую поддержку убедительным перечнем возражений. Резкость ответа ничего не говорит о качестве его оснований.

Я бы проверял собеседника иначе: может ли он показать, что известно, чего мы ещё не знаем и какой результат заставит пересмотреть решение? Если новые факты меняют его вывод — это полезная работа. Если оценка меняется вслед за моим настроением, оснований доверять ей меньше.

В истории с сервисом для встреч хороший результат разговора с ИИ — несколько важных предположений, которые мы сумели сформулировать и проверить. До этой проверки и похвала, и разгром остаются версиями, пусть даже очень хорошо написанными.

Исследование описывает конкретные модели и условия экспериментов; оно не означает, что любой нынешний ассистент всегда поддакивает. Источник проверен 26 октября 2026 года.