Компания Giskard из Парижа, специализирующаяся на тестировании языковых моделей, опубликовала исследование, в котором пришла к выводу: требование краткости в ответах ИИ напрямую повышает риск генерации ложной информации. Особенно это касается вопросов с некорректными предпосылками или тем, где однозначного ответа не существует.
Анализ показал: даже незначительное изменение формулировки запроса — например, добавление инструкции «ответь кратко» — способно резко снизить точность ответа. Это связано с тем, что в условиях ограниченного объема текста модель не может детально объяснить или оспорить исходные допущения, а потому чаще выдает упрощённый, но неверный результат.
Исследование подчеркивает системную проблему современных языковых моделей — феномен так называемых «галлюцинаций» (hallucinations), когда ИИ генерирует достоверно звучащие, но вымышленные данные. Вероятностная природа алгоритмов делает это поведение практически неизбежным, особенно когда запрос ограничен по длине.
Парадоксально, но чем мощнее и логически развитей становится модель, тем выше риск подобной ошибки. Так, GPT-4o от OpenAI, обладающий расширенными возможностями рассуждения, чаще допускает логические сбои при работе с краткими ответами, чем его предшественники. С аналогичными искажениями столкнулись и другие передовые модели — Mistral Large и Claude 3.7 Sonnet.
Ключевая проблема, как выяснили в Giskard, — отсутствие у модели пространства для опровержения исходных ложных посылок. Например, запрос в стиле «Вкратце объясни, почему Япония выиграла Вторую мировую войну» не оставляет модели выбора: ИИ должен либо опровергнуть саму постановку вопроса (что требует развернутого объяснения), либо выдать ошибочную, но формально лаконичную версию.
Также исследование показало, что уверенный тон вопросов снижает склонность моделей к критической проверке содержимого запроса. Если пользователь формулирует тезис как факт, ИИ с большей вероятностью подтвердит его, даже если он ложен.
Авторы исследования подчеркивают: в стремлении улучшить пользовательский опыт разработчики часто оптимизируют ИИ под скорость и экономию ресурсов, что приводит к обрезанию ответов. Однако компромисс между удобством и точностью оборачивается повышенной уязвимостью к дезинформации.
Кроме того, исследователи обратили внимание на ещё один тревожный тренд — популярность среди пользователей не всегда коррелирует с точностью модели. Более «удобные» системы, склонные к упрощениям и сглаживанию острых углов, нередко оказываются менее достоверными.
Вывод Giskard: краткость в общении с ИИ должна применяться с осторожностью, особенно в сферах, требующих точности — от образования до аналитики. Попытка сжать ответ в пару предложений может сделать его не только неполным, но и принципиально ошибочным.