«`html
Large language models (LLMs) and the Challenge of Citation Accuracy
Большие языковые модели (LLMs) стали фундаментальным инструментом для задач таких, как вопросно-ответное взаимодействие (QA) и резюмирование текста. Однако многие модели страдают от проблемы «галлюцинации», когда они генерируют информацию, не подтвержденную предоставленным текстом, что существенно влияет на доверие пользователей к этим моделям.
Existing Limitations and Solutions
Существует значительная проблема в том, что даже если ответ верен, пользователю приходится вручную искать подтверждение в больших текстовых фрагментах. Необходима система, способная предоставлять точные, цитирования на уровне предложения для улучшения проверяемости и доверия к LLM, работающим с длинным контекстом.
The CoF Approach and Its Impact
Ученые из Университета Цинхуа и исследовательская компания Zhipu AI предложили новый подход, называемый CoF (Coarse to Fine), который разработан для генерации точных цитирований на уровне предложения, улучшая точность и применимость ответов, сгенерированных LLM. Этот подход демонстрирует значительное улучшение производительности в задачах вопросно-ответного взаимодействия с длинным контекстом, а также способствует общей цели сделать LLM более надежными инструментами для поиска информации и задач вопросно-ответного взаимодействия.
«`
