本周工作总结:
-
新增单层知识问答匹配系统
-
新增 knowledge_router 模块,形成独立的知识问答服务。模型只需输出 q001 或 NONE,不再负责生成完整回答正文。FAQ 数据在服务启动时载入内存,匹配成功后通过 ID 快速查询答案。
-
将问答流程调整为:
-
用户输入问题;
-
LLM 从标准问题列表中匹配问题 ID;
-
后端根据 ID 从内存中直接返回预设答案。
-
-
-
新增 Top K 置信度匹配功能
-
将原有单 ID 匹配扩展为 Top K 候选匹配。前端新增候选匹配区域。
-
模型可以同时返回多个候选问题及对应置信度。
-
-
完善文档上传与知识加工流程
-
新增统一的文档存储目录:
-
documents/sources:存放原始 PDF、Markdown 文件;
-
documents/modules:存放提取和整理后的 Markdown;
-
documents/assets:存放文档图片。
-
-
支持上传 PDF 和 Markdown 文件。PDF 支持按页码范围提取。Markdown 支持按行号范围提取。
-
接入 Docling 进行文档解析,并使用视觉模型精修 Markdown。
-
支持在控制台中编辑、预览、保存、重命名和删除 Markdown 文件。
-
-
重构知识问答管理控制台
-
将前端功能拆分为多个独立页面和模块
-
增加模型 API 地址、密钥、温度和 Token 参数的可视化编辑。
-
优化弹窗、文件树、下拉菜单、Markdown 预览和页面样式。
-
-
建立召回度测试与模型对比体系
-
新增召回度批量测试页面。
-
支持批量导入人工问题、运行测试和人工标注。
-
本周使用同一组 50 条问题,对多个模型进行了多轮测试。
-
问题与洞察:
-
单层 FAQ 匹配提高了回答稳定性,回答正文由系统直接查表返回,减少了模型编造内容产生幻觉的风险。
-
新方案适合标准问题明确、答案相对固定,且不希望模型产生幻觉的产品说明和客服场景。
-
OpenRouter的模型普遍收费较高,且受网络影响较大,但硅基流动的模型会受到token限制
下周重点工作:
-
完善多模型评测,使用本地模型、更多中转模型完成至少重复3-5轮测试
-
补充PDF、markdown以外格式文件的上传、提取