背景🐱
目前魔搭紫皮书在线阅读版已经提供全文关键词搜索,书中也包含企业知识问答、RAG 和 Agent 等相关实践,但读者仅依靠关键词搜索,可能仍需要逐章定位并自行整合信息。
希望可以在阅读站点中增加一个面向整本书的 AI 问答助手,让读者能够直接使用自然语言提问,并获得基于书中内容、可追溯到原文的回答。
功能建议
建议先实现一个范围清晰的最小版本:
- 将全书所有可读章节纳入检索范围,支持跨章节召回与综合回答。
- 每个回答都附上具体章节、小节或原文片段,并提供可点击的跳转链接。
- 支持连续追问,并在对话中保留必要的上下文。
- 当书中没有足够依据时,明确说明“书中未提供”或“现有内容不足以回答”,避免生成无依据的结论。
- 书籍内容更新后,能够通过构建流程同步更新索引,避免回答引用旧内容。
- 可以优先考虑使用魔搭社区中的开源模型和向量模型,使该功能本身也成为书中 RAG / Agent 实践的示范案例。
示例场景
- “只有 12GB 显存时,书中建议如何选择模型和量化精度?”
- “RAG 和微调分别适合解决什么问题?请结合相关章节比较。”
- “如果要构建企业知识问答应用,需要参考书中的哪些章节?”
- “请总结书中关于降低模型幻觉风险的建议,并给出出处。”
建议的验收标准
- 能够回答需要引用单章或多个章节的问题。
- 回答中的关键结论至少带有一个可验证的章节或小节引用。
- 点击引用可以跳转到对应原文位置。
- 对书中未覆盖的问题不会编造答案。
- 新增或修改章节后,问答知识范围能够随构建流程更新。
价值
该功能可以降低读者查找和理解全书内容的成本,也能把书中已有的知识库问答、RAG、模型部署和 Agent 内容应用到紫皮书自身,形成一个可直接体验的完整示例。
如果维护者认可这个方向,也可以进一步讨论首版的模型选择、部署成本、调用频率限制、隐私处理和效果评测方式。
背景🐱
目前魔搭紫皮书在线阅读版已经提供全文关键词搜索,书中也包含企业知识问答、RAG 和 Agent 等相关实践,但读者仅依靠关键词搜索,可能仍需要逐章定位并自行整合信息。
希望可以在阅读站点中增加一个面向整本书的 AI 问答助手,让读者能够直接使用自然语言提问,并获得基于书中内容、可追溯到原文的回答。
功能建议
建议先实现一个范围清晰的最小版本:
示例场景
建议的验收标准
价值
该功能可以降低读者查找和理解全书内容的成本,也能把书中已有的知识库问答、RAG、模型部署和 Agent 内容应用到紫皮书自身,形成一个可直接体验的完整示例。
如果维护者认可这个方向,也可以进一步讨论首版的模型选择、部署成本、调用频率限制、隐私处理和效果评测方式。