基于大模型私有知识库AI 提示词训练有感

近期，我们将基于私有知识库为Chatbot开发以下应用，逐步推出：

• 课程助手
• 课程推荐专家
• 试题批改及解析专家
• 作业评估助手

此前，我们已撰写了一些相关内容。在训练过程中，最重要的两个因素包括：
1）语料（资料）的预处理
2）提示词的设计，验证与优化

首先，语料（资料）的预处理对结果的准确性有很大影响。
其次，提示词对于后期用户体验至关重要。

语料（资料）的预处理具体取决于实际资料，需要根据文件类型（如Word、Excel、PDF）和内容进行分析，深入研究内容结构和关联度。同时，要充分考虑预处理的人工工作量，采用性价比最高且可行的方法。由于这个问题具体且没有通用性，需要针对具体情况解决。

接下来，我们将分享关于知识库提示词设计与优化的一些心得。

在涉及知识库时，我们需满足以下需求：

1. 知识库没有与问题相关的内容，则不回答（目前使用的方式）
2. 知识库没有与问题相关的内容，引导和推荐知识库里其他资源
3. 知识库没有与问题相关的内容，则基于ChatGPT通用功能回答

针对不同业务场景，我们将通过提示词来实现上述不同的回答边界。具体实现方法如下：