使用RAG-GPT集成智谱AI、DeepSeek快速搭建OpenAI Cookbook智能客服

引言

在之前的文章中，我们探讨了如何利用RAG-GPT和OpenAI迅速搭建LangChain官网的智能客服系统。当前，国内也有几款出色的云端大模型API服务。本文将详细介绍如何通过RAG-GPT整合智谱AI和DeepSeek，快速构建OpenAI Cookbook的智能客服系统。

在介绍RAG-GPT项目之前，我们需要先了解RAG的基本原理。RAG在问答系统中的应用主要包括三个关键模块，分别是：

索引（Indexing）：将文档分成小段（chunk），转换为向量，并存储在向量数据库中。检索（Retrieval）：根据用户的输入（query）以及向量数据库中各chunk的语义相似度，检索出与问题最相关的k个chunk，形成本次问答的上下文。生成（Generation）：将原始问题和检索到的chunk整合，形成合适的prompt，并输入到大语言模型（LLM）中，让LLM生成与上下文相关的回答。

智能文档的在线检索流程可以通过一张图来解释，如上图所示，展示了一个完整的问答流程：

用户提出query，结合Bot的实际应用场景，评估是否需要对query进行重写。检索模块（Retieval）根据query从索引（Indexing）中检索出相关的文档。将召回的文档进行重新排序（Reranking），并根据相关性得分（relevance score）进行过滤，剔除低质量的文档。形成合适的Prompt后输入到大语言模型（LLM）中，最终生成答案。