扣子搭建本地行业知识问答系统深度评测

内网环境下部署不依赖公网API的本地问答系统，建议按以下步骤：使用Conda创建Python 3.10虚拟环境，安装Coze SDK 0.4.2版本；通过CSV术语表、PDF分段或API动态注入三种方式构建知识库；配置Ollama运行qwen2:7b-instruct模型，执行bot_server.py启动服务。各个环节存在常见陷阱，下面详细说明。

内网部署的问答系统需支持行业术语、内部流程、产品参数等专属问题，完全离线运行，不调用公网大模型API，数据与推理均本地完成。

搭建本地运行环境

安装Conda并创建Python 3.10独立环境是关键前提——跳过后加载模型时会因torch版本冲突报错。具体命令：conda create -n coze-local python=3.10 后执行 conda activate coze-local。

执行 pip install -r requirements.txt 安装Coze官方SDK 0.4.2及其依赖，【务必锁定SDK版本，新版已取消本地Bot运行接口】。

构建行业知识库

方法一：结构化CSV导入

将Excel术语表（包含“术语”“定义”“适用场景”三列）另存为UTF-8编码CSV文件，放入coze-kb-importer工具目录，运行 python import_csv.py --file term_glossary.csv。

方法二：非结构化PDF切片

使用pdfplumber从PDF《XX行业合规白皮书》中提取纯文本，按空行分割段落，每段长度控制在380字以内——超出将被向量模型截断，丢失关键信息。

方法三：API动态注入

启动本地Bot服务后，调用POST /v1/kb/entry/add接口，JSON体包含 "content":"客户合同审批需经法务+财务双签"，【content字段禁止含换行符，否则入库无报错但失败】。

配置本地Bot服务

第一步：编辑config.yaml

设置model_provider为ollama，model_name为qwen2:7b-instruct，base_url填写 http://127.0.0.1:11434/api/chat。

第二步：启动Ollama并拉取模型

先执行 ollama serve 启动服务，再新开终端运行 ollama pull qwen2:7b-instruct。下载约需12分钟，进度条在99%停滞属于正常现象。

第三步：启动Bot服务器

执行 python bot_server.py，当控制台显示“Local Bot listening on http://0.0.0.0:5000”即表示服务已启动。将文件拖入相应区域即可使用。

来源：互联网