一家 20 人的外贸公司，如何用 Dify + 国产大模型搭起私有知识库？
从一台 4C8G 服务器开始，把产品册、报价单、老业务员的邮件话术变成可问答的内部知识库。含架构图、成本明细、落地步骤与三个最常见的坑。
外贸公司的知识，八成散落在三个地方：业务员自己的微信收藏、老员工的邮箱、以及一个没人整理过的共享盘。人一走，询盘话术、认证资料、某个型号的包装尺寸，就全都跟着走了。
这篇文章不讲概念，讲一家 20 人外贸公司真实可落地的方案：一台 4C8G 的云服务器 + Docker Compose + Dify + 国产大模型 API，把内部资料变成”能问、能答、能溯源”的私有知识库。
一、先想清楚：为什么不用现成的 ChatGPT 企业版
不是钱的问题，是边界问题：
- 数据出境：产品报价、客户名单、供应商合同，一旦上传到境外 SaaS，合规上就说不清。
- 无法接入内部资料：共享盘里的产品册、历史邮件、Excel 报价表，没法自动变成可检索的知识。
- 账号成本线性上涨：20 人 × 每席 20
30 美元/月，一年就是 37 万人民币，还不含 API 用量。
私有化的核心价值是：数据不出门、知识可沉淀、成本可预算。
二、架构：一台机器跑完全部
方案刻意做得极简，因为中小企业的运维能力通常为零，越简单越不会出事：
| 组件 | 选型 | 说明 |
|---|---|---|
| 计算 | 4C8G 云服务器（或 8C16G） | Docker Compose 单机部署，够 20~50 人用 |
| 应用 | Dify 社区版 | 知识库、工作流、应用发布一体化 |
| 向量库 | PostgreSQL + pgvector | 复用 Dify 自带 PG，少一个组件少一个故障点 |
| 缓存 | Redis | 会话与队列 |
| 模型 | DeepSeek / 通义 / 豆包 API | 按 token 计费，初期月成本通常几十元 |
| 网关 | Nginx + Let’s Encrypt | 强制 HTTPS，摄像头、剪贴板等能力都需要安全上下文 |
| 备份 | 每日 pg_dump + 对象存储异地 | 防勒索的最低配置 |
用户 → Nginx(443) → Dify Web/API → PostgreSQL(pgvector)
↓
Redis + 异步任务
↓
模型 API（可切换供应商）如果客户明确要求”模型也不能出内网”，就把模型 API 换成本地 Ollama + Qwen，代价是需要 GPU 或至少 32G 内存的 CPU 推理，响应会慢 3~5 倍。
三、成本明细：一年到底花多少
以 20 人规模、每天 300 次问答估算（价格为区间值，按实际供应商与地区浮动）：
| 项目 | 配置 | 年成本（元） |
|---|---|---|
| 云服务器 | 4C8G / 100G 云盘 | 2,400 ~ 4,500 |
| 模型 API | 日均约 15 万 token | 600 ~ 1,800 |
| 域名 + 证书 | .cc/.com + 免费证书 | 60 ~ 100 |
| 异地备份 | 对象存储 50G | 100 ~ 200 |
| 一次性实施 | 知识库清洗、切分、调优 | 3,000 ~ 8,000 |
| 合计 | 约 3,200 ~ 7,000 |
对比 20 席 SaaS 订阅，第一年就能省下一半以上，第二年起几乎没有订阅成本。
四、落地五步：真正决定效果的不是模型
1. 知识库分层，而不是一锅炖
按”变更频率”分库，而不是按部门分：
- 稳定层：产品手册、认证证书、公司介绍 —— 半年更新一次
- 半稳定层：报价规则、付款条款、物流时效 —— 每月更新
- 高频层：客户异议话术、常见问题 —— 每周更新
混在一起的后果是：检索时旧价格和新价格同时被召回，模型只能”编”。
2. 切片策略：500~800 字，带标题
外贸资料里表格多，建议先转成 Markdown 表格再切片，并保留标题层级（型号 → 参数 → 包装）。切片太小会丢上下文，太大则召回精度下降。中文内容经验值：500800 字，重叠 50100 字。
3. Embedding 选型：优先中文语义
英文模型对中文产品名的语义区分度一般。优先选国内厂商的中文 embedding，或者直接用与生成模型同厂的组合，省去对齐成本。
4. 检索参数：TopK 不要贪多
TopK=3~5，相似度阈值 0.5 以上。TopK 调到 10 以上，噪声会明显压过有效信息。
5. Prompt 里写死”不知道”
你是 XX 公司的内部助理。只依据检索到的资料回答。
资料中没有的内容，直接回答"资料中未收录，请联系业务负责人"。
禁止推测价格、交期与认证信息。这一条比换更贵的模型更能降低幻觉率。
五、三个最常见的坑
- 把整本 PDF 直接扔进去：扫描件没有文本层，检索永远为空。先做 OCR，再人工校对目录。
- 没人负责更新：知识库不是一次性项目。指定一个”知识管理员”，每周花 1 小时处理问答日志里的差评。
- 不做权限隔离：报价表对所有员工开放，等于把底牌发给全公司。Dify 支持多知识库 + 应用级授权，务必按角色拆开。
六、交付清单与验收标准
一次完整的私有化交付，应该包含：
- Docker Compose 编排文件 + 环境变量模板（可一键重建）
- HTTPS、防火墙、最小端口暴露
- 知识库目录结构与切分规范文档
- 每日自动备份 + 恢复演练记录
- 管理员培训（30 分钟）+ 一页纸操作手册
- 验收指标：10 条真实业务问题，答对率 ≥ 8 条，且能给出资料来源
我的标准交付周期是 3~5 个工作日，含知识库清洗与调优。企业规模更大、资料更乱时，按实际情况排期。
常见问题
Q：必须用 GPU 吗？ A：不用。调用云端模型 API 时，4C8G 纯 CPU 就够。只有”模型也不出内网”才需要 GPU 或大内存 CPU 推理。
Q：能用微信/企业微信直接问吗？ A：可以，通过企业微信自建应用或公众号接口对接 Dify 的对话 API，通常 1 天能打通。
Q：以后想换模型供应商怎么办？ A：Dify 里换一个模型配置即可，知识库不用重建。这也是不建议把业务逻辑写死在某家模型 SDK 里的原因。
如果你正在评估这件事，可以带着”资料大概有多少、多少人用、能不能接受模型走 API”这三个答案来找我，我会直接告诉你值不值得做。