国产开源模型进厂记：企业私有化部署的真实账本

以 DeepSeek、通义千问为代表的国产开源模型，配合量化与蒸馏技术，让'一台多卡服务器跑起企业级问答与文档处理'成为现实。入门级方案（支撑数百人规模的知识库问答）硬件投入已进入 10–20 万元区间；要支撑复杂 Agent 任务的中型方案，总投入在百万元以内——两年前同等能力的报价是数倍于此。

真正容易被低估的是人的成本：模型部署只占项目工作量的两成，数据清洗、知识库建设、权限体系与持续运维才是大头。三个项目无一例外，最初的预算分配都低估了这部分。

我们的判断标准很简单：合规硬约束（金融、医疗、涉密制造）→ 必须私有化；数据敏感但无硬性监管 → 先用国产云端 API 验证价值，再评估迁移；一般业务数据 → 云端 API 的成本与能力优势明显，不必为'安全感'买单。

另一个反复被验证的教训：先跑通业务价值，再谈私有化。顺序反了的项目，几乎都变成了'机房里昂贵的摆设'。