我们观察到什么

在与企业技术领导者的合作中，我们看到人工智能战略正发生显著转向。第一波采用浪潮的特征是争相接入最大、最强的云端基础模型，而如今它正让位于一种更有分寸的混合路径。越来越多的机构开始在本地或私有云环境中部署更小、更专门的大语言模型。驱动因素很明确：对数据隐私有更强的掌控、实时应用的时延更低、成本结构更可持续。然而，脱离单体式、以 API 为门槛的模型也带来了一系列新挑战，其中首要的就是性能的不稳定。

近期一篇学术论文 评估本地大语言模型机器翻译中的提示范围与示例相似度 为这一挑战提供了关键的实证洞察。研究细致记录了这些较小模型的输出质量如何高度依赖于提示词的结构与内容。这印证了我们在一线看到的情况：对本地大语言模型而言，成熟的提示工程并非边缘性的调参工作，而是成功落地的核心支柱。把问题一股脑”甩给”巨型模型的时代正在结束；娴熟地指挥恰当规模模型的时代已经到来。

足以改变一切的数字

15-30% 的性能落差

这是我们在本地大语言模型上，针对某一具体任务，在草率构造的提示词与经过科学优化的提示词之间观察到的潜在性能差距，新研究在方向上也支持这一数值。

谁在领先，为什么

市场正在分化。一类机构仍紧紧依附于最大的专有模型，把高昂成本与数据驻留方面的妥协当作换取顶级性能的代价。它们在部署简单用例时往往更快，但可能形成对单一厂商的依赖，并在规模化时背上难以为继的成本模型。另一类更具前瞻性的机构，则围绕一个模型组合建设内部能力，其中包括 Mistral、Meta 等提供的强大开源方案。这些团队在下一盘更长的棋，目标是打造更有韧性、更高效、也更可守御的人工智能技术栈。

第二类机构正在取得明显优势，但这份优势来之不易。他们明白，开源与小型模型呈现出我们所说的能力”锯齿状前沿”——在某些任务上表现出色，在另一些任务上却落后。驾驭这道前沿的关键，在于有方法的实验与优化，尤其是围绕提示词展开。正如 麦肯锡公司 等机构的分析所记录的，人工智能带来的价值越来越取决于能否针对具体业务情境定制方案，而完成这项任务时，经过微调的小型模型往往比通用的超大规模模型更合适。

多数团队忽视的提示工程缺口

眼下许多企业团队把写提示词当作一项低层次、临时性的工作，交由个别开发者随手处理：写一条提示词，看起来能用，项目就继续往前走。这是一个战略性错误。Arcan 的研究表明，零样本与少样本示例的取舍、是否采用 JSON 等结构化格式，并不是无关痛痒的微调，而是直接影响输出质量、一致性与可靠性的根本性架构决策。我们看到的缺口，正是缺少一套围绕提示词设计、测试与管理的、由工程方法主导的系统性纪律。

多数机构没有”提示词开发生命周期”：提示词没有版本控制，引入新模型时没有自动回归测试，也没有共享的最佳实践库。其结果是人工智能应用脆弱、表现不一致，难以维护和扩展。当应用性能下降时，团队往往下意识地归咎于模型，而根因常常是一条未经优化或已经过时的提示词。缺少正式的提示工程实践，机构就白白丢掉了大量价值与可靠性，也动摇了采用本地大语言模型的商业理由本身。

如何弥合这一缺口

弥合提示工程缺口，需要把它当作一项已然成型的核心能力来对待。我们建议以四条主线建设成熟的提示能力。第一，设立集中式或联邦式的生成式人工智能卓越中心（CoE），由其主导提示词管理的标准与工具。第二，把提示词测试纳入机器学习运维流水线，建立按预设基准衡量输出质量的自动化评测。第三，投入资源提升技术团队在高阶提示技术上的能力。第四，为全企业高价值、重复出现的任务，建设一个纳入版本控制的内部优化提示词库。

这套系统性方法应当成为整体 人工智能战略与路线图 的核心组成部分，确保你的模型选择背后有能够充分释放其潜力的运营能力作支撑。

成熟度阶段现状下一步行动时间框架
探索期由个别开发者临时编写提示词；提示词散落在代码中。建立共享的维基或仓库，沉淀可复用的提示词模板。1-2 个月
试点期已有共享模板，但未标准化，也未系统化测试。引入正式的提示词评审流程与基础版本控制（如放入 Git）。3-6 个月
规模化期已建立集中化、纳入版本控制的提示词库。在预发布环境中实施提示词的自动化 A/B 测试与性能评估。6-12 个月
优化期自动化提示词测试已成常规；性能受到主动监控。基于生产环境反馈闭环，构建程序化的提示词优化系统。12 个月以上

关注这些信号

  • 提示词管理平台的兴起： 留意面向企业级的提示词版本管理、测试与生命周期管理工具的出现。这一软件品类走向成熟，将意味着提示工程正被视作机器学习运维栈中的一等公民。
  • 针对特定模型的提示指南： 关注基础模型开发者——尤其是开源社区——发布越来越详尽的、针对其特定架构的提示指南。这表明业界日益认识到，提示并非一项通用技能，而需要针对具体模型的知识。
  • 新职位名称的出现： 留意企业招聘中”人工智能提示工程师""大语言模型交互策略师”等岗位的出现。这标志着提示工作正从开发者的副业，转变为一门专门化的战略学科。

我们的判断

我们认为，关于本地大语言模型性能的这些发现，凸显出企业人工智能下一阶段的一条根本真理：竞争优势不会来自单纯拥有最大模型的使用权，而来自有效驾驭合适模型的功力。机构追求小型自托管人工智能在隐私、成本与速度上的优势是正确的，但必须认识到，这些优势不会自动兑现，只能通过有纪律的工程实践来释放。

建设成熟的提示工程能力，正是确保多元化、高效率人工智能战略从承诺走向现实的关键投资。它把与模型交互这件事，从一门手艺变成一门科学，交付企业所要求的可靠性与性能。在 Thinkia，我们与客户携手构建这些必备能力，把人工智能的潜力转化为可衡量的业务影响。