跳转至

模型应用

随着模型能力的演进,仅仅在网页上对话已经无法发挥出其全部实力了,需要结合一些工程策略来彻底释放 AI 的能力。目前已经演化出了以下几种工程策略:

快速开始

一个最小应用从模型 API 开始:发送 Messages,接收文本或结构化输出。随后加入 Function Calling 连接外部能力,再按任务需要引入提示词工程、上下文管理、RAG 或 Agent。最后使用任务成功率、延迟与成本评测系统,并针对提示词注入、越权调用和隐私泄露设置防护。

建议依次阅读 应用基础、提示词工程、上下文工程 和 检索增强生成,再进入 智能体 与具体产品形态。

内容地图

主题 主要内容 已有文章
应用基础 模型 API、Messages、Structured Output 与 Function Calling 应用基础、API 服务商
提示词工程 Zero-shot、Few-shot、CoT 与 Prompt Template 提示词工程
上下文工程 上下文管理、压缩与选择 上下文工程、记忆系统
RAG Embedding、Chunking、向量检索、混合检索、Reranker 与 Graph RAG 检索增强生成
Agent ReAct、工具使用、规划、记忆、MCP、多 Agent 与 Agent Harness 智能体、Agent Harness
应用形态 Chatbot、AI Search、Copilot、Coding Agent 与 General Agent 应用形态、Code Agent 产品
应用评测 RAG、Agent、Coding Agent、任务成功率、延迟与成本 模型能力评测
应用安全与治理 幻觉、越狱、提示词注入、RAG 投毒、工具滥用、权限与沙箱、隐私、公平、内容安全、伦理与合规 应用安全与治理

工程方法

提示词工程 (Prompt Engineering)。人们需要手动优化输入的提示词。例如:

  • 思维链推理 (Chain of Thought, CoT) 提示词:Let's think step by step。
  • 角色扮演 (Role-Play) 提示词:You are a XXX Master。

上下文工程 (Context Engineering)。人们希望简化上述流程,一句“帮我修一下现在的 bug”,整个系统就会把所有必要的信息聚合起来,和这句提示词一起输入模型。例如:

  • 检索增强生成 (Retrieval-Augmented Generation, RAG)。
  • 模型上下文协议 (Model Context Protocol, MCP)。

约束工程 (Harness Engineering)。一个 AI 系统不止需要丰富的输入,还需要稳定地运行,在长上下文场景下,模型很容易出现信息漂移、幻觉增加等负面效应。为此,自我约束、自我验证的 AI 系统范式 Harness Engineering 应运而生。例如:

  • Anthropic 推出的智能体 Claude Code。
  • OpenAI 推出的智能体 Codex。

工程方法只是系统的一部分。上线前还需建立端到端 模型能力评测,并按 应用安全与治理 实施权限、数据和审计控制。