Cheat Sheet速查表
跳转到主要内容

大模型与智能体技术概念全景词典速查表

人工智能正在经历从**“单点生成式大模型”向“具备环境感知、自主规划、工具调用与长程记忆的智能体系统(Agentic AI)”**的全面演进。这一跨越不仅要求模型参数规模更大,更需要构建涵盖计算底座、架构机理、上下文工程、交互协议与运营治理的完整技术生态。

本速查表以高密度表格形式系统梳理大模型与智能体技术的全景概念词典谱系,纵贯 8 大技术层级、5 大演进阶段,并针对工业界极易混淆的关键概念(如 Tool vs Skill vs Workflow、RoPE 外推、MCP 协议)进行深度辨析与速查对照。

🔗 相关矩阵速查:4大 Always-on Agent 横向对比速查表 · AI 核心算法全景速查表 · Claude Code 常用命令速查表 · 加解密与现代密码学算法速查表


1. 技术演进 5 大历史阶段与主线总表

从基础理论起源到现代产业规模化落地,技术演进主线遵循:
理论基础 (数学/计算) ➔ 机器学习 (方法体系) ➔ 深度学习 (数据驱动) ➔ 大模型 (通用智能) ➔ 知识增强 (RAG/Memory) ➔ 智能体 (Agent Core) ➔ 工程化 (Runtime/OS) ➔ 运营治理 (AgentOps) ➔ 产业应用

演进阶段时代跨度核心范式转移阶段核心突破标志代表性理论与技术
1. 源头概念
(Foundational Concepts)
≈ 1940s - 1980s理论起源与数学奠基确立了信息度量、概率推断与符号/神经计算逻辑信息论 (Shannon 1948)、贝叶斯理论 (Bayes 1763)、感知机、线性代数与最优化
2. 核心概念
(Core Concepts)
≈ 1980s - 2010s统计学习与表征方法体系从规则系统转向数据驱动的统计学习与浅层神经网络反向传播 (Rumelhart 1986)、强化学习框架 (Sutton 1988)、CNN (LeCun 1998)、SVM (Vapnik 1995)
3. 大模型关键技术
(Key Technologies)
≈ 2010s - 2020s大规模预训练与自注意力突破Transformer 确立算力并行标准,自监督预训练引发能力涌现Vaswani Transformer (2017)、BERT/GPT 预训练范式、Scaling Law (2020)、RoPE (2021)
4. 工程实现
(Engineering)
≈ 2020s - 至今系统构建、对齐与智能体闭环突破单点文本生成,构建推理增强、外部工具调用与运行时沙箱RLHF (2022)、CoT 推理 (2022)、DPO (2023)、vLLM (2023)、MCP 智能体协议 (2024)
5. 产业应用
(Industrialization)
≈ 当前 - 未来规模化生产力与自治智能体生态从单一助手跃迁为常驻数字同事(Always-on Agent)与多智能体系统多智能体协同 (Multi-Agent)、具身智能 (Embodied AI)、AgentOS 运行时环境、AI for Science

2. 8 大纵向技术层级核心概念全景词典

2.1 第 1 层:理论基础层 (Foundations - 智能的数学与计算基础)

核心技术模块关键概念 / 术语提出年代 / 出处核心定义与功能解释
数学与信息论信息论 (Information Theory)1948 (Shannon)定义信息熵(Entropy),奠定了通信压缩、交叉熵损失函数与编码理论的数学基础
贝叶斯概率 (Bayes’ Theorem)1763 (Bayes)阐述先验概率向后验概率的更新机制,是概率图模型与不确定性推断的核心
统计学习理论 (Statistical Learning)1995 (Vapnik)奠定经验风险最小化(ERM)、结构风险最小化(SRM)与泛化误差边界理论
学习方法范式监督 / 无监督 / 强化学习1980s - 1998确立从有标签映射(Supervised)、无标签表征(Unsupervised)到环境交互试错(RL)的三大范式
优化算法 (SGD / Adam)1952 / 2014 (Kingma)利用负梯度迭代更新权重;Adam 结合一阶动量与二阶自适应学习率成为现代训练基座
深度神经网络反向传播 (Backpropagation)1986 (Rumelhart et al.)运用多元微积分链式求导法则,高效计算深层复合函数的梯度,开启连接主义复兴
卷积与循环网络 (CNN / RNN)1998 (LeCun) / 1990sCNN 奠定局部感受野与空间权值共享;RNN 引入时间步隐状态循环处理序列
大规模训练范式分布式并行 (Data / Tensor / Pipeline)2010s - 至今数据并行(DDP)、张量切分并行(Megatron-LM)与流水线并行(DeepSpeed)结合承载千亿模型
混合精度训练 (FP16 / BF16 / FP8)2018 (Micikevicius)在保持模型收敛动态范围的同时,将显存占用减半并成倍激活 Tensor Core 算力

2.2 第 2 层:模型架构层 (Model Architecture - 构建通用智能的核心技术)

核心技术模块关键概念 / 术语提出年代 / 出处核心定义与功能解释
序列建模演进LSTM (长短期记忆网络)1997 (Hochreiter)引入输入门、遗忘门、输出门建立加法通路,大幅缓解传统 RNN 梯度消失问题
Transformer 核心Self-Attention (自注意力机制)2017 (Vaswani et al.)计算序列内部每个 Token 对全局所有 Token 的关联权重:(\text{softmax}(QK^T/\sqrt{d_k})V)
Multi-Head Attention (多头注意力)2017 (Vaswani et al.)将特征投影到多个不同子空间并行计算注意力,捕捉语法、语义等多样化关系
前馈网络与残差连接 (FFN / Residual)2017 / 2015 (He et al.)残差跳接保底梯度畅通;两层全连接升维再降维赋予模型复杂非线性特征变换容量
位置编码演进Sinusoidal PE (绝对位置正余弦编码)2017 (Vaswani et al.)使用不同频率的正弦和余弦函数为序列赋予固定位置信息,外推能力较弱
RoPE (旋转位置编码)2021 (Su et al.)通过旋转矩阵将相对位置信息直接注入 Query 和 Key 向量内积中(详见后文专项辨析)
长文本外推方案 (ALiBi / YARN / NTK)2021 - 2023动态缩放注意力底数或基于神经切切核(NTK)调整频率,实现从 4K 到 128K+ 长度扩展
基础模型族LLM / VLM / Reasoning Model2020s - 至今大语言模型(LLM)、视觉-语言多模态大模型(VLM)与强推理链模型(如 o1 类)

2.3 第 3 层:模型能力层 (Model Intelligence - 让模型更聪明)

核心技术模块关键概念 / 术语提出年代 / 出处核心定义与功能解释
预训练与表征自监督预训练 (Next Token Prediction)2018 (GPT-1)掩码遮蔽未来词,利用海量无标注互联网文本预测下一个词,让模型内化海量世界知识
Tokenization (BPE / WordPiece)2016 (Sennrich)兼顾词表体积与表达粒度,将自然语言字符串切分为子词(Subword)ID 序列
对齐与优化SFT (监督微调)2021 - 至今在高质量指令问答数据集上微调,使预训练基础模型学会“听从指令并格式化输出”
RLHF (基于人类反馈的强化学习)2022 (Ouyang et al.)训练奖励模型(Reward Model)并通过 PPO 算法指导策略模型,使输出符合人类偏好
DPO (直接偏好优化)2023 (Rafailov et al.)解析推导隐式奖励函数,绕过复杂 PPO 直接在对比偏好对数据上完成对齐训练
能力涌现规律Scaling Law (缩放法则)2020 (Kaplan / Chinchilla)证明模型跨越多个数量级时,交叉熵损失与模型参数量 (N)、数据量 (D) 呈幂律收敛
In-Context Learning (上下文学习)2020 (Brown et al.)无需更新模型权重,仅在提示词中提供数个示范样例即可让模型学会执行全新下游任务
推理增强范式Chain of Thought (CoT 思维链)2022 (Wei et al.)引导模型显式输出中间推理步骤(Step-by-step),显著提升数学计算与逻辑推导准确率
Test-time Scaling (推理计算量缩放)2024 - 至今允许模型在推理阶段动态消耗更多 Token 进行自我修正、树搜索(ToT)与过程验证(PRM)
模型服务工程KV Cache 与 PagedAttention (vLLM)2023 (Kwon et al.)缓存自注意力中已计算的 Key/Value 矩阵,配合虚拟内存分页机制大幅降低推理显存浪费

2.4 第 4 层:知识增强层 (Knowledge & Memory - 让模型连接外挂知识与经验)

核心技术模块关键概念 / 术语提出年代 / 出处核心定义与功能解释
数据与知识工程数据去重、清洗与合成数据 (Synthetic Data)2020s - 至今高质量数据是模型天花板;利用前沿模型自生成训练样本(如自我对弈/反思数据)
向量数据库 (Vector DB - Milvus/Pinecone)2020s - 至今专为高维稠密嵌入向量构建的存储与索引引擎,支持毫秒级近似近邻检索 (HNSW)
RAG 六阶全链路Retrieval-Augmented Generation2020 (Lewis et al.)分块(Chunking) ➔ 嵌入(Embedding) ➔ 向量检索(Retrieval) ➔ 重排(Reranking) ➔ 溯源对齐(Grounding) ➔ 回答生成(Generation)
记忆系统架构四阶认知记忆模型2023 - 至今工作记忆(当前执行栈)· 短期记忆(多轮会话窗口)· 长期记忆(向量/KV固化存储)· 情景记忆(过往成功/失败事件库)
上下文工程Context Engineering2024 - 至今精细设计 System Prompt、历史修剪、工具契约注入与上下文动态压缩(Context Compaction)

2.5 第 5 层:智能体核心层 (Agent Core - 从生成式走向行动闭环)

核心技术模块关键概念 / 术语提出年代 / 出处核心定义与功能解释
智能体认知范式Observe-Plan-Act-Reflect 闭环2023 (ReAct / Reflexion)智能体行动四步环:感知环境 ➔ 分解制定规划 ➔ 调用工具执行行动 ➔ 观察结果并反思修正
规划与反思任务拆解与多智能体协同 (Multi-Agent)2023 - 至今复杂长程任务由编排器(Orchestrator)拆解为拓扑子任务,分配给专业垂直角色协同完成
工具交互能力Function Calling / Tool Use2023 (OpenAI / Claude)模型能够输出结构化 JSON 调用参数,驱动宿主环境执行本地 Bash、调用 RESTful API 或操作数据库
智能体交互协议MCP (Model Context Protocol)2024 (Anthropic)开放标准协议,为大模型与本地本地文件、开发工具、企业数据库提供即插即用安全连接
A2A (Agent-to-Agent Protocol)2025 (Google)规范智能体之间相互握手、能力声明(Agent Card)、权限委派与分布式通信的跨生态标准
运行时沙箱Agent Runtime (智能体运行时)2024 - 至今负责智能体生命周期、状态调度、安全沙箱隔离(Docker/gVisor)、检查点快照与权限拦截

2.6 第 6 层:工程构建层 (Agent Engineering - 让智能体可生产、可复用)

核心技术模块关键概念 / 术语核心定义与工程定位
组件抽象层级Tool vs Skill vs Workflow vs Template建立原子能力(Tool)到组合业务技能(Skill)再到确定性流水线(Workflow)的标准化分层(详见后文辨析)
生产平台工厂Agent Factory (低代码/无代码开发平台)如 Dify、Coze、LangSmith,提供 Prompt 调试、知识库编排、工具接入与一键发布服务
操作系统演进AgentOS (面向智能体的操作系统范式)传统 OS 面向进程调度 CPU/内存,AgentOS 面向智能体调度 LLM 算力 Token、工具权限、长短期记忆与文件沙箱

2.7 第 7 层:运营治理层 (Operations & Governance - 安全、可控与可持续)

核心治理模块关键概念 / 术语核心功能与工程指标
评估与 BenchmarkLLM-as-Judge & 任务成功率引入强模型作为裁判对输出打分;真实业务通过环境交互任务最终成功率衡量 Agent 能力
可观测性 AgentOpsTracing & Logging (链路追踪与成本控制)跟踪多轮 Agent 循环中的每一轮思考 Token、API 延迟、工具调用参数及成本归因
安全对齐与护栏Safety Guardrails & 权限沙箱拦截注入攻击(Prompt Injection)、机密泄露过滤、敏感执行(如删除数据库)强制介入人类审批 (Human-in-the-loop)

2.8 第 8 层:应用场景层 (Applications - 产业规模化落地)

场景分类核心代表方向典型形态与业务价值
通用生产力智能编程助手、企业知识助理、个人常驻同事如 Claude Code、Cursor、Microsoft Copilot,实现日常繁琐事务全自动流转
垂直专业领域金融高频投研、医疗临床辅助诊断、智能制造控制结合私有数据与领域工具,解决高门槛、高精度的垂直专业决策诉求
新兴前沿领域具身智能 (Embodied AI)、AI for Science (材料/蛋白质发现)赋能物理世界人形机器人本体感知操作,或加速化学合成与基因密码解析

3. 工业级核心概念深度辨析(重点厘清)

3.1 核心辨析一:Tool vs Skill vs Workflow vs Agent

工业落地中常有人将工具、技能、工作流混为一谈,其严格层级关系如下:

抽象维度Tool (原子工具)Skill (能力组件)Workflow (流程编排)Agent (自主智能体)
本质定位底层原子能力接口面向特定任务的可复用能力封装确定性因果业务流程具备自主闭环的数字实体
典型组成单个 API、Shell 命令、数据库查询函数Prompt 指导 + 多个 Tools + 内部小型规划节点连线 DAG(If-Else、循环、分支)认知大脑 + 目标驱动 + 记忆 + 工具调度
决策自由度无决策权,被动调用输入输出具备局部任务自主度(知道何时调用哪个 Tool)无自主推理权,严格按照预设步骤执行完全自主决策(自主决定步骤、反思与重试)
工业具象类比“一把锤子 / 一个扳手”“一位能够修水管的工人(包含动作策略与工具)”“流水线装配作业规范手册”“一位独立接单、全权负责现场完工的项目主管”

3.2 核心辨析二:RoPE (旋转位置编码) 核心机制与长文本外推

  • 核心数学思想:
    传统位置编码大多将位置向量直接“加”到词向量上。RoPE(Rotary Position Embedding)改为在复数空间对 Query 和 Key 向量应用二维旋转变换: [ \langle \mathbf{R}{\Theta, m}^d \mathbf{q}, \mathbf{R}{\Theta, n}^d \mathbf{k} \rangle = g(\mathbf{q}, \mathbf{k}, m - n) ]
  • 核心优势:
    1. 绝对形式注入相对位置:内积只取决于两词之间的相对距离 (m - n);
    2. 长距离衰减特性:随着两词相对距离增大,点积自动衰减,符合人类自然语言直觉;
    3. 计算效率极高:通过二维成对分块旋转实现,几乎不增加训练与推理额外开销。
  • 长文本外推突破 (Extrapolation):现代大模型(LLaMA-3、Qwen-2.5 等)通过 NTK-aware Scaling、YaRN、LongRoPE 调整旋转高频与低频基数,实现原生 4K 训练、微调轻松突破 128K~1M 超长上下文。

3.3 核心辨析三:智能体交互协议 MCP vs A2A

随着 Agent 生态的繁荣,不同软件与智能体之间的连接协议逐步标准化:

对比维度MCP (Model Context Protocol)A2A (Agent-to-Agent Protocol)
发起与主导机构Anthropic (2024年发布,已成为开源事实标准)Google (2025年面向分布式智能体发布)
架构拓扑C/S 架构(Client - Server)P2P / 协同网络(Agent - to - Agent)
核心解决问题“大模型如何安全连接外部工具与数据源”(提供统一定义的 Tool、Prompt 与 Resource)“两个独立的智能体如何相互发现、协商分工与委派任务”
协议通信形态基于 JSON-RPC 2.0,通过 stdio 或 SSE 传输基于 Agent Card 声明能力,通过标准 HTTP/gRPC 进行任务协商
典型使用场景让 Claude Code 连接本地 Git、PostgreSQL、GitHub API旅游规划 Agent 委托租车 Agent 与酒店预订 Agent 协同执行复杂跨国行程