AI 行业知识科普报告
AI 行业知识科普报告
从零基础到能看懂产业分析
一份面向分析师和决策者的 AI 产业入门指南。覆盖 500+ 核心概念、全产业链结构、100+ 全球关键玩家、六大商业模式。每个概念标注学习深度，帮你分配精力——知道该深挖什么，什么只是听过就行。
500+
核心概念
4
知识章节
100+
关键玩家
6
商业模式
目录索引
报告章节导航
四个章节从基础到进阶。建议按顺序阅读效果最好，也可以直接跳转到你感兴趣的章节。
第1章 1.1
AI / ML / DL —— 最容易搞混的三个词
建立 AI 认知的最底层框架。每个概念标注了学习深度——浅层 中层 深层
浅层必知人工智能（AI）
Artificial Intelligence，最宽泛的概念。凡是让机器模拟人类智能的技术都叫 AI：语音识别、下棋、自动驾驶，都算。AI 是一个目标，不是一项具体技术。
关系：AI 包含 ML，ML 包含 DL
深层必知机器学习（ML）
Machine Learning，AI 的子集。机器从数据中自动学习规律，而不是靠人一条条写规则。今天的 AI 爆发，本质上就是机器学习的胜利。这是门完整学科，吴恩达的 Coursera 课程是经典入门。
类比：给机器看 10 万张猫的照片，它自己学会"什么是猫"
深层必知深度学习（DL）
Deep Learning，ML 的子集。用多层神经网络处理数据。"深度"就是层数多。ChatGPT、Midjourney、Sora，底层全是深度学习。独立学科，推荐李沐《动手学深度学习》。
深度学习 = 海量算力 + 海量数据 + 深层网络
中层神经网络
深度学习的核心架构。由大量互相连接的"神经元"节点组成，每个节点接收输入、做计算、输出结果。参数就是连接权重——参数越多，模型越"聪明"。下方架构图直观展示层级结构。
类比：一个神经元是一个微小开关，万亿个开关组成能理解语言的系统
图解：AI / ML / DL 包含关系 & 神经网络层级结构
左图：三层同心圆展示包含关系。右图：神经网络的"输入 → 隐藏层 → 输出"数据流动方式。
DL
ML
AI
AI 包含 ML，ML 包含 DL
输入层
文本
图像
音频
隐藏层 1
提取边缘
基础特征
隐藏层 2
组合形状
中层特征
隐藏层 N
抽象语义
高层特征
输出层
分类
预测
生成
"深度"= 隐藏层数量多，每层提取更高维特征
关键洞察：记住这个包含关系就够了
AI 是森林，ML 是长得最快的树种，DL 是最高最壮的那棵树。ChatGPT、文心一言、Sora，都属于深度学习分支。ML 和 DL 标注为"深层体系"——它们是独立学科，你现在不需要啃，但知道是需要系统学习的大领域就够了。
第1章 1.2
大语言模型（LLM）—— 本轮 AI 爆发的发动机
以下概念在产业分析中高频出现，掌握它们才能看懂研报和新闻。
中层必知大语言模型（LLM）
Large Language Model，用海量文本训练出来的超大规模神经网络。参数动辄数千亿，能展现出推理、创作、编程等"涌现"能力。ChatGPT 背后的 GPT 系列就是 LLM。下方有 LLM 训练全流程图。
核心规律：参数越多 → 能力越强 → 成本越高
中层必知Transformer 架构
2017 年 Google 提出，几乎所有现代大语言模型的基石。核心创新是自注意力机制——让模型理解词与词之间的上下文关系。GPT 里的"T"就是 Transformer。下方有架构图解。
BERT、GPT、Llama，全基于 Transformer
浅层GPT 系列模型
OpenAI 推出的大语言模型系列。GPT-1(2018) → GPT-2 → GPT-3(2020,1750亿参数) → GPT-3.5(ChatGPT) → GPT-4(2023) → GPT-4o(2024,多模态)。ChatGPT 是产品名，GPT 是模型名，别搞混。
中层必知多模态模型
能同时处理文字、图片、音频、视频的模型。GPT-4o 可以看图回答问题，Sora 能根据文字生成视频。从纯文本到多模态是一次质变。下方有融合架构图解。
浅层参数（Parameters）
衡量模型规模的指标。GPT-3：1750亿，GPT-4：估约1.8万亿。参数越多 = 模型越大 = 能力越强 = 训练越贵。但 DeepSeek 证明了架构创新同样重要。
训练一个 GPT-4 级别的模型，成本约 1-3 亿美元
浅层词元（Token）
大模型处理文本的最小单位。也是 API 调用的计费单位。1 个中文字 ≈ 1.5-2 个 token；1 个英文单词 ≈ 1-2 个 token。1000 token ≈ 750 英文词 ≈ 400-500 中文字。
浅层上下文窗口（Context Window）
模型一次能"记住"的最大文本量。GPT-4 Turbo：128K（≈ 一本中篇小说）。Gemini 1.5 Pro：号称 100 万 token。窗口越长，能处理的文档越大，但成本也越高。
中层涌现（Emergence）
当模型参数超过某个阈值后，突然展现出训练时没有明确教的"理解力"——推理、编程、翻译。推动科技巨头疯狂堆参数，科学界至今没完全解释清楚。
图解：Transformer 核心架构
GPT 只用了右半部分（Decoder），BERT 只用了左半部分（Encoder）。核心创新"自注意力机制"让每个词能直接关注到句子中所有其他词。
Encoder（编码器）— 理解任务
输入文本
"我 爱 AI"词嵌入 + 位置编码
词 → 向量 + 位置信息多头自注意力
每个词关注所有词前馈网络
逐位置变换上下文表示
词与词的关联矩阵Decoder（解码器）— 生成任务
已生成文本
"AI 是"掩码自注意力
只看前面的词交叉注意力
关注 Encoder 输出前馈网络
逐位置变换预测下一个词
"人工" ← 输出
注意力机制
理解结果
生成输出
图解：多模态模型 — 不同信号如何融合
各模态先经各自的编码器处理成统一向量空间，再由融合层做跨模态理解，最后输出。
文本编码器
Transformer文本向量
图像编码器
ViT / CNN图像向量
音频编码器
Whisper音频向量
→
统一向量空间
跨模态融合层
交叉注意力联合表征
多模态输出
文本/图像/语音产业关键认知
大语言模型不是"聊天程序"——它是一种新的基础能力平台，相当于工业革命里的电。它提供"通用智能"作为基础设施。这是理解整个 AI 产业商业逻辑的出发点。
第1章 1.3
训练与推理 —— 从"学会"到"会用"
训练是一次性巨额投入，推理是持续性运营成本。搞懂两者的区别，才能分析 AI 公司的成本结构。
中层必知预训练（Pre-training）
第一阶段。用万亿级 token 数据教模型"学会说话"。需要数千张 GPU 连续跑几个月，成本从几千万到几亿美元。下方有完整训练流程图。
深层必知微调（Fine-tuning）
在预训练模型基础上，用特定领域数据（几万条就够了）做二次训练。成本约是预训练的万分之一。大部分企业 AI 应用用的都是微调。预训练造通才，微调造专才。微调是一个方法体系：SFT、LoRA、QLoRA、RLHF、DPO。
浅层必知推理（Inference）
训练好的模型回答用户问题的过程。单次推理成本低到几分钱，但每天百万次调用累积下来，推理优化成为商业化的核心命题。
中层RLHF（人类反馈强化学习）
让人类对模型输出打分，模型据此调整行为。ChatGPT 之所以回答"像人"而不是胡说八道，靠的就是 RLHF。也是 AI 安全对齐的最后一道关。下方有 RLHF 流程图解。
中层量化（Quantization）
把参数精度压缩，减小模型体积和推理成本。让大模型能在手机上跑的关键技术。下方有精度对比表，一目了然。
浅层GPU（图形处理器）
原本用于游戏画面渲染，因为超强的并行计算能力成为 AI 训练的事实标准。英伟达（NVIDIA）占据全球 AI 训练芯片约 80% 市场。GPU 就是 AI 产业的"石油"。
图解：LLM 训练全流程（从数据到可用模型）
大模型诞生要经历三大阶段：海量无标注数据上的预训练（最贵）→ 有标注指令数据上的 SFT（较便宜）→ 人类偏好数据上的 RLHF 对齐（精细调教）。
原始数据
网页/书籍/代码数万亿Token
数据清洗
去重/过滤质量筛选
预训练
数千GPU·数月成本: $$$$$
基座模型
通才·会续写但不会对话
▼
指令数据
数万条QA对人工标注
SFT 监督微调
数GPU·数小时成本: $$
指令模型
会遵循指令但仍可能胡说
▼
偏好数据
人类对回答打分好坏对比
RLHF 对齐
奖励模型+PPO成本: $$
Chat模型
安全·友好像人一样说话
训练阶段
产出物
最终模型
图解：RLHF — 人类反馈强化学习闭环
SFT 模型生成多个回答 → 人类标注员打分排序 → 训练奖励模型学会"判断好坏" → 用 PPO 算法更新主模型，反复循环直到模型输出符合人类偏好。
SFT模型
生成多个回答回答A/B/C
同一问题不同回答
人类标注员
打分排序A > B > C
训练奖励模型
学会预测人类偏好
↑ 奖励信号反馈，用 PPO 算法更新模型参数 ↓
奖励模型评分
给新回答打分PPO 更新模型
朝高分方向调整参数
新SFT模型
继续生成进入下一轮
循环迭代
图解：量化精度对比 — FP16 → INT8 → INT4
精度下降带来体积和速度的显著优化。FP16 是训练标配，INT8/INT4 是推理部署常用精度。
FP16（半精度浮点）
位数16 bit
模型体积100%
推理速度基准
精度损失无
显存占用高
适用场景训练 / 高精度推理
INT8（8位整数量化）
位数8 bit
模型体积~50%
推理速度1.5-2x
精度损失<1%
显存占用中
适用场景服务器推理部署
INT4（4位整数量化）
位数4 bit
模型体积~25%
推理速度2-4x
精度损失1-3%
显存占用低
适用场景端侧/手机/嵌入式
第1章 1.4
RAG 与智能体（Agent）—— 让大模型真正干活
大模型只是"大脑"，RAG 和 Agent 是给大脑装上"手"和"外部记忆"。这是 AI 落地的关键技术。
中层必知RAG（检索增强生成）
Retrieval-Augmented Generation。回答前先检索外部知识库，再把找到的内容作为"参考资料"喂给模型，模型据此生成答案。下方有 RAG 架构流程图。
解决两大痛点：模型知识是"冻结"在训练日期的；大模型会产生幻觉编造事实
中层必知智能体（Agent）
AI Agent，能自主观察、规划、执行任务的 AI 系统。不只是聊天——它能调用工具（搜索、计算、发邮件）、分步规划、反思纠错。下方有 Agent 架构图解。
比喻：LLM 是大脑，Agent 是完整的人——有记忆、能用工具、会做计划
浅层必知提示词（Prompt）
给大模型的输入指令。好的 Prompt 能让模型输出质量提升数倍。提示工程（Prompt Engineering） 是当下的热门技能，设计让模型乖乖听话的话术。
基本原则：角色扮演 + 明确任务 + 格式要求 + 示例引导
中层必知向量数据库（Vector DB）
RAG 的核心基础设施。把文本变成数学向量，做"语义相似度搜索"——不是关键词匹配，而是理解意思。下方 RAG 流程图中能看到它的位置。
中层函数调用（Function Calling）
让大模型按预定格式输出"想调用什么工具、传什么参数"，外部程序执行后把结果返回。这是 Agent 能上网查资料、调数据库、控制软件的关键桥梁。
浅层幻觉（Hallucination）
大模型一本正经地胡说八道。编造人名、数据、论文——看起来像真的但全是凭空生成的。RAG 是目前最有效的缓解方案：用检索到的真实文档约束模型回答。
浅层嵌入（Embedding）
把文字/图片/声音变成一串数字（向量），语义相近的内容向量也相近。RAG 的搜索不是关键词匹配，而是语义接近度计算。
中层LangChain / LlamaIndex
最流行的两个 LLM 应用开发框架。LangChain 侧重链式调用和 Agent 编排，LlamaIndex 侧重数据索引和检索。做 AI 应用开发绕不开这两个。
图解：RAG — 检索增强生成完整流程
离线阶段（上半）：文档切块 → 向量化 → 存入向量数据库。在线阶段（下半）：用户提问 → 向量检索 → 拼接增强 Prompt → LLM 生成答案。
离线建库阶段（一次性）
文档库
PDF/网页/数据库企业内部知识
文本切块
Chunking按语义切分段落
Embedding
向量化文本 → 向量
向量数据库
存为索引支持语义搜索
在线查询阶段（每次调用）
用户提问
"公司Q3营收多少？"
Embedding 查询
问题向量化向量检索
语义相似度Top-K 召回
拼接 Prompt
问题 + 检索到的上下文片段
LLM 生成答案
基于上下文不瞎编
数据转换/Embedding
向量存储/检索
用户交互/生成
图解：AI Agent — 自主智能体四大模块
Agent = LLM 大脑 + 工具调用 + 记忆系统 + 规划能力。四个模块协作让 Agent 能自主完成复杂任务。
LLM 大脑
推理与决策引擎
GPT-4 / Claude /
文心 / DeepSeek
GPT-4 / Claude /
文心 / DeepSeek
工具层
搜索 · 计算器
数据库 · API
代码执行器
数据库 · API
代码执行器
记忆层
短期 · 对话上下文
长期 · 用户偏好
共享 · 跨会话知识
长期 · 用户偏好
共享 · 跨会话知识
规划层
任务分解 · 子目标
反思纠错
ReAct / CoT
反思纠错
ReAct / CoT
用户指令
规划分解
拆成步骤调用工具
执行子任务反思评估
结果是否正确输出/重试
典型工作流：观察 → 思考 → 行动 → 观察 → ... → 完成（ReAct 模式）
重要区分
RAG 是给模型外接一个知识库，让模型能回答训练数据之外的问题。Agent 是给模型一个完整的行动框架——能使用工具、做计划、自我纠错。两者经常结合使用：Agent 在需要查资料时调用 RAG。
第1章 1.5
高频术语速查（800+词）— 看懂 AI 圈在聊什么
按四十大类分组排列，阅读和分析 AI 相关材料时当作词典随时查阅。每个词标注学习深度。
中Jamba
(Jamba (SSM+Transformer混合)) AI21 Labs 推出的 Mamba 状态空间模型+Transformer 混合架构，长上下文处理效率极高，140K 上下文窗口
(Jamba (SSM+Transformer混合)) AI21 Labs 推出的 Mamba 状态空间模型+Transformer 混合架构，长上下文处理效率极高，140K 上下文窗口
浅Phi 系列
(Phi (Microsoft)) 微软小参数高性能模型系列(Phi-1/2/3/4)，用"教科书级数据"训练，证明数据质量远比数量重要
(Phi (Microsoft)) 微软小参数高性能模型系列(Phi-1/2/3/4)，用"教科书级数据"训练，证明数据质量远比数量重要
浅Gemma 系列
(Gemma (Google)) Google 开源轻量级模型家族，基于 Llama 架构改进，支持学术研究和商业使用
(Gemma (Google)) Google 开源轻量级模型家族，基于 Llama 架构改进，支持学术研究和商业使用
中DiT
(Diffusion Transformer (扩散Transformer)) Sora 核心技术架构，将扩散模型与 Transformer 结合，用于视频/图像生成
(Diffusion Transformer (扩散Transformer)) Sora 核心技术架构，将扩散模型与 Transformer 结合，用于视频/图像生成
中稀疏注意力
(Sparse Attention) 只计算部分位置的注意力，复杂度从 O(n²) 降到 O(n log n)，长文本必备优化
(Sparse Attention) 只计算部分位置的注意力，复杂度从 O(n²) 降到 O(n log n)，长文本必备优化
深专家并行
(Expert Parallelism) MoE 模型分布式训练策略，不同专家分布在不同 GPU 上，解决 MoE 通信瓶颈
(Expert Parallelism) MoE 模型分布式训练策略，不同专家分布在不同 GPU 上，解决 MoE 通信瓶颈
零、基础概念
浅提示词
(Prompt) 用户输入给 AI 模型的指令文本，是人与 AI 交互的核心接口。好的 Prompt 能显著提升输出质量，因此催生了"提示工程"(Prompt Engineering)这一专门技能。Prompt 包含：任务指令、上下文信息、输出格式要求、示例等要素
(Prompt) 用户输入给 AI 模型的指令文本，是人与 AI 交互的核心接口。好的 Prompt 能显著提升输出质量，因此催生了"提示工程"(Prompt Engineering)这一专门技能。Prompt 包含：任务指令、上下文信息、输出格式要求、示例等要素
浅Token
（词元） LLM 处理文本的最小单位，约 0.7-1 个汉字或 0.75 个英文单词为一个 Token。模型上下文长度、API 计费、推理速度均以 Token 为计量单位。中文"人工智能"约 3-4 Token
（词元） LLM 处理文本的最小单位，约 0.7-1 个汉字或 0.75 个英文单词为一个 Token。模型上下文长度、API 计费、推理速度均以 Token 为计量单位。中文"人工智能"约 3-4 Token
浅LLM
（大语言模型） 参数量数十亿到万亿级别的深度学习语言模型，通过海量文本预训练获得通用语言理解和生成能力。GPT、Llama、Claude、Qwen、DeepSeek 均属 LLM。是当前 AI 浪潮的核心技术载体
（大语言模型） 参数量数十亿到万亿级别的深度学习语言模型，通过海量文本预训练获得通用语言理解和生成能力。GPT、Llama、Claude、Qwen、DeepSeek 均属 LLM。是当前 AI 浪潮的核心技术载体
浅基座模型
(Base Model) 经过预训练但未经过指令微调的原始大模型。基座模型具备通用语言能力但不会"听话"——需要 SFT（监督微调）后才能成为可用的对话模型。如 Llama 3 Base vs Llama 3 Instruct
(Base Model) 经过预训练但未经过指令微调的原始大模型。基座模型具备通用语言能力但不会"听话"——需要 SFT（监督微调）后才能成为可用的对话模型。如 Llama 3 Base vs Llama 3 Instruct
中预训练
(Pre-training) 用海量无标注文本数据训练基座模型的过程，耗时数周到数月、花费数百万到数千万美元。模型的大部分"知识"在此阶段获得，是 AI 公司核心壁垒所在
(Pre-training) 用海量无标注文本数据训练基座模型的过程，耗时数周到数月、花费数百万到数千万美元。模型的大部分"知识"在此阶段获得，是 AI 公司核心壁垒所在
中微调
(Fine-tuning) 在预训练模型基础上用特定领域/任务数据继续训练，使模型适配特定场景。包含 SFT（监督微调）、LoRA（低秩适配）、RLHF（人类反馈强化学习）等多种方法。区别于从零训练
(Fine-tuning) 在预训练模型基础上用特定领域/任务数据继续训练，使模型适配特定场景。包含 SFT（监督微调）、LoRA（低秩适配）、RLHF（人类反馈强化学习）等多种方法。区别于从零训练
浅上下文窗口
(Context Window) 模型单次能处理的最大 Token 数量，决定了"记忆容量"。2024 年前主流为 4K-8K，2025 年已普及 128K-1M+。长上下文能力是模型竞争的关键维度之一
(Context Window) 模型单次能处理的最大 Token 数量，决定了"记忆容量"。2024 年前主流为 4K-8K，2025 年已普及 128K-1M+。长上下文能力是模型竞争的关键维度之一
中嵌入
(Embedding / 向量化) 将文本/图像等非结构化数据转换为高维向量（数数字列表），语义相似的输入在向量空间中距离更近。RAG 检索、语义搜索、推荐系统的核心技术基础
(Embedding / 向量化) 将文本/图像等非结构化数据转换为高维向量（数数字列表），语义相似的输入在向量空间中距离更近。RAG 检索、语义搜索、推荐系统的核心技术基础
中RAG
（检索增强生成） Retrieval-Augmented Generation：先从外部知识库检索相关文档，再将文档作为上下文交给 LLM 生成回答。解决模型知识过时和幻觉问题，企业落地 AI 的首选架构模式
（检索增强生成） Retrieval-Augmented Generation：先从外部知识库检索相关文档，再将文档作为上下文交给 LLM 生成回答。解决模型知识过时和幻觉问题，企业落地 AI 的首选架构模式
中智能体
(Agent) 能自主感知环境、规划任务、调用工具、执行行动的 AI 系统。区别于简单 LLM 对话：Agent 具有循环推理(ReAct)、工具使用(Tool Use)、记忆管理等完整能力闭环
(Agent) 能自主感知环境、规划任务、调用工具、执行行动的 AI 系统。区别于简单 LLM 对话：Agent 具有循环推理(ReAct)、工具使用(Tool Use)、记忆管理等完整能力闭环
浅幻觉
(Hallucination) 模型生成看似合理但实际上虚假或不准确的内容。LLM 的固有缺陷，源于概率性生成的本质。RAG 和引用机制是主要缓解手段，完全消除仍是开放研究问题
(Hallucination) 模型生成看似合理但实际上虚假或不准确的内容。LLM 的固有缺陷，源于概率性生成的本质。RAG 和引用机制是主要缓解手段，完全消除仍是开放研究问题
中对齐
(Alignment) 让 AI 模型的行为符合人类意图和价值观的技术方向。包括：安全对齐（拒绝有害请求）、意图对齐（遵循指令）、价值观对齐（文化/伦理一致）。RLHF/DPO/Constitutional AI 是主要方法
(Alignment) 让 AI 模型的行为符合人类意图和价值观的技术方向。包括：安全对齐（拒绝有害请求）、意图对齐（遵循指令）、价值观对齐（文化/伦理一致）。RLHF/DPO/Constitutional AI 是主要方法
浅系统提示词
(System Prompt) 开发者预设的"角色设定"指令，在每次对话开始时注入，定义 AI 的身份、行为规范和能力边界。相当于给 AI 设定的"人设"和"操作手册"，是产品化 AI 的关键控制手段
(System Prompt) 开发者预设的"角色设定"指令，在每次对话开始时注入，定义 AI 的身份、行为规范和能力边界。相当于给 AI 设定的"人设"和"操作手册"，是产品化 AI 的关键控制手段
浅提示工程
(Prompt Engineering) 设计和优化 Prompt 以获得最佳模型输出的实践技能。包含：CoT（思维链）、Few-shot（少样本）、角色设定、格式约束等技术。好的 Prompt 工程可在不改变模型的情况下大幅提升效果
(Prompt Engineering) 设计和优化 Prompt 以获得最佳模型输出的实践技能。包含：CoT（思维链）、Few-shot（少样本）、角色设定、格式约束等技术。好的 Prompt 工程可在不改变模型的情况下大幅提升效果
浅Token Economics
（Token 经济学） LLM API 按 Token 计费的商业逻辑：理解输入/输出 Token 定价规则、估算成本、控制预算。GPT-4o 约 $2.5/M 输入 Token，DeepSeek 仅为其 1/10，成本差异直接影响产品可行性
（Token 经济学） LLM API 按 Token 计费的商业逻辑：理解输入/输出 Token 定价规则、估算成本、控制预算。GPT-4o 约 $2.5/M 输入 Token，DeepSeek 仅为其 1/10，成本差异直接影响产品可行性
一、模型架构与类型
中Transformer 2017年Google提出的革命性神经网络架构，基于自注意力机制替代RNN，几乎所有现代LLM的基石。GPT、BERT、Llama等均基于此架构
浅AFM（Apple Foundation Model） Apple 自研基础模型，驱动 Apple Intelligence
中BERT
（双向编码器表征） Google 2018年发布，基于Transformer编码器的预训练模型，通过掩码语言模型和下一句预测任务训练。NLP领域里程碑，奠定了"预训练+微调"范式，擅长文本理解与分类任务
（双向编码器表征） Google 2018年发布，基于Transformer编码器的预训练模型，通过掩码语言模型和下一句预测任务训练。NLP领域里程碑，奠定了"预训练+微调"范式，擅长文本理解与分类任务
中CLIP
（对比语言-图像预训练） OpenAI 多模态模型，连接文本和图像，Stable Diffusion 依赖其文本编码器
（对比语言-图像预训练） OpenAI 多模态模型，连接文本和图像，Stable Diffusion 依赖其文本编码器
中CNN
（卷积神经网络） 图像处理经典架构，通过卷积核提取局部特征，ResNet 是其代表
（卷积神经网络） 图像处理经典架构，通过卷积核提取局部特征，ResNet 是其代表
中GAN
（生成对抗网络） 生成器 vs 判别器相互博弈训练，图像生成领域里程碑，训练极不稳定
（生成对抗网络） 生成器 vs 判别器相互博弈训练，图像生成领域里程碑，训练极不稳定
中LSTM
（长短期记忆网络） RNN 改进版，通过门控机制解决长序列依赖，Transformer 出现前的 NLP 主力
（长短期记忆网络） RNN 改进版，通过门控机制解决长序列依赖，Transformer 出现前的 NLP 主力
中Mamba
（状态空间模型） 2023 年新架构，用状态空间模型替代注意力，推理速度不随序列长度线性增长
（状态空间模型） 2023 年新架构，用状态空间模型替代注意力，推理速度不随序列长度线性增长
中MoE
（混合专家模型） 每次只激活部分"专家"子网络，参数多但计算少。Mixtral 和 DeepSeek-V2 采用
（混合专家模型） 每次只激活部分"专家"子网络，参数多但计算少。Mixtral 和 DeepSeek-V2 采用
中ResNet
（残差网络） 通过"跳跃连接"让深层网络可训练，CV 领域里程碑，ResNet-50/101/152
（残差网络） 通过"跳跃连接"让深层网络可训练，CV 领域里程碑，ResNet-50/101/152
中RNN
（循环神经网络） 处理序列数据的基础架构，按时间步递归，存在梯度消失问题
（循环神经网络） 处理序列数据的基础架构，按时间步递归，存在梯度消失问题
中RoBERTa
（鲁棒优化的BERT） Meta 对 BERT 的优化版，更多数据 + 更大batch + 更长训练，性能显著提升
（鲁棒优化的BERT） Meta 对 BERT 的优化版，更多数据 + 更大batch + 更长训练，性能显著提升
中RWKV
（Receptance加权键值） 结合 RNN 和 Transformer 优势，推理时是 RNN（快），训练时并行如 Transformer
（Receptance加权键值） 结合 RNN 和 Transformer 优势，推理时是 RNN（快），训练时并行如 Transformer
中SLM
（小语言模型） 参数 1B-10B 的轻量模型，可在手机/PC 本地运行，Phi、Gemma、Qwen 小尺寸版
（小语言模型） 参数 1B-10B 的轻量模型，可在手机/PC 本地运行，Phi、Gemma、Qwen 小尺寸版
中T5
（文本到文本迁移Transformer） Google "万物皆Seq2Seq" 模型，将所有 NLP 任务统一为文本到文本格式
（文本到文本迁移Transformer） Google "万物皆Seq2Seq" 模型，将所有 NLP 任务统一为文本到文本格式
中U-Net 编码器-解码器 + 跳跃连接的 U 形架构，图像分割和扩散模型（Stable Diffusion）的核心
中ViT
（视觉Transformer） 将图像切成 patch 像 token 一样输入 Transformer，证明 Transformer 在视觉也通用
（视觉Transformer） 将图像切成 patch 像 token 一样输入 Transformer，证明 Transformer 在视觉也通用
中VLM
（视觉语言模型） 能同时理解图像和文本的模型，GPT-4V、Gemini Vision、Qwen-VL 等
（视觉语言模型） 能同时理解图像和文本的模型，GPT-4V、Gemini Vision、Qwen-VL 等
中XLNet 通过排列语言建模改进 BERT，融合自回归和自编码优势
二、训练技术与优化器
中Adam / AdamW 最主流的深度学习优化器，AdamW 加入权重衰减解耦，LLM 训练标配
中SGD
（随机梯度下降） 经典优化算法，每次用随机小批量数据更新参数，收敛慢但泛化性好
（随机梯度下降） 经典优化算法，每次用随机小批量数据更新参数，收敛慢但泛化性好
中Dropout 训练时随机丢弃部分神经元防止过拟合，推理时关闭
中BatchNorm
（批归一化） 对每批数据标准化，加速训练收敛、允许更大学习率
（批归一化） 对每批数据标准化，加速训练收敛、允许更大学习率
中LayerNorm
（层归一化） 沿特征维度归一化，不依赖 batch size，Transformer 标配
（层归一化） 沿特征维度归一化，不依赖 batch size，Transformer 标配
中知识蒸馏 大模型（Teacher）教小模型（Student），让小模型继承能力，降低部署成本
中模型剪枝 移除模型中贡献小的参数/连接，减小体积同时尽量保持精度
深对比学习 拉近相似样本、推远不相似样本的自监督方法，SimCLR、MoCo 等框架
深课程学习 模仿人类教育，训练数据从简单到困难逐步递进
深迁移学习 将源任务学到的知识迁移到目标任务，预训练-微调范式即迁移学习
深自监督学习 从无标注数据中构造监督信号（如下一句预测），LLM 预训练的核心范式
深联邦学习 数据不出本地，多个参与方协作训练模型，保护隐私
深持续学习 模型在学新任务时不遗忘旧知识（灾难性遗忘），仍为开放研究问题
深AutoML
（自动机器学习） 自动搜索最优模型架构和超参数，减少人工调参工作量
（自动机器学习） 自动搜索最优模型架构和超参数，减少人工调参工作量
深NAS
（神经架构搜索） AutoML 子领域，用强化学习或进化算法自动设计网络结构
（神经架构搜索） AutoML 子领域，用强化学习或进化算法自动设计网络结构
深超参数调优 搜索学习率、batch size、层数等最优组合，网格搜索/贝叶斯优化/随机搜索
中DeepSpeed / ZeRO 微软分布式训练框架，ZeRO 分片优化器状态，让千亿参数训练在普通集群可行
中FSDP
（全分片数据并行） PyTorch 原生分布式策略，类似 ZeRO-3，分片模型参数/梯度/优化器状态
（全分片数据并行） PyTorch 原生分布式策略，类似 ZeRO-3，分片模型参数/梯度/优化器状态
中长上下文训练
(Long Context Training / RoPE Scaling) 通过位置编码扩展（NTK-aware/YaRN）让模型支持 128K+ 长度，2025 年标配能力
(Long Context Training / RoPE Scaling) 通过位置编码扩展（NTK-aware/YaRN）让模型支持 128K+ 长度，2025 年标配能力
深课程数据合成
(Curriculum Data Synthesis) 按难度梯度合成训练数据从简单到复杂逐步提升能力，DeepSeek-R1 核心技巧
(Curriculum Data Synthesis) 按难度梯度合成训练数据从简单到复杂逐步提升能力，DeepSeek-R1 核心技巧
中多模态预训练
(Multimodal Pre-training) 统一图像/文本/音频/视频的联合预训练范式，GPT-4o/Gemini 原生多模态的基础
(Multimodal Pre-training) 统一图像/文本/音频/视频的联合预训练范式，GPT-4o/Gemini 原生多模态的基础
深过程监督
(Process Supervision (PRM)) 对推理每一步而非仅最终结果打奖惩，o1/DeepSeek-R1 推理能力的核心训练方法
(Process Supervision (PRM)) 对推理每一步而非仅最终结果打奖惩，o1/DeepSeek-R1 推理能力的核心训练方法
三、微调与对齐方法
中SFT
（监督微调） 用人工标注的问答数据微调基座模型，让模型学会遵守指令格式
（监督微调） 用人工标注的问答数据微调基座模型，让模型学会遵守指令格式
中LoRA
（低秩适配） 只训练少量额外参数（低秩矩阵），冻住原模型权重，极大降低微调成本
（低秩适配） 只训练少量额外参数（低秩矩阵），冻住原模型权重，极大降低微调成本
中QLoRA
（量化低秩适配） LoRA + 4-bit 量化，在单张消费级 GPU 上微调 65B 模型成为可能
（量化低秩适配） LoRA + 4-bit 量化，在单张消费级 GPU 上微调 65B 模型成为可能
中PEFT
（参数高效微调） 微调方法总称：LoRA、Prefix Tuning、Adapter 等，只更新极少参数
（参数高效微调） 微调方法总称：LoRA、Prefix Tuning、Adapter 等，只更新极少参数
中DPO
（直接偏好优化） RLHF 的简化替代，不需要单独训练奖励模型，直接优化偏好数据，更稳定
（直接偏好优化） RLHF 的简化替代，不需要单独训练奖励模型，直接优化偏好数据，更稳定
中Constitutional AI Anthropic 提出，用 AI 反馈替代人类反馈做对齐，能低成本大规模扩展
中GRPO
（分组相对策略优化） DeepSeek-R1 使用的 RL 方法，组内比较奖励无需价值模型，降低 RL 训练开销
（分组相对策略优化） DeepSeek-R1 使用的 RL 方法，组内比较奖励无需价值模型，降低 RL 训练开销
中RLAIF
（AI反馈强化学习） 用 AI 模型替代人类标注员提供反馈，可扩展到 RLHF 难以覆盖的领域
（AI反馈强化学习） 用 AI 模型替代人类标注员提供反馈，可扩展到 RLHF 难以覆盖的领域
中在线 DPO / 迭代 DPO
(Online DPO / Iterative DPO) 迭代式直接偏好优化：生成样本→标注偏好→更新模型循环，效果远超一次性 DPO
(Online DPO / Iterative DPO) 迭代式直接偏好优化：生成样本→标注偏好→更新模型循环，效果远超一次性 DPO
中KTO
(KTO (Kahneman-Tversky Optimization)) 基于前景理论的偏好优化方法，只需"好/坏"二分类标签无需成对比较，降低标注成本
(KTO (Kahneman-Tversky Optimization)) 基于前景理论的偏好优化方法，只需"好/坏"二分类标签无需成对比较，降低标注成本
中ORPO
(ORPO (Odd Ratio Preference Optimization)) 将偏好优化融入 SFT 损失函数的单阶段方法，避免 RLHF 的多阶段复杂性
(ORPO (Odd Ratio Preference Optimization)) 将偏好优化融入 SFT 损失函数的单阶段方法，避免 RLHF 的多阶段复杂性
中SimPO
(SimPO (Simple Preference Optimization)) 无需奖励模型的简化偏好优化，使用平均对数概率作为隐式奖励，简单效果好
(SimPO (Simple Preference Optimization)) 无需奖励模型的简化偏好优化，使用平均对数概率作为隐式奖励，简单效果好
四、推理优化与部署
中AWQ
（激活感知权重量化） 基于激活值分布保护重要权重通道，4-bit 量化精度损失极小
（激活感知权重量化） 基于激活值分布保护重要权重通道，4-bit 量化精度损失极小
中Flash Attention IO 感知的精确注意力算法，利用 GPU 内存层级降低访存，速度提升 2-4x
中GGUF llama.cpp 使用的量化模型格式，支持 CPU 推理，让大模型在普通电脑运行
中GPTQ 基于 OBQ 的逐层权重量化方法，INT4 精度下保持接近原始性能
中KV Cache 缓存已计算的 Key/Value 矩阵避免重复计算，自回归推理必备优化
中推测解码 用小模型快速生成候选，大模型并行验证，提速 2-3x 且无损输出质量
中vLLM 高性能 LLM 推理引擎，PagedAttention 管理 KV Cache，吞吐量提升 10x+
中KV Cache 量化
(KV Cache Quantization) 对 KV Cache 进行 INT8/INT4 量化大幅降低显存占用，长文本推理关键优化
(KV Cache Quantization) 对 KV Cache 进行 INT8/INT4 量化大幅降低显存占用，长文本推理关键优化
中连续批处理
(Continuous Batching / Dynamic Batching) 动态将请求加入批次避免等待最慢请求完成，vLLM/SGLang 标配特性
(Continuous Batching / Dynamic Batching) 动态将请求加入批次避免等待最慢请求完成，vLLM/SGLang 标配特性
浅前缀缓存
(Prefix Caching) 缓存共享的系统提示前缀多用户复用减少重复计算，Chatbot 场景提速显著
(Prefix Caching) 缓存共享的系统提示前缀多用户复用减少重复计算，Chatbot 场景提速显著
中张量并行
(Tensor Parallelism (TP)) 将模型单层切分到多张 GPU 同步计算，大模型推理分布式标配
(Tensor Parallelism (TP)) 将模型单层切分到多张 GPU 同步计算，大模型推理分布式标配
深流水线并行
(Pipeline Parallelism (PP)) 将模型各层分配到不同 GPU 按微批次流水线执行，减少 GPU 空闲等待时间
(Pipeline Parallelism (PP)) 将模型各层分配到不同 GPU 按微批次流水线执行，减少 GPU 空闲等待时间
中显存优化推理
(Memory-Efficient Inference) 包括卸载 offloading、算子融合 fusion 等综合优化策略，让小显卡跑大模型
(Memory-Efficient Inference) 包括卸载 offloading、算子融合 fusion 等综合优化策略，让小显卡跑大模型
中结构化输出
(Structured Output / Constrained Decoding) 强制模型输出符合 JSON/正则等格式的文本，Agent 调用 API 时必需能力
(Structured Output / Constrained Decoding) 强制模型输出符合 JSON/正则等格式的文本，Agent 调用 API 时必需能力
五、评测指标与基准
浅BLEU 机器翻译评测，n-gram 匹配率。40+ 为优秀，但不够反映语义质量
浅ROUGE 文本摘要评测，关注召回率。ROUGE-1/2/L 常见，RNN 时代主力指标
中MMLU
（大规模多任务语言理解） 57 个学科选择题，衡量模型知识广度。GPT-4 约 86%，是业界标准之一
（大规模多任务语言理解） 57 个学科选择题，衡量模型知识广度。GPT-4 约 86%，是业界标准之一
中HumanEval 164 道 Python 编程题，衡量代码生成能力，pass@k 为主要指标
中GSM8K 8500 道小学数学应用题，衡量数学推理，需多步推理给出最终答案
中Chatbot Arena LMSYS 组织的匿名对战平台，用 Elo 分排名，盲测结果公认最接近真实体验
中MT-Bench 多轮对话评测，用 GPT-4 做裁判打分，涵盖写作/角色扮演/推理/编码等 8 类
中HELM
（整体语言模型评估） Stanford 多维评测框架，覆盖准确率/校准/鲁棒性/公平性/效率/毒性等
（整体语言模型评估） Stanford 多维评测框架，覆盖准确率/校准/鲁棒性/公平性/效率/毒性等
中TruthfulQA 测试模型是否会复述常见误解和虚假信息，衡量"诚实度"
六、推理策略与 Prompt 技术
中CoT
（思维链） Few-shot 给出"一步步推理"示例，让 LLM 展示思考过程，数学题正确率翻倍
（思维链） Few-shot 给出"一步步推理"示例，让 LLM 展示思考过程，数学题正确率翻倍
中Auto-CoT 自动生成思维链示例，无需人工编写。先聚类问题再采样生成示范
中ICL
（上下文学习） 在 Prompt 里给几个示例，模型就能举一反三，无需更新参数
（上下文学习） 在 Prompt 里给几个示例，模型就能举一反三，无需更新参数
中Least-to-Most Prompting 将复杂问题拆成子问题逐个解决，每个子问题的解作为下一子问题的输入
中PAL
（程序辅助语言模型） 让 LLM 生成代码来解题而非直接推理，将计算外包给 Python 解释器
（程序辅助语言模型） 让 LLM 生成代码来解题而非直接推理，将计算外包给 Python 解释器
中ReAct
（推理+行动交替） Thought → Action → Observation 循环，Agent 核心范式，结合推理与工具调用
（推理+行动交替） Thought → Action → Observation 循环，Agent 核心范式，结合推理与工具调用
中Self-Consistency 采样多条推理路径取多数答案，用"投票"提升 CoT 稳定性
中ToT
（思维树） 将推理探索成树形结构，用 BFS/DFS 搜索最佳路径，适合需要规划的任务
（思维树） 将推理探索成树形结构，用 BFS/DFS 搜索最佳路径，适合需要规划的任务
浅Zero-shot / Few-shot Zero-shot：不给示例直接问；Few-shot：给几个示例再问。ICL 的基础概念
七、RAG 高级技术
中Agentic RAG Agent 自主决定何时检索、检索什么、检索后是否需补充，比标准 RAG 灵活
中Chunking
（文本切块策略） RAG 中决定如何切分文档：固定大小/语义/递归切分，直接影响检索质量
（文本切块策略） RAG 中决定如何切分文档：固定大小/语义/递归切分，直接影响检索质量
中CRAG
（纠错式RAG） 引入检索评估器判断结果质量，质量差时自动触发 Web 搜索等补救
（纠错式RAG） 引入检索评估器判断结果质量，质量差时自动触发 Web 搜索等补救
中GraphRAG 用知识图谱替代向量存储做检索，适合需要多跳推理的复杂关联问题
中HyDE
（假设文档嵌入） 先让 LLM 生成"假设答案"再用其检索，缩小问题与文档的语义鸿沟
（假设文档嵌入） 先让 LLM 生成"假设答案"再用其检索，缩小问题与文档的语义鸿沟
中混合搜索 向量语义搜索 + 关键词搜索（BM25）双路融合，互补长短
中RRF
（倒数排名融合） 合并多路检索结果的经典算法，无需调权重，排名倒数求和后重排
（倒数排名融合） 合并多路检索结果的经典算法，无需调权重，排名倒数求和后重排
八、智能体与工具框架
中AutoGPT 2023 年爆火的开源自主 Agent，给定目标自动分解任务、搜索、执行、迭代
中MemGPT 给 LLM 加上虚拟内存管理的 Agent 框架，模仿操作系统的分层记忆
中Reflexion 让 Agent 在失败后自我反思，将改进经验存为长期记忆，下次避免同样错误
中Toolformer Meta 提出，让 LLM 自学何时以及如何使用外部工具（计算器、搜索、翻译等）
中MCP
（模型上下文协议） Anthropic 推出的 Agent-工具标准化协议，Analog to USB-C for AI integrations
（模型上下文协议） Anthropic 推出的 Agent-工具标准化协议，Analog to USB-C for AI integrations
中Agentic AI
（自主智能体 AI） 让 AI 具备自主感知、推理、规划、行动能力的范式。核心是单 Agent 能自主决定何时调工具、何时查资料、何时换思路。o1/o3、Computer Use、Codex 都是 Agentic AI 的代表
（自主智能体 AI） 让 AI 具备自主感知、推理、规划、行动能力的范式。核心是单 Agent 能自主决定何时调工具、何时查资料、何时换思路。o1/o3、Computer Use、Codex 都是 Agentic AI 的代表
中智能体集群
（Agent Cluster / Swarm） 多个专业化 Agent 分工协作的架构模式。各 Agent 各司其职（文案/设计/投放/分析），按协议通信、统一编排。CrewAI/AutoGen/LangGraph 是主流框架。核心价值：1+1>2 的协作效应
（Agent Cluster / Swarm） 多个专业化 Agent 分工协作的架构模式。各 Agent 各司其职（文案/设计/投放/分析），按协议通信、统一编排。CrewAI/AutoGen/LangGraph 是主流框架。核心价值：1+1>2 的协作效应
浅Agentic 工作流
(Agentic Workflow) AI Agent 自主规划→执行→观察→反思的完整工作流模式，区别于简单的 LLM 调用
(Agentic Workflow) AI Agent 自主规划→执行→观察→反思的完整工作流模式，区别于简单的 LLM 调用
中多 Agent 编排
(Multi-Agent Orchestration) 多个专业化 Agent 协作的模式：主管-工人/辩论/层级等，智能体集群核心设计模式
(Multi-Agent Orchestration) 多个专业化 Agent 协作的模式：主管-工人/辩论/层级等，智能体集群核心设计模式
中计划与执行分离
(Plan-and-Solve / Plan-and-Execute) 先完整规划任务步骤再逐步执行的 Agent 模式，适合复杂多步任务
(Plan-and-Solve / Plan-and-Execute) 先完整规划任务步骤再逐步执行的 Agent 模式，适合复杂多步任务
浅工具使用
(Tool Use / Function Calling) LLM 根据语义选择并调用外部 API 的能力，GPT-4/Claude 标配 Agent 基础能力
(Tool Use / Function Calling) LLM 根据语义选择并调用外部 API 的能力，GPT-4/Claude 标配 Agent 基础能力
浅人机协作循环
(Human-in-the-loop (HITL)) 关键决策由人类确认后再执行的安全模式，企业级 Agent 部署必备
(Human-in-the-loop (HITL)) 关键决策由人类确认后再执行的安全模式，企业级 Agent 部署必备
中记忆管理架构
(Memory Architecture) Agent 记忆分层设计：短期(上下文窗口)/长期(向量数据库)/实体知识(知识图谱)
(Memory Architecture) Agent 记忆分层设计：短期(上下文窗口)/长期(向量数据库)/实体知识(知识图谱)
深自我进化 Agent
(Self-Evolving Agent) 能从成功/失败经验中学习并优化自身行为策略的 Agent，Reflexion 延伸方向
(Self-Evolving Agent) 能从成功/失败经验中学习并优化自身行为策略的 Agent，Reflexion 延伸方向
深LATS
(LATS (Language Agent Tree Search)) 结合思维树搜索和反射机制的 Agent 框架，蒙特卡洛树搜索探索最佳行动序列
(LATS (Language Agent Tree Search)) 结合思维树搜索和反射机制的 Agent 框架，蒙特卡洛树搜索探索最佳行动序列
中CAG
(CAG (Code Agent Generation)) 代码生成专用 Agent 模式，理解代码库/编写代码/运行测试/修复 bug 自动化流程
(CAG (Code Agent Generation)) 代码生成专用 Agent 模式，理解代码库/编写代码/运行测试/修复 bug 自动化流程
中开放 Agent 生态
(Open Agent Ecosystem) MCP/A2A 等协议推动的跨平台 Agent 互操作标准，类似 USB-C for AI Agents
(Open Agent Ecosystem) MCP/A2A 等协议推动的跨平台 Agent 互操作标准，类似 USB-C for AI Agents
九、MLOps 与工程实践
中MLOps
（机器学习运维） ML 模型的持续集成/部署/监控，类比 DevOps。包含数据/模型/代码三管线
（机器学习运维） ML 模型的持续集成/部署/监控，类比 DevOps。包含数据/模型/代码三管线
中数据漂移 线上数据分布与训练数据渐行渐远，导致模型性能退化，需持续监控
中模型漂移 模型预测行为随时间变化，可因环境变化或概念变化导致，触发重训练
中NPU
（神经网络处理器） 专为神经网络推理设计的芯片，手机/PC 端侧 AI 推理核心
（神经网络处理器） 专为神经网络推理设计的芯片，手机/PC 端侧 AI 推理核心
中TPU
（张量处理器） Google 定制 AI 加速芯片，Cloud TPU v5p 单 Pod 算力超百 PFlops
（张量处理器） Google 定制 AI 加速芯片，Cloud TPU v5p 单 Pod 算力超百 PFlops
中Checkpoint 训练过程中的模型快照，用于断点续训、回溯最佳版本、防止训练崩溃白费
中注入攻击
(Prompt Injection) 通过恶意输入劫持模型指令链让其忽略原始指令执行攻击者命令，最常见 AI 安全威胁
(Prompt Injection) 通过恶意输入劫持模型指令链让其忽略原始指令执行攻击者命令，最常见 AI 安全威胁
深对抗性鲁棒性
(Adversarial Robustness) 模型抵抗故意扰动的能力，输入微小变化导致输出错误的风险评估
(Adversarial Robustness) 模型抵抗故意扰动的能力，输入微小变化导致输出错误的风险评估
中可解释 AI
(XAI (Explainable AI)) 让黑盒模型决策过程可被人类理解的技术方向，监管合规和企业信任基础
(XAI (Explainable AI)) 让黑盒模型决策过程可被人类理解的技术方向，监管合规和企业信任基础
浅AI 水印
(AI Watermarking / SynthID) 在 AI 生成内容中嵌入不可见标记以区分真伪，Google DeepMind SynthID 代表方案
(AI Watermarking / SynthID) 在 AI 生成内容中嵌入不可见标记以区分真伪，Google DeepMind SynthID 代表方案
中宪法级对齐
(Constitutional AI (CAI)) Anthropic 提出基于原则集合的对齐方法，AI 自我批评+修订替代人工标注
(Constitutional AI (CAI)) Anthropic 提出基于原则集合的对齐方法，AI 自我批评+修订替代人工标注
中沙箱执行环境
(Sandbox Execution) Agent 执行代码/命令的隔离环境防止恶意操作影响宿主系统，企业部署安全底线
(Sandbox Execution) Agent 执行代码/命令的隔离环境防止恶意操作影响宿主系统，企业部署安全底线
十、安全与对齐
中Guardrails AI 应用安全护栏，输入/输出过滤层，防止注入攻击和敏感内容输出
中越狱 通过精心构造 Prompt 绕过模型安全限制，使其输出原本拒绝的危险内容
中红队测试 模拟攻击者测试模型安全性，OpenAI/Anthropic 等在新模型发布前必经流程
十一、中国特有及高频行业术语
浅信创 信息技术应用创新，国产替代国家战略。AI 芯片/框架/模型全链国产化受政策推动
浅RPA
（机器人流程自动化） 软件机器人自动执行重复性规则任务（填表/导数据），常与 AI Agent 配合使用
（机器人流程自动化） 软件机器人自动执行重复性规则任务（填表/导数据），常与 AI Agent 配合使用
中RGA
（检索增强生成式Agent） RAG + Agent 融合范式，Agent 自主决策检索策略，不是简单的一问一检
（检索增强生成式Agent） RAG + Agent 融合范式，Agent 自主决策检索策略，不是简单的一问一检
浅AIGC
（AI生成内容） AI 生成文字/图片/视频/音乐/代码。区别于 UGC 和 PGC 的第三代内容生产方式
（AI生成内容） AI 生成文字/图片/视频/音乐/代码。区别于 UGC 和 PGC 的第三代内容生产方式
浅AGI
（通用人工智能） 能完成任何人类智力任务的 AI。OpenAI 声称 AGI 可能在 2027-2030 年实现
（通用人工智能） 能完成任何人类智力任务的 AI。OpenAI 声称 AGI 可能在 2027-2030 年实现
浅NLP / CV / ASR / TTS / OCR 五大 AI 子领域：自然语言处理、计算机视觉、语音识别、语音合成、光学字符识别
浅Diffusion
（扩散模型） 逐步加噪再逆向去噪生成图像，Stable Diffusion/DALL-E 3/Sora 的核心技术
（扩散模型） 逐步加噪再逆向去噪生成图像，Stable Diffusion/DALL-E 3/Sora 的核心技术
中Scaling Law
（规模定律） 模型性能与参数量/数据量/计算量呈幂律关系，OpenAI 2020 年实证，指导大模型投入决策
（规模定律） 模型性能与参数量/数据量/计算量呈幂律关系，OpenAI 2020 年实证，指导大模型投入决策
浅Temperature
（温度参数） 控制模型输出的随机性：越低越确定（代码/事实），越高越有创意（诗歌/故事）
（温度参数） 控制模型输出的随机性：越低越确定（代码/事实），越高越有创意（诗歌/故事）
浅DALL-E / Midjourney / Sora DALL-E：OpenAI 文本生图；Midjourney：独立公司，艺术风格突出；Sora：OpenAI 文本生视频
浅DaaS
（数据即服务） Data as a Service，云原生数据交付模式，通过 API 提供按需数据服务。2025 年全球市场规模 $249 亿，预计 2030 年达 $619 亿。区别于传统数据仓库，强调即用即付
（数据即服务） Data as a Service，云原生数据交付模式，通过 API 提供按需数据服务。2025 年全球市场规模 $249 亿，预计 2030 年达 $619 亿。区别于传统数据仓库，强调即用即付
浅Grok xAI（Elon Musk）推出的 AI 模型系列，集成 X/Twitter 实时数据，以"幽默犀利"风格著称。Grok-3 在数学和推理基准上表现强劲
十二、主流 AI 产品与应用
浅ChatGPT OpenAI 旗舰对话产品，2022.11 上线，2 个月破亿用户，全球 AI 普及的起点
中Codex
（OpenAI 代码智能体） OpenAI 云端软件工程智能体（2025重启），基于 o3 架构。能克隆仓库、改代码、跑测试、提 PR——异步自主执行编程任务。最新 GPT-5.3-Codex 是最强 agentic 编程模型
（OpenAI 代码智能体） OpenAI 云端软件工程智能体（2025重启），基于 o3 架构。能克隆仓库、改代码、跑测试、提 PR——异步自主执行编程任务。最新 GPT-5.3-Codex 是最强 agentic 编程模型
浅Claude Anthropic 对话产品，以安全性著称，Claude 3.5 Sonnet 编程能力行业领先
浅Gemini Google 多模态 AI 助手，整合搜索/Gmail/地图生态，原名 Bard
浅Copilot 微软 AI 助手品牌，深度整合 Office 365 / Windows / GitHub，企业级 AI 入口
浅Perplexity AI 搜索引擎，答案附带引用来源，被称为"Google 杀手"
浅Cursor AI 编程 IDE，基于 VS Code，支持自然语言改代码，开发者圈爆火
浅Devin Cognition AI 推出的"AI 软件工程师"，可自主完成完整开发任务
浅Notion AI / 飞书智能伙伴 办公协作工具内嵌 AI，写文档/总结会议/自动填表
浅Suno / Udio AI 音乐生成工具，输入歌词+风格描述即可生成完整歌曲
浅Runway / Pika AI 视频生成/编辑平台，文字生成短视频片段
浅HeyGen / 数字人 AI 数字人视频生成，上传照片即可生成说话视频，跨境营销常用
浅Replit Agent / Bolt / Lovable 自然语言描述需求即可生成完整 Web 应用的 AI 编程工具
中Claude Code Anthropic 出品的终端 AI 编程代理，自主理解代码库、跨文件改代码、执行命令、提 PR。被誉为"最强 AI 编程助手"，2025年2月发布即引爆开发者圈
中OpenClaw
（开源 AI 智能体） 开源本地 AI 智能体框架，由 Peter Steinberger 创建，280K+ GitHub Stars。连接大模型与本地工具，自主执行文件操作、浏览器控制、消息收发等任务
（开源 AI 智能体） 开源本地 AI 智能体框架，由 Peter Steinberger 创建，280K+ GitHub Stars。连接大模型与本地工具，自主执行文件操作、浏览器控制、消息收发等任务
浅Windsurf Codeium 出品的 AI-first IDE，与 Cursor 齐名。支持 AI Flow 模式，能自动理解项目上下文并进行多文件编辑
浅Gemini CLI Google 推出的开源命令行 AI 编程代理，基于 Gemini 模型，能在终端中自主完成代码编写和项目操作
中Manus 中国通用 AI Agent 产品，2025年爆火。能自主完成复杂任务：市场调研、数据分析、报告撰写、旅行规划等，被称为"中国的 AI Agent 里程碑"
浅Sora OpenAI 文本生视频模型，2024年2月发布，能根据文字描述生成最长60秒的高质量视频，被视为视频生成的"GPT时刻"
浅可灵
（Kling） 快手推出的AI视频生成大模型，支持文生视频和图生视频，生成最长2分钟1080p视频，中国视频生成领域标杆产品
（Kling） 快手推出的AI视频生成大模型，支持文生视频和图生视频，生成最长2分钟1080p视频，中国视频生成领域标杆产品
浅即梦
（Jimeng） 字节跳动推出的AI内容创作平台，支持文生图、文生视频、图生视频，集成豆包大模型能力
（Jimeng） 字节跳动推出的AI内容创作平台，支持文生图、文生视频、图生视频，集成豆包大模型能力
浅豆包
（Doubao） 字节跳动旗舰AI对话助手，月活超1.5亿，中国用户量最大的AI应用，支持多模态交互和Agent能力
（Doubao） 字节跳动旗舰AI对话助手，月活超1.5亿，中国用户量最大的AI应用，支持多模态交互和Agent能力
浅文心一言 百度旗舰AI对话产品，基于文心大模型，是中国最早一批大语言模型产品，深度整合百度搜索生态
浅通义灵码 阿里推出的AI编程助手，基于通义千问大模型，支持VS Code/JetBrains等IDE，中国开发者常用编程工具
浅文心快码 百度推出的AI编程助手，基于文心大模型，支持代码补全、Bug修复、代码解释等，中国AI编程工具代表
浅海螺AI
（Hailuo AI） MiniMax推出的AI对话产品，支持语音克隆和多模态交互，海外版Talkie在海外市场表现亮眼
（Hailuo AI） MiniMax推出的AI对话产品，支持语音克隆和多模态交互，海外版Talkie在海外市场表现亮眼
浅盘古大模型
(Pangu Model) 华为自研大模型系列（技术），覆盖 NLP/CV/科学计算/气象等领域。配套产品：盘古 API 服务、盘乌气象大模型产品。核心优势：国产算力（昇腾芯片）全栈适配，政务/金融/制造等行业深度落地
(Pangu Model) 华为自研大模型系列（技术），覆盖 NLP/CV/科学计算/气象等领域。配套产品：盘古 API 服务、盘乌气象大模型产品。核心优势：国产算力（昇腾芯片）全栈适配，政务/金融/制造等行业深度落地
浅混元大模型
(Hunyuan Model) 腾讯自研大模型系列（技术），MoE 架构，参数规模万亿级。配套产品：混元助手 App / 腾讯云 MaaS 平台。核心优势：深度整合微信/企业微信/腾讯会议生态，社交和游戏场景有独特数据壁垒
(Hunyuan Model) 腾讯自研大模型系列（技术），MoE 架构，参数规模万亿级。配套产品：混元助手 App / 腾讯云 MaaS 平台。核心优势：深度整合微信/企业微信/腾讯会议生态，社交和游戏场景有独特数据壁垒
浅DALL-E OpenAI 文本生图模型，2021年发布DALL-E 1，2023年DALL-E 3整合进ChatGPT，图像质量和指令遵循能力行业领先
浅Midjourney 独立AI图像生成公司，以艺术风格和美学质量著称，Discord社区驱动，年收入超3亿美元，未融资独立运营
浅Stable Diffusion Stability AI 开源图像生成模型，可在消费级GPU上运行，开源社区生态丰富，ControlNet/LoRA等插件极大扩展能力
浅DeepSeek
(DeepSeek (深度求索)) 中国 AI 公司 DeepSeek-V3/R1 系列震惊全球，开源最强推理模型极致性价比标杆
(DeepSeek (深度求索)) 中国 AI 公司 DeepSeek-V3/R1 系列震惊全球，开源最强推理模型极致性价比标杆
浅o1/o3/o4 系列
(OpenAI o1 / o3 / o4 Series) OpenAI 推理增强模型引入 Test-Time Scaling 思维链推理数学/编程能力飞跃
(OpenAI o1 / o3 / o4 Series) OpenAI 推理增强模型引入 Test-Time Scaling 思维链推理数学/编程能力飞跃
浅GPT-5 系列
(GPT-5 / GPT-5.1 / GPT-5.2 / GPT-5.3) OpenAI 2025 年发布的新一代旗舰模型系统多模态原生 Agentic 能力强
(GPT-5 / GPT-5.1 / GPT-5.2 / GPT-5.3) OpenAI 2025 年发布的新一代旗舰模型系统多模态原生 Agentic 能力强
浅Claude 4 系列
(Claude 4 Opus / Sonnet / Haiku) Anthropic 2025 发布的 Claude 4 代模型 Computer Use 能力大幅增强
(Claude 4 Opus / Sonnet / Haiku) Anthropic 2025 发布的 Claude 4 代模型 Computer Use 能力大幅增强
浅Gemini 2.x 系列
(Gemini 2.0 / 2.5 Pro / Flash) Google 新一代多模态模型原生多模态长上下文 Agent 能力三合一
(Gemini 2.0 / 2.5 Pro / Flash) Google 新一代多模态模型原生多模态长上下文 Agent 能力三合一
浅Kimi K2
(Kimi K2 (月之暗面)) 月之暗面 2025 发布的最新模型 MoE 架构+超长上下文中文能力突出
(Kimi K2 (月之暗面)) 月之暗面 2025 发布的最新模型 MoE 架构+超长上下文中文能力突出
浅通义千问 Qwen 3
(Qwen 2.5 / Qwen 3 (通义千问)) 阿里开源模型家族新版本 Qwen3 在多项基准接近闭源顶级水平
(Qwen 2.5 / Qwen 3 (通义千问)) 阿里开源模型家族新版本 Qwen3 在多项基准接近闭源顶级水平
十三、核心公司与组织
浅OpenAI ChatGPT/GPT-4/Sora 创造者，估值超 1500 亿美元，AI 行业风向标
浅Anthropic Claude 创造者，由前 OpenAI 安全团队创立，主打 AI 安全与对齐
浅Google DeepMind Gemini 模型背后的团队，AlphaGo/AlphaFold 的创造者
浅Meta AI Llama 系列开源模型的推动者，Yann LeCun 领衔
浅xAI Elon Musk 创办的 AI 公司，推出 Grok 模型，强调"追求真理"
浅Mistral AI 法国明星 AI 公司，欧洲开源 LLM 代表，Mixtral 混合专家模型
浅Stability AI Stable Diffusion 母公司，开源图像生成模型领导者
浅Cohere 加拿大企业级 LLM 公司，专注 RAG 和 Embedding，服务企业客户
浅Hugging Face AI 模型开源社区/平台，号称"AI 界的 GitHub"，托管数十万模型
浅Scale AI AI 数据标注独角兽，为 OpenAI/Google 等提供训练数据服务
浅智谱 / 月之暗面 / MiniMax / 零一万物 中国大模型"四小龙"：ChatGLM / Kimi / 海螺AI / Yi 系列模型
浅百度 / 阿里 / 腾讯 / 字节 / 华为 中国科技巨头 AI 布局：文心 / 通义千问 / 混元 / 豆包 / 盘古
浅copy.ai / Jasper AI写作/营销文案赛道先驱。copy.ai专注GTM工作流自动化，Jasper曾是AI写作估值最高独角兽，后因ChatGPT冲击转型
浅ElevenLabs AI语音合成独角兽，语音克隆和TTS技术行业领先，支持29种语言，估值超30亿美元
浅Perplexity AI AI搜索引擎独角兽，答案附带引用来源，年收入超1亿美元，被视为"Google最具威胁的挑战者"
浅Cursor / Cognition AI编程赛道标杆：Cursor是AI-first IDE估值超25亿美元；Cognition推出Devin（首个AI软件工程师），估值超20亿美元
浅百川智能 / 阶跃星辰 中国大模型第二梯队：百川由前搜狗CEO王小川创立，阶跃星辰由前微软全球副总裁姜大昕创立，均获数亿美元融资
浅面壁智能 / 智源研究院 中国AI学术力量：面壁智能(MiniCPM端侧模型先驱)源于清华NLP实验室；智源研究院(BAAI)是北京AI非营利研究机构，发布悟道大模型
浅Inflection AI / Adept AI明星创业公司：Inflection(由DeepMind联创创立)推出Pi后核心团队被微软挖走；Adept(Agent赛道先驱)由谷歌Transformer论文作者创立
浅Aleph Alpha 德国AI旗舰企业，欧洲主权AI代表，获数亿欧元政府订单，强调数据主权和透明性
浅Sakana AI 日本AI明星公司，由前Google AI研究员创立，首创"AI模型自动合并"技术，首篇论文即登Nature封面
浅Harvey.ai
(Harvey.ai) AI 法律助手独角兽服务全球顶尖律所垂直行业 AI 商业化标杆
(Harvey.ai) AI 法律助手独角兽服务全球顶尖律所垂直行业 AI 商业化标杆
浅Character.ai / Pi.ai
(Character.ai / Pi.ai) AI 情感陪伴产品 Character.ai 月活过亿证明非工具类 AI 产品巨大市场
(Character.ai / Pi.ai) AI 情感陪伴产品 Character.ai 月活过亿证明非工具类 AI 产品巨大市场
十四、开发框架与工具链
中LangChain 最流行的 LLM 应用开发框架，链式调用 + Agent + 工具集成，Python/JS 双语言
中LlamaIndex 专注数据索引和 RAG 的框架，擅长连接各种数据源构建知识库
中LangGraph LangChain 团队的状态图 Agent 框架，用有向图定义多步骤 Agent 工作流
中CrewAI 多 Agent 协作框架，定义角色/任务/团队，模拟组织协作
中AutoGen 微软多 Agent 对话框架，多个 Agent 自动对话完成复杂任务
中Dify / Coze / FastGPT 低代码 AI 应用搭建平台，拖拽式构建 RAG/Agent 应用，Dify 开源可私有部署
中Semantic Kernel 微软 LLM 编排 SDK，深度集成 .NET/Azure 生态，企业级 AI 中间件
中PyTorch / TensorFlow / JAX 三大深度学习框架：PyTorch 学术界主导，TensorFlow 工业界，JAX Google 力推
中Ollama 一键本地运行开源 LLM 的工具，支持 Llama/Mistral/Qwen 等，极简 CLI
中llama.cpp 纯 C/C++ LLM 推理引擎，支持 CPU 推理和 GGUF 量化格式，本地运行大模型基石
中Hugging Face Transformers 最流行的预训练模型库，一行代码加载 BERT/GPT/T5 等数千模型
中OpenAI Agents SDK
(OpenAI Agents SDK) OpenAI 官方 Agent 开发框架内置 Agent Loop/Tool Use/状态管理 2025 重点推广
(OpenAI Agents SDK) OpenAI 官方 Agent 开发框架内置 Agent Loop/Tool Use/状态管理 2025 重点推广
中Vercel AI SDK
(Vercel AI SDK (AI SDK Core)) Next.js 生态 AI 开发套件提供流式生成/工具调用/RAG 统一抽象前端开发者首选
(Vercel AI SDK (AI SDK Core)) Next.js 生态 AI 开发套件提供流式生成/工具调用/RAG 统一抽象前端开发者首选
中Haystack
(Haystack) deepset 开源的 RAG/搜索框架擅长构建问答系统和语义搜索管道
(Haystack) deepset 开源的 RAG/搜索框架擅长构建问答系统和语义搜索管道
浅LiteLLM
(LiteLLM) 统一 LLM API 代理层一行代码切换 OpenAI/Anthropic/本地模型开发者效率神器
(LiteLLM) 统一 LLM API 代理层一行代码切换 OpenAI/Anthropic/本地模型开发者效率神器
中Promptfoo
(Promptfoo) LLM 输出质量评测工具批量测试 Prompt 变体回归测试防退化
(Promptfoo) LLM 输出质量评测工具批量测试 Prompt 变体回归测试防退化
深DSPy
(DSPy) 斯坦福推出的程序化 Prompt 优化框架用代码定义 Pipeline 自动编译最优 Prompt
(DSPy) 斯坦福推出的程序化 Prompt 优化框架用代码定义 Pipeline 自动编译最优 Prompt
浅W&B
(Weights & Biases (W&B)) ML 实验追踪平台记录超参数/指标/模型版本团队协作标配
(Weights & Biases (W&B)) ML 实验追踪平台记录超参数/指标/模型版本团队协作标配
浅Fixie.ai
(Fixie.ai) 开源 Agent 平台类似 LangChain 但更轻量专注快速搭建功能性 Agent
(Fixie.ai) 开源 Agent 平台类似 LangChain 但更轻量专注快速搭建功能性 Agent
十五、向量数据库与检索引擎
中Pinecone 托管向量数据库，全托管免运维，适合快速原型和中小规模应用
中Milvus / Zilliz 开源向量数据库，支持十亿级向量，分布式架构适合企业级部署
中Chroma 轻量开源向量数据库，Python 原生，适合开发测试和嵌入应用
中Weaviate 支持混合搜索的向量数据库，GraphQL 接口，内置向量化和摘要模块
中Qdrant Rust 编写的高性能向量数据库，支持量化压缩和过滤搜索
中FAISS Meta 开源向量检索库，十亿级近似最近邻检索，不是数据库但速度极快
中Elasticsearch + 向量插件 传统搜索引擎 + 向量检索融合方案，企业搜索常用架构
十六、推理部署与优化
中ONNX
（开放神经网络交换） 微软/ Meta 推动的模型互操作格式，PyTorch→ONNX→TensorRT 跨框架部署
（开放神经网络交换） 微软/ Meta 推动的模型互操作格式，PyTorch→ONNX→TensorRT 跨框架部署
中TensorRT NVIDIA 推理优化引擎，针对自家 GPU 极致优化，吞吐量数倍提升
中OpenVINO Intel 推理优化工具包，优化在 Intel CPU/GPU/NPU 上的 AI 推理性能
中Triton Inference Server NVIDIA 推理服务器，支持多模型并发、动态批处理、GPU 共享
中Ray / Ray Serve 分布式计算框架，模型训练+推理服务化，OpenAI 内部也在使用
浅Groq / LPU Groq 自研语言处理单元，推理速度极快（数百 token/秒），不是 GPU 架构
浅SGLang 高效 LLM 推理框架，结构化生成为核心优势，RadixAttention 管理 KV Cache
十七、评测基准补充
中Arena Hard
(Arena Hard Auto) 自动化版 Chatbot Arena 用 LLM 裁判评测覆盖 8000+ 问题更新频率高
(Arena Hard Auto) 自动化版 Chatbot Arena 用 LLM 裁判评测覆盖 8000+ 问题更新频率高
浅AlpacaEval
(AlpacaEval) 单轮指令遵循评测对比模型输出与 GPT-4 参考答案质量轻量快速
(AlpacaEval) 单轮指令遵循评测对比模型输出与 GPT-4 参考答案质量轻量快速
中IFEval
(IFEval (Instruction Following Eval)) 严格测试模型是否遵守格式/长度/关键词等可验证指令衡量可控性
(IFEval (Instruction Following Eval)) 严格测试模型是否遵守格式/长度/关键词等可验证指令衡量可控性
中MathBench
(MathBench) 中文数学推理评测覆盖小学到竞赛级别中文模型数学能力重要标尺
(MathBench) 中文数学推理评测覆盖小学到竞赛级别中文模型数学能力重要标尺
中CRP Eval
(CRP (Code Reading & Processing) Eval) 代码阅读理解评测衡量模型读懂现有代码库并进行修改的能力
(CRP (Code Reading & Processing) Eval) 代码阅读理解评测衡量模型读懂现有代码库并进行修改的能力
中MultiPL-E
(MultiPL-E) 多语言编程评测扩展 HumanEval 到 20+ 编程语言衡量泛化能力
(MultiPL-E) 多语言编程评测扩展 HumanEval 到 20+ 编程语言衡量泛化能力
中SWE-bench 真实 GitHub Issue 修复评测，衡量 AI 编程能力，Devin 在此创下纪录
中GPQA 博士级科学推理评测，包含物理化学生物，难度极高
中C-Eval / CMMLU 中文综合评测基准，覆盖 52/67 个学科，衡量中文模型能力的核心指标
中AIME / AMC 国际数学竞赛题，DeepSeek-R1 和 o1 的核心评测赛道
中LiveCodeBench 动态更新的编程评测，避免训练数据污染，问题来自最新编程竞赛
中LongBench / RULER 长上下文评测，测试模型在 32K-128K+ token 输入下的理解能力
十八、新兴前沿概念
深世界模型
(World Models) AI 构建内部模拟环境来理解和预测物理世界的方向被视为通往 AGI 可能路径
(World Models) AI 构建内部模拟环境来理解和预测物理世界的方向被视为通往 AGI 可能路径
中具身智能
(Embodied AI) AI 与物理世界交互的能力机器人控制/操作物体/空间导航下一代 AI 热点
(Embodied AI) AI 与物理世界交互的能力机器人控制/操作物体/空间导航下一代 AI 热点
中推理计算优化
(Test-Time Compute (TTC) Optimization) 推理时动态决定投入多少计算量简单问题少算复杂问题多算 o1 核心创新
(Test-Time Compute (TTC) Optimization) 推理时动态决定投入多少计算量简单问题少算复杂问题多算 o1 核心创新
中数据飞轮
(Data Flywheel) 用户使用数据反哺模型优化的正向循环 AI 产品建立壁垒的核心机制
(Data Flywheel) 用户使用数据反哺模型优化的正向循环 AI 产品建立壁垒的核心机制
中小模型协同
(SLM Collaboration) 多个小模型分工协作完成复杂任务替代单个大模型降本增效新范式
(SLM Collaboration) 多个小模型分工协作完成复杂任务替代单个大模型降本增效新范式
浅边缘 AI
(Edge AI) 在设备端(手机/IoT/摄像头)本地运行 AI 模型低延迟+隐私保护部署趋势
(Edge AI) 在设备端(手机/IoT/摄像头)本地运行 AI 模型低延迟+隐私保护部署趋势
浅绿色 AI
(Green AI) 关注 AI 训练和推理能耗与碳排放高效架构(SLM/Mamba)成为研究热点
(Green AI) 关注 AI 训练和推理能耗与碳排放高效架构(SLM/Mamba)成为研究热点
浅主权 AI
(Sovereign AI) 国家/地区层面 AI 自主可控能力自建算力/自研模型/自有数据地缘政治新概念
(Sovereign AI) 国家/地区层面 AI 自主可控能力自建算力/自研模型/自有数据地缘政治新概念
中A2A
（Agent-to-Agent） Google 提出的 Agent 间通信协议，让不同框架开发的 Agent 互操作
（Agent-to-Agent） Google 提出的 Agent 间通信协议，让不同框架开发的 Agent 互操作
中Computer Use 让 AI 像人一样操作电脑：看屏幕、移动鼠标、点击、输入。Claude 首个商用
中Deep Research AI 自动进行深度调研：搜索→阅读→分析→综合→输出报告，OpenAI/Google 均已推出
中Synthetic Data 用 AI 生成训练数据，解决高质量数据枯竭问题，o1/Gemini 等新模型重度依赖
中Model Collapse 用 AI 生成的数据训练 AI 会导致模型退化，是合成数据时代的核心风险
中Test-Time Scaling 推理阶段增加计算量提升性能，o1/DeepSeek-R1 的核心技术，区别于训练时 Scaling
浅AI-Native / AI-First AI 原生：产品设计之初就以 AI 为核心，而非事后叠加。AI-Native 公司有结构性优势
浅Vibe Coding
（氛围编程） 2025 年由 Andrej Karpathy 提出的概念，用自然语言描述需求让 AI 写代码，人类只需"感受氛围"而非逐行编写。Claude Code/Cursor/Replit Agent 推动了这个趋势
（氛围编程） 2025 年由 Andrej Karpathy 提出的概念，用自然语言描述需求让 AI 写代码，人类只需"感受氛围"而非逐行编写。Claude Code/Cursor/Replit Agent 推动了这个趋势
浅AI PC 内置 NPU（神经网络处理器）的个人电脑，能在本地运行 AI 模型。Intel/AMD/高通已推出 AI PC 芯片，微软 Copilot+ PC 是标杆产品
十九、AI治理与监管
中EU AI Act
（欧盟人工智能法案） 全球首部全面AI监管法规，2024年通过，按风险等级分类监管（不可接受/高风险/有限风险/最小风险），违者最高罚全球营收7%
（欧盟人工智能法案） 全球首部全面AI监管法规，2024年通过，按风险等级分类监管（不可接受/高风险/有限风险/最小风险），违者最高罚全球营收7%
浅Model Card
（模型卡片） Google提出的模型透明度文档标准，记录模型用途、性能、局限、伦理考量，已成为行业发布标配
（模型卡片） Google提出的模型透明度文档标准，记录模型用途、性能、局限、伦理考量，已成为行业发布标配
浅System Card
（系统卡片） 比Model Card更全面的系统级安全文档，OpenAI在GPT-4发布时首推，覆盖整个系统而非仅模型
（系统卡片） 比Model Card更全面的系统级安全文档，OpenAI在GPT-4发布时首推，覆盖整个系统而非仅模型
中Responsible AI
（负责任AI） 确保AI公平、可解释、隐私保护、安全可靠的综合框架，Google/Microsoft/OpenAI均设专门团队
（负责任AI） 确保AI公平、可解释、隐私保护、安全可靠的综合框架，Google/Microsoft/OpenAI均设专门团队
中公平性指标
(Fairness Metrics) 衡量模型在不同人群间表现差异的指标：Demographic Parity、Equalized Odds、Equal Opportunity等
(Fairness Metrics) 衡量模型在不同人群间表现差异的指标：Demographic Parity、Equalized Odds、Equal Opportunity等
中SHAP / LIME 两大主流模型可解释性工具：SHAP基于博弈论Shapley值，LIME用局部线性近似。解释"为什么模型做了这个预测"
中越狱攻击
(Jailbreak) 通过精心构造Prompt绕过模型安全限制（如DAN/角色扮演），各模型厂持续升级防护
(Jailbreak) 通过精心构造Prompt绕过模型安全限制（如DAN/角色扮演），各模型厂持续升级防护
中红队测试
(Red Teaming) 模拟攻击者测试模型安全性，OpenAI/Anthropic等在新模型发布前必经流程，涵盖偏见/毒性/越狱等多维度
(Red Teaming) 模拟攻击者测试模型安全性，OpenAI/Anthropic等在新模型发布前必经流程，涵盖偏见/毒性/越狱等多维度
深超级对齐
(Superalignment) 确保超越人类智能的AI系统仍可控可对齐，OpenAI投入20%算力研究此问题，Ilya Sutskever创立SSI专注此方向
(Superalignment) 确保超越人类智能的AI系统仍可控可对齐，OpenAI投入20%算力研究此问题，Ilya Sutskever创立SSI专注此方向
浅AI安全峰会
(AI Safety Summit) 2023年英国首届全球AI安全峰会，中美等28国签署《布莱切利宣言》，标志AI安全进入全球治理议程
(AI Safety Summit) 2023年英国首届全球AI安全峰会，中美等28国签署《布莱切利宣言》，标志AI安全进入全球治理议程
浅中国AI治理 网信办《生成式AI服务管理办法》2023年施行，要求算法备案+安全评估+内容过滤，全球最严格之一
中偏见缓解
(Bias Mitigation) 预处理(数据重采样)、处理中(正则化约束)、后处理(输出校准)三阶段消除AI偏见的系统工程
(Bias Mitigation) 预处理(数据重采样)、处理中(正则化约束)、后处理(输出校准)三阶段消除AI偏见的系统工程
浅版权争议
(Copyright & AI) AI训练数据版权问题：NYT诉OpenAI、Getty诉Stability AI等标志性案件，将决定AI产业的合法性边界
(Copyright & AI) AI训练数据版权问题：NYT诉OpenAI、Getty诉Stability AI等标志性案件，将决定AI产业的合法性边界
中AI审计
(AI Audit) 第三方独立审查AI系统的合规性、公平性、安全性，正在成为企业采购AI的标配流程
(AI Audit) 第三方独立审查AI系统的合规性、公平性、安全性，正在成为企业采购AI的标配流程
二十、数据工程
中数据策展
(Data Curation) 从海量原始数据中筛选高质量训练数据的过程，Phi系列模型证明数据质量远比数量重要
(Data Curation) 从海量原始数据中筛选高质量训练数据的过程，Phi系列模型证明数据质量远比数量重要
中数据污染
(Data Contamination) 训练数据中混入了评测集内容，导致评测分数虚高。业界争议焦点：到底多大程度影响了基准公信力？
(Data Contamination) 训练数据中混入了评测集内容，导致评测分数虚高。业界争议焦点：到底多大程度影响了基准公信力？
中合成数据生成
(Synthetic Data Generation) 用AI模型生成训练数据，解决高质量数据枯竭。o1/DeepSeek-R1重度依赖合成数据，但需警惕Model Collapse
(Synthetic Data Generation) 用AI模型生成训练数据，解决高质量数据枯竭。o1/DeepSeek-R1重度依赖合成数据，但需警惕Model Collapse
中数据标注
(Data Labeling) 人工/半自动为训练数据添加标签，SFT和RLHF必需。Scale AI是该领域龙头，中国有海天瑞声等
(Data Labeling) 人工/半自动为训练数据添加标签，SFT和RLHF必需。Scale AI是该领域龙头，中国有海天瑞声等
中数据去重
(Deduplication) 消除训练数据中的重复内容，提升数据效率、降低记忆风险。MinHash/SimHash是常用算法
(Deduplication) 消除训练数据中的重复内容，提升数据效率、降低记忆风险。MinHash/SimHash是常用算法
中数据配比
(Data Mixture) 预训练时不同来源数据的比例设计（代码vs网页vs书籍vs论文），是各家模型厂的"秘方"
(Data Mixture) 预训练时不同来源数据的比例设计（代码vs网页vs书籍vs论文），是各家模型厂的"秘方"
中文本质量过滤
(Quality Filtering) 用分类器/困惑度/规则等方法过滤低质量网页内容，预训练数据清洗的关键步骤
(Quality Filtering) 用分类器/困惑度/规则等方法过滤低质量网页内容，预训练数据清洗的关键步骤
深主动学习
(Active Learning) 模型主动选择最有价值样本让人工标注，以最少标注成本获得最大性能提升
(Active Learning) 模型主动选择最有价值样本让人工标注，以最少标注成本获得最大性能提升
中数据增强
(Data Augmentation) 通过变换/改写/翻译等扩充训练数据，提升模型泛化能力。在低资源场景尤其重要
(Data Augmentation) 通过变换/改写/翻译等扩充训练数据，提升模型泛化能力。在低资源场景尤其重要
浅人工标注
(Human Annotation) 人类标注员为训练数据打标签/写参考答案/排序偏好，SFT和RLHF的底层支撑，全球产业规模数十亿美元
(Human Annotation) 人类标注员为训练数据打标签/写参考答案/排序偏好，SFT和RLHF的底层支撑，全球产业规模数十亿美元
中隐私清洗
(PII Removal) 从训练数据中去除姓名/电话/地址等个人信息，GDPR等法规要求，也是数据泄露风险防控
(PII Removal) 从训练数据中去除姓名/电话/地址等个人信息，GDPR等法规要求，也是数据泄露风险防控
二十一、多智能体系统
中群体智能
(Swarm Intelligence) 多个简单Agent通过局部交互涌现出复杂智能行为，借鉴蚂蚁/蜂群等自然系统，OpenAI Swarm框架探索此方向
(Swarm Intelligence) 多个简单Agent通过局部交互涌现出复杂智能行为，借鉴蚂蚁/蜂群等自然系统，OpenAI Swarm框架探索此方向
中Agent角色设计
(Agent Role Design) 为每个Agent定义专业角色（CEO/研究员/工程师/分析师），赋予不同的知识、工具和决策权限
(Agent Role Design) 为每个Agent定义专业角色（CEO/研究员/工程师/分析师），赋予不同的知识、工具和决策权限
中Agent通信协议
(Agent Communication) Agent间交换信息的方式：结构化JSON/自然语言对话/黑板模式。MCP和A2A是标准化协议代表
(Agent Communication) Agent间交换信息的方式：结构化JSON/自然语言对话/黑板模式。MCP和A2A是标准化协议代表
中层级式Agent
(Hierarchical Agents) "主管-工人"架构：上层Agent分解任务分配给下层Agent执行，汇总结果。CrewAI/LangGraph支持此模式
(Hierarchical Agents) "主管-工人"架构：上层Agent分解任务分配给下层Agent执行，汇总结果。CrewAI/LangGraph支持此模式
中辩论式Agent
(Debate Agents) 多个Agent就同一问题从不同角度辩论，最终综合多方观点得出更可靠结论，减少单一模型偏见
(Debate Agents) 多个Agent就同一问题从不同角度辩论，最终综合多方观点得出更可靠结论，减少单一模型偏见
中Agent可观测性
(Agent Observability) 追踪多Agent系统的决策链路、工具调用、协作过程，用于调试和审计。LangSmith/Weave等工具支持
(Agent Observability) 追踪多Agent系统的决策链路、工具调用、协作过程，用于调试和审计。LangSmith/Weave等工具支持
中Agent安全边界
(Agent Safety) 限制Agent的权限范围（不能删库/不能转账/不能发邮件给全员），HITL+沙箱+权限分级是核心手段
(Agent Safety) 限制Agent的权限范围（不能删库/不能转账/不能发邮件给全员），HITL+沙箱+权限分级是核心手段
中Agent评测
(Agent Evaluation) 评估Agent完成复杂任务的能力：GAIA/WebArena/SWE-bench等基准，比单轮对话评测难得多
(Agent Evaluation) 评估Agent完成复杂任务的能力：GAIA/WebArena/SWE-bench等基准，比单轮对话评测难得多
二十二、AI经济学
中Tokenomics
（Token经济学） AI API按Token计费的完整商业逻辑：输入/输出定价、批量折扣、长文本溢价、成本估算模型
（Token经济学） AI API按Token计费的完整商业逻辑：输入/输出定价、批量折扣、长文本溢价、成本估算模型
中单位算力成本
(Cost per FLOP) 衡量AI训练/推理效率的核心指标，受GPU价格、电力成本、利用率影响。DeepSeek以极低FLOP成本震惊业界
(Cost per FLOP) 衡量AI训练/推理效率的核心指标，受GPU价格、电力成本、利用率影响。DeepSeek以极低FLOP成本震惊业界
中推理经济学
(Inference Economics) 分析推理成本结构：GPU租赁、KV Cache显存、批处理效率、模型压缩ROI，决定AI产品能否盈利
(Inference Economics) 分析推理成本结构：GPU租赁、KV Cache显存、批处理效率、模型压缩ROI，决定AI产品能否盈利
中GPU TCO
（总拥有成本） GPU全生命周期成本：采购+电力+冷却+运维+折旧。H100三年TCO约$30-40K，是AI预算的核心
（总拥有成本） GPU全生命周期成本：采购+电力+冷却+运维+折旧。H100三年TCO约$30-40K，是AI预算的核心
浅AI定价模式 按Token/按次/包月/混合定价。API厂商趋向按Token，产品层趋向包月。价格战持续压缩利润空间
中模型套利
(Model Arbitrage) 根据任务复杂度动态路由到不同成本模型：简单任务用廉价模型，复杂任务用顶级模型，优化整体成本
(Model Arbitrage) 根据任务复杂度动态路由到不同成本模型：简单任务用廉价模型，复杂任务用顶级模型，优化整体成本
浅AI企业ROI 企业部署AI的投资回报率：降本(客服替代)vs增效(开发者效率)vs创收(新AI产品)。2025年平均ROI约2-5x
浅免费层经济学
(Free Tier Economics) AI产品免费层的成本考量：ChatGPT免费用户单次对话成本约$0.01-0.03，日活1亿意味着每天百万美元推理成本
(Free Tier Economics) AI产品免费层的成本考量：ChatGPT免费用户单次对话成本约$0.01-0.03，日活1亿意味着每天百万美元推理成本
中AI创业单位经济学
(AI Startup Unit Economics) AI创业公司关键指标：推理成本/用户、毛利率(通常30-70%)、客户获取成本(CAC)、用户留存率
(AI Startup Unit Economics) AI创业公司关键指标：推理成本/用户、毛利率(通常30-70%)、客户获取成本(CAC)、用户留存率
浅硬件补贴模式
(Hardware Subsidy) 云厂商以成本价甚至亏损提供AI推理服务，通过锁定客户在自家云生态中的其他消费来盈利
(Hardware Subsidy) 云厂商以成本价甚至亏损提供AI推理服务，通过锁定客户在自家云生态中的其他消费来盈利
二十三、机器学习基础概念
中监督学习
(Supervised Learning) 用带标签的数据训练模型，学习输入到输出的映射。分类和回归是两大任务，是最基础的ML范式
(Supervised Learning) 用带标签的数据训练模型，学习输入到输出的映射。分类和回归是两大任务，是最基础的ML范式
中无监督学习
(Unsupervised Learning) 从无标签数据中发现隐藏结构，聚类、降维、异常检测是典型任务
(Unsupervised Learning) 从无标签数据中发现隐藏结构，聚类、降维、异常检测是典型任务
深半监督学习
(Semi-supervised Learning) 结合少量标注数据和大量无标注数据训练，标注成本高时常用
(Semi-supervised Learning) 结合少量标注数据和大量无标注数据训练，标注成本高时常用
中强化学习
(Reinforcement Learning / RL) 智能体通过与环境交互获得奖励/惩罚来学习最优策略，AlphaGo/RLHF均基于此
(Reinforcement Learning / RL) 智能体通过与环境交互获得奖励/惩罚来学习最优策略，AlphaGo/RLHF均基于此
浅分类
(Classification) 预测离散类别标签：垃圾邮件检测、情感分析、图像识别都是分类任务
(Classification) 预测离散类别标签：垃圾邮件检测、情感分析、图像识别都是分类任务
浅回归
(Regression) 预测连续数值：房价预测、销量预测、股价预测都是回归任务
(Regression) 预测连续数值：房价预测、销量预测、股价预测都是回归任务
中聚类
(Clustering) 无监督地将相似样本归为一类，K-Means/DBSCAN/层次聚类是经典算法
(Clustering) 无监督地将相似样本归为一类，K-Means/DBSCAN/层次聚类是经典算法
中降维
(Dimensionality Reduction) 将高维数据映射到低维空间同时保留主要信息，PCA/t-SNE/UMAP是常用方法
(Dimensionality Reduction) 将高维数据映射到低维空间同时保留主要信息，PCA/t-SNE/UMAP是常用方法
中过拟合
(Overfitting) 模型在训练数据上表现很好但在新数据上表现差，"死记硬背"而非真正学习
(Overfitting) 模型在训练数据上表现很好但在新数据上表现差，"死记硬背"而非真正学习
浅欠拟合
(Underfitting) 模型太简单连训练数据都学不好，偏差太大
(Underfitting) 模型太简单连训练数据都学不好，偏差太大
浅训练/验证/测试集
(Train/Val/Test Split) 数据三划分：训练集学习参数、验证集调超参、测试集最终评估，典型比例6:2:2
(Train/Val/Test Split) 数据三划分：训练集学习参数、验证集调超参、测试集最终评估，典型比例6:2:2
中交叉验证
(Cross Validation) K折交叉验证将数据分成K份轮流做验证，更可靠地评估模型性能
(Cross Validation) K折交叉验证将数据分成K份轮流做验证，更可靠地评估模型性能
中梯度下降
(Gradient Descent) 优化算法基础：沿着损失函数梯度反方向更新参数，逐步找到最小值
(Gradient Descent) 优化算法基础：沿着损失函数梯度反方向更新参数，逐步找到最小值
浅学习率
(Learning Rate) 梯度下降每步更新的步长，太大震荡不收敛、太小收敛慢，是最重要的超参之一
(Learning Rate) 梯度下降每步更新的步长，太大震荡不收敛、太小收敛慢，是最重要的超参之一
浅Batch Size 每次参数更新使用的样本数量，影响训练速度和稳定性，大batch需要更大显存
浅Epoch 所有训练数据完整过一遍模型称为一个epoch，LLM预训练通常只需1个epoch
中正则化
(Regularization) 防止过拟合的技术总称：L1/L2正则化、Dropout、Early Stopping、权重衰减
(Regularization) 防止过拟合的技术总称：L1/L2正则化、Dropout、Early Stopping、权重衰减
浅过拟合 vs 欠拟合 偏差-方差权衡：欠拟合是高偏差(模型太简单)，过拟合是高方差(模型太复杂)
二十四、损失函数与激活函数
中损失函数
(Loss Function) 衡量模型预测与真实值差距的函数，训练的目标就是最小化损失值
(Loss Function) 衡量模型预测与真实值差距的函数，训练的目标就是最小化损失值
中交叉熵损失
(Cross Entropy Loss) 分类任务标配损失函数，衡量两个概率分布的差异，LLM训练默认使用
(Cross Entropy Loss) 分类任务标配损失函数，衡量两个概率分布的差异，LLM训练默认使用
中均方误差
(MSE / L2 Loss) 回归任务标配损失，预测值与真实值差的平方平均，对大误差惩罚重
(MSE / L2 Loss) 回归任务标配损失，预测值与真实值差的平方平均，对大误差惩罚重
浅平均绝对误差
(MAE / L1 Loss) 预测值与真实值差的绝对值平均，对异常值更鲁棒
(MAE / L1 Loss) 预测值与真实值差的绝对值平均，对异常值更鲁棒
中激活函数
(Activation Function) 为神经网络引入非线性，没有激活函数多层网络等价于单层线性变换
(Activation Function) 为神经网络引入非线性，没有激活函数多层网络等价于单层线性变换
中ReLU
(Rectified Linear Unit) f(x)=max(0,x)，最常用的激活函数，计算简单缓解梯度消失，但有"死亡ReLU"问题
(Rectified Linear Unit) f(x)=max(0,x)，最常用的激活函数，计算简单缓解梯度消失，但有"死亡ReLU"问题
中GELU
(Gaussian Error Linear Unit) Transformer标配激活函数，BERT/GPT均使用，比ReLU更平滑性能更好
(Gaussian Error Linear Unit) Transformer标配激活函数，BERT/GPT均使用，比ReLU更平滑性能更好
中Swish / SiLU Google提出的自门控激活函数，x*sigmoid(x)，LLaMA等模型使用
浅Sigmoid 将输入压缩到(0,1)区间，二分类输出层常用，深层网络易梯度消失
浅Tanh 将输入压缩到(-1,1)区间，零中心输出，RNN时代常用
中Softmax 将一组数值转换为概率分布(和为1)，多分类任务输出层标配
二十五、注意力机制与位置编码
中自注意力机制
(Self-Attention) 序列中每个元素关注所有其他元素并计算加权表示，Transformer的核心创新
(Self-Attention) 序列中每个元素关注所有其他元素并计算加权表示，Transformer的核心创新
中多头注意力
(Multi-Head Attention / MHA) 将Q/K/V投影到多个子空间并行计算注意力，捕获不同类型的依赖关系
(Multi-Head Attention / MHA) 将Q/K/V投影到多个子空间并行计算注意力，捕获不同类型的依赖关系
中多查询注意力
(Multi-Query Attention / MQA) 所有头共享同一份K/V，只有Q是多头，大幅减少KV Cache显存，推理加速
(Multi-Query Attention / MQA) 所有头共享同一份K/V，只有Q是多头，大幅减少KV Cache显存，推理加速
中分组查询注意力
(Grouped-Query Attention / GQA) MHA和MQA的折中：K/V按组共享，LLaMA 2/Claude/GPT-3.5使用，平衡效果与速度
(Grouped-Query Attention / GQA) MHA和MQA的折中：K/V按组共享，LLaMA 2/Claude/GPT-3.5使用，平衡效果与速度
中多维度注意力
(MLA / Multi-head Latent Attention) DeepSeek提出的低秩压缩注意力，KV Cache压缩90%以上，大幅降低推理成本
(MLA / Multi-head Latent Attention) DeepSeek提出的低秩压缩注意力，KV Cache压缩90%以上，大幅降低推理成本
中滑动窗口注意力
(Sliding Window Attention) 每个token只关注前后固定窗口大小的token，O(n)复杂度，Mistral/Longformer使用
(Sliding Window Attention) 每个token只关注前后固定窗口大小的token，O(n)复杂度，Mistral/Longformer使用
中交叉注意力
(Cross Attention) Q来自一个序列，K/V来自另一个序列，用于编码器-解码器架构和多模态融合
(Cross Attention) Q来自一个序列，K/V来自另一个序列，用于编码器-解码器架构和多模态融合
中因果掩码
(Causal Mask / Look-ahead Mask) Decoder中屏蔽未来位置，确保预测第t个词时只能看到1..t-1的词
(Causal Mask / Look-ahead Mask) Decoder中屏蔽未来位置，确保预测第t个词时只能看到1..t-1的词
中Q/K/V
(Query / Key / Value) 注意力机制三要素：Query(查询)、Key(键)、Value(值)，类比信息检索系统
(Query / Key / Value) 注意力机制三要素：Query(查询)、Key(键)、Value(值)，类比信息检索系统
中位置编码
(Positional Encoding) Transformer本身不感知位置顺序，需要额外注入位置信息，有正弦/学习式/RoPE等方式
(Positional Encoding) Transformer本身不感知位置顺序，需要额外注入位置信息，有正弦/学习式/RoPE等方式
中RoPE
(旋转位置编码) 通过旋转矩阵编码相对位置，LLaMA/Qwen等主流开源模型标配，外推性好
(旋转位置编码) 通过旋转矩阵编码相对位置，LLaMA/Qwen等主流开源模型标配，外推性好
中ALiBi
(线性偏置注意力) 不用位置嵌入，直接给注意力分数加与距离成反比的惩罚，长文本外推能力强
(线性偏置注意力) 不用位置嵌入，直接给注意力分数加与距离成反比的惩罚，长文本外推能力强
中正弦位置编码
(Sinusoidal Position Encoding) 原版Transformer使用，用不同频率的sin/cos函数编码位置，有一定外推能力
(Sinusoidal Position Encoding) 原版Transformer使用，用不同频率的sin/cos函数编码位置，有一定外推能力
深NTK-aware Scaling 通过调整RoPE基频实现上下文窗口扩展，不需要微调即可长上下文推理
深YaRN
(Yet another RoPE extensioN) 改进的RoPE外推方法，结合NTK和注意力分布缩放，长上下文精度损失更小
(Yet another RoPE extensioN) 改进的RoPE外推方法，结合NTK和注意力分布缩放，长上下文精度损失更小
二十六、主流开源模型家族
浅Llama 系列
(Llama / Llama 2 / Llama 3 / Llama 4) Meta开源大模型系列，Llama 1(2023)开启开源LLM浪潮，Llama 3/4性能追平闭源模型，是开源生态基石
(Llama / Llama 2 / Llama 3 / Llama 4) Meta开源大模型系列，Llama 1(2023)开启开源LLM浪潮，Llama 3/4性能追平闭源模型，是开源生态基石
浅Mistral 系列
(Mistral 7B / Mixtral 8x7B / Mistral Large) 法国Mistral AI出品，小参数高性能代表，Mixtral采用MoE架构，开源模型第一梯队
(Mistral 7B / Mixtral 8x7B / Mistral Large) 法国Mistral AI出品，小参数高性能代表，Mixtral采用MoE架构，开源模型第一梯队
浅Qwen 系列
(通义千问 Qwen / Qwen1.5 / Qwen2 / Qwen2.5 / Qwen3) 阿里开源模型家族，覆盖0.5B到72B全尺寸，多模态/代码/数学全支持，中文能力顶尖
(通义千问 Qwen / Qwen1.5 / Qwen2 / Qwen2.5 / Qwen3) 阿里开源模型家族，覆盖0.5B到72B全尺寸，多模态/代码/数学全支持，中文能力顶尖
浅DeepSeek 系列
(DeepSeek-V2 / V3 / R1 / Coder) 深度求索出品，V3/R1以极致性价比震惊全球，R1推理能力匹敌o1，DeepSeek-Coder是最强开源代码模型
(DeepSeek-V2 / V3 / R1 / Coder) 深度求索出品，V3/R1以极致性价比震惊全球，R1推理能力匹敌o1，DeepSeek-Coder是最强开源代码模型
浅Yi 系列
(零一万物 Yi) 李开复创办的零一万物出品，基于Llama架构改进，中文能力优秀，有6B/34B等尺寸
(零一万物 Yi) 李开复创办的零一万物出品，基于Llama架构改进，中文能力优秀，有6B/34B等尺寸
浅ChatGLM / GLM-4
(智谱AI) 清华技术背景，智谱AI出品，GLM-4是国内首批闭源API之一，也开源了ChatGLM系列
(智谱AI) 清华技术背景，智谱AI出品，GLM-4是国内首批闭源API之一，也开源了ChatGLM系列
中MiniCPM
(面壁智能) 面壁智能端侧小模型系列，2B/4B参数媲美7B/13B模型，手机端可流畅运行
(面壁智能) 面壁智能端侧小模型系列，2B/4B参数媲美7B/13B模型，手机端可流畅运行
浅Command R / R+
(Cohere) Cohere开源的RAG优化模型，长上下文+原生工具调用，企业级RAG场景常用
(Cohere) Cohere开源的RAG优化模型，长上下文+原生工具调用，企业级RAG场景常用
浅Falcon
(TII阿联酋) 阿联酋技术创新研究所出品，Falcon 40B/180B曾是最强开源，推动了开源LLM发展
(TII阿联酋) 阿联酋技术创新研究所出品，Falcon 40B/180B曾是最强开源，推动了开源LLM发展
浅InternLM
(书生·浦语) 上海AI实验室/商汤等联合出品，InternLM2性能强劲，配套开源工具链完整
(书生·浦语) 上海AI实验室/商汤等联合出品，InternLM2性能强劲，配套开源工具链完整
浅Baichuan 系列
(百川智能) 王小川创办百川智能出品，Baichuan2系列开源，中文对话体验优秀
(百川智能) 王小川创办百川智能出品，Baichuan2系列开源，中文对话体验优秀
浅Aquila
(智源) 智源研究院悟道团队的开源模型，支持中英文，许可协议宽松
(智源) 智源研究院悟道团队的开源模型，支持中英文，许可协议宽松
二十七、AI芯片与硬件
浅NVIDIA A100 2020年发布的安培架构GPU，80GB显存，曾是AI训练主力，H100发布后逐渐被替代
浅NVIDIA H100 2022年发布的Hopper架构GPU，80GB HBM3显存，AI训练事实标准，单卡售价约$30K
浅NVIDIA H200 H100升级版，141GB HBM3e显存，显存带宽提升，大模型推理更有优势
浅NVIDIA B100 / B200
(Blackwell架构) 2024年发布的Blackwell新一代架构，B200性能比H100提升数倍，AI训练新标杆
(Blackwell架构) 2024年发布的Blackwell新一代架构，B200性能比H100提升数倍，AI训练新标杆
浅华为昇腾910
(Ascend 910B) 华为自研AI训练芯片，910B性能接近A100，国产替代主力，支持CANN软件栈
(Ascend 910B) 华为自研AI训练芯片，910B性能接近A100，国产替代主力，支持CANN软件栈
中CUDA
(Compute Unified Device Architecture) NVIDIA GPU并行计算平台和编程模型，CUDA生态是NVIDIA最深的护城河，AMD/华为难以替代
(Compute Unified Device Architecture) NVIDIA GPU并行计算平台和编程模型，CUDA生态是NVIDIA最深的护城河，AMD/华为难以替代
中cuDNN NVIDIA为深度学习优化的GPU原语库，卷积/注意力等核心算子高度优化
中HBM
(高带宽内存) 3D堆叠高带宽显存，HBM3/HBM3e是AI GPU标配，带宽是普通GDDR的数倍
(高带宽内存) 3D堆叠高带宽显存，HBM3/HBM3e是AI GPU标配，带宽是普通GDDR的数倍
浅AMD MI300X AMD对标H100的AI加速卡，192GB显存，ROCm生态逐步完善，是NVIDIA主要竞争对手
浅Cloud TPU v5p Google自研张量处理器，专为TensorFlow/JAX优化，Google内部训练Gemini主力
浅Apple Silicon / M系列 M1/M2/M3/M4芯片集成统一内存和NPU，Metal Performance Shaders支持本地运行LLM
浅高通骁龙X Elite / 8 Gen 3 高通端侧AI芯片，Hexagon NPU支持手机/PC本地运行10B+模型，Windows AI PC主力
中NVIDIA Grace Hopper CPU+GPU超级芯片架构，Grace CPU与Hopper GPU通过NVLink-C2C互连，适合AI超算
中NVLink / NVSwitch NVIDIA多卡高速互连技术，NVLink带宽远高于PCIe，多卡训练必备
深FPGA
(现场可编程门阵列) 可重构硬件芯片，低延迟推理场景使用，比GPU灵活比ASIC快
(现场可编程门阵列) 可重构硬件芯片，低延迟推理场景使用，比GPU灵活比ASIC快
中ASIC
(专用集成电路) 为特定AI任务定制的芯片，TPU/NPU都是ASIC，效率高但灵活性差
(专用集成电路) 为特定AI任务定制的芯片，TPU/NPU都是ASIC，效率高但灵活性差
二十八、计算机视觉（CV）
浅YOLO
(You Only Look Once) 最流行的实时目标检测算法，YOLOv8/v9/v10/v11持续迭代，速度快精度高
(You Only Look Once) 最流行的实时目标检测算法，YOLOv8/v9/v10/v11持续迭代，速度快精度高
中SAM
(Segment Anything Model) Meta 2023年发布的通用图像分割模型，点击/框选即可分割任意物体，CV领域"GPT时刻"
(Segment Anything Model) Meta 2023年发布的通用图像分割模型，点击/框选即可分割任意物体，CV领域"GPT时刻"
浅目标检测
(Object Detection) 定位图像中物体位置并分类，YOLO/Faster R-CNN/DETR是代表算法
(Object Detection) 定位图像中物体位置并分类，YOLO/Faster R-CNN/DETR是代表算法
浅图像分割
(Segmentation) 语义分割(类别)、实例分割(个体)、全景分割(两者结合)，CV核心任务之一
(Segmentation) 语义分割(类别)、实例分割(个体)、全景分割(两者结合)，CV核心任务之一
浅OCR
(光学字符识别) 识别图像中的文字，PaddleOCR/Tesseract是常用工具，LLM出现后能力大幅提升
(光学字符识别) 识别图像中的文字，PaddleOCR/Tesseract是常用工具，LLM出现后能力大幅提升
浅人脸识别
(Face Recognition) 识别人脸身份，FaceNet/ArcFace是经典方法，中国技术全球领先
(Face Recognition) 识别人脸身份，FaceNet/ArcFace是经典方法，中国技术全球领先
浅图像描述
(Image Captioning) 为图片生成文字描述，多模态模型(GPT-4V/Gemini)已远超传统方法
(Image Captioning) 为图片生成文字描述，多模态模型(GPT-4V/Gemini)已远超传统方法
中深度估计
(Depth Estimation) 从单目/双目图像估计场景深度，自动驾驶和3D重建关键技术
(Depth Estimation) 从单目/双目图像估计场景深度，自动驾驶和3D重建关键技术
中姿态估计
(Pose Estimation) 识别人体关键点位置(肩膀/手肘/膝盖等)，动作捕捉和健身应用基础
(Pose Estimation) 识别人体关键点位置(肩膀/手肘/膝盖等)，动作捕捉和健身应用基础
中DETR
(Detection Transformer) Facebook提出的Transformer目标检测，端到端无需NMS后处理，颠覆了两阶段检测范式
(Detection Transformer) Facebook提出的Transformer目标检测，端到端无需NMS后处理，颠覆了两阶段检测范式
中CLIP
(Contrastive Language-Image Pretraining) OpenAI零样本图像分类模型，图文对比学习，是Stable Diffusion/DALL·E的文本编码器基础
(Contrastive Language-Image Pretraining) OpenAI零样本图像分类模型，图文对比学习，是Stable Diffusion/DALL·E的文本编码器基础
中ControlNet 控制Stable Diffusion生成的神经网络，通过边缘/深度/姿态等条件精确控制图像结构
中IP-Adapter 图像提示适配器，让Stable Diffusion能参考输入图像风格生成，解耦图像和文本条件
浅LoRA 模型
(图像生成LoRA) Stable Diffusion社区的LoRA模型，用于学习特定人物/风格/物体，C站(Civitai)有海量资源
(图像生成LoRA) Stable Diffusion社区的LoRA模型，用于学习特定人物/风格/物体，C站(Civitai)有海量资源
二十九、语音、音频与多模态
浅ASR
(自动语音识别) 将语音转文字，Whisper是当前开源标杆，中文有Paraformer/Conformer等方案
(自动语音识别) 将语音转文字，Whisper是当前开源标杆，中文有Paraformer/Conformer等方案
浅TTS
(文本转语音) 将文字转为自然语音，VALL-E/Bark/ChatTTS/Fish Speech等开源模型效果逼真
(文本转语音) 将文字转为自然语音，VALL-E/Bark/ChatTTS/Fish Speech等开源模型效果逼真
中Whisper OpenAI开源语音识别模型，支持99种语言，准确率高鲁棒性强，ASR领域事实标准
浅声音克隆
(Voice Cloning) 几秒音频样本即可克隆一个人的声音，ElevenLabs/Fish Speech技术领先，伦理争议大
(Voice Cloning) 几秒音频样本即可克隆一个人的声音，ElevenLabs/Fish Speech技术领先，伦理争议大
浅语音到语音
(Speech-to-Speech) 端到端语音对话，无需先ASR→LLM→TTS pipeline，GPT-4o Voice/Free Willy 2等
(Speech-to-Speech) 端到端语音对话，无需先ASR→LLM→TTS pipeline，GPT-4o Voice/Free Willy 2等
浅AI音乐生成
(Music Generation) Suno/Udio可生成完整歌曲，MusicGen是Meta开源方案
(Music Generation) Suno/Udio可生成完整歌曲，MusicGen是Meta开源方案
中音频扩散模型
(Audio Diffusion) 用扩散模型生成音频，Stable Audio/AudioLDM是代表
(Audio Diffusion) 用扩散模型生成音频，Stable Audio/AudioLDM是代表
中原生多模态
(Native Multimodal) GPT-4o/Gemini等新一代模型，文本/图像/音频/视频从底层统一token化处理，而非拼贴式
(Native Multimodal) GPT-4o/Gemini等新一代模型，文本/图像/音频/视频从底层统一token化处理，而非拼贴式
中视频理解
(Video Understanding) 理解长视频内容、回答问题、总结摘要，GPT-4o/Gemini 1.5 Pro支持1-2小时视频输入
(Video Understanding) 理解长视频内容、回答问题、总结摘要，GPT-4o/Gemini 1.5 Pro支持1-2小时视频输入
浅任意模态互转
(Any-to-Any) GPT-4o/Gemini支持语音/文字/图片任意输入输出组合，人机交互新范式
(Any-to-Any) GPT-4o/Gemini支持语音/文字/图片任意输入输出组合，人机交互新范式
三十、扩散模型与图像生成
中DDPM
(去噪扩散概率模型) 扩散模型奠基论文(2020)，逐步加噪再逐步去噪生成图像，训练稳定但采样慢
(去噪扩散概率模型) 扩散模型奠基论文(2020)，逐步加噪再逐步去噪生成图像，训练稳定但采样慢
中DDIM
(去噪扩散隐式模型) DDPM的加速采样变体，几十步即可生成，确定性采样可复现结果
(去噪扩散隐式模型) DDPM的加速采样变体，几十步即可生成，确定性采样可复现结果
中LDM
(Latent Diffusion Model) Stable Diffusion核心：在压缩后的隐空间而非像素空间做扩散，效率提升数十倍
(Latent Diffusion Model) Stable Diffusion核心：在压缩后的隐空间而非像素空间做扩散，效率提升数十倍
浅SDXL
(Stable Diffusion XL) Stable Diffusion升级版，1024分辨率画质大幅提升，是开源图像生成主流底座
(Stable Diffusion XL) Stable Diffusion升级版，1024分辨率画质大幅提升，是开源图像生成主流底座
浅Flux
(Black Forest Labs) Stable Diffusion原班人马新公司出品，Flux.1 [schnell/dev]是当前最强开源文生图模型
(Black Forest Labs) Stable Diffusion原班人马新公司出品，Flux.1 [schnell/dev]是当前最强开源文生图模型
深CFG
(无分类器引导) 扩散模型采样技术，通过条件/无条件预测差值控制图像与文本的对齐程度
(无分类器引导) 扩散模型采样技术，通过条件/无条件预测差值控制图像与文本的对齐程度
中采样器
(Sampler / Scheduler) 扩散模型去噪的数值方法：Euler/DPM++/DDIM/PNDM等，影响生成速度和质量
(Sampler / Scheduler) 扩散模型去噪的数值方法：Euler/DPM++/DDIM/PNDM等，影响生成速度和质量
浅局部重绘 / 扩图
(Inpainting / Outpainting) Inpainting修改图片局部，Outpainting向外扩展图片，AI图像编辑常用功能
(Inpainting / Outpainting) Inpainting修改图片局部，Outpainting向外扩展图片，AI图像编辑常用功能
中Textual Inversion 用3-5张图片学习新概念(如某个人脸)，仅学习新的词嵌入不修改模型权重
中DreamBooth 用少量图片微调模型注入特定主题，效果好但过拟合风险高，需配合prior preservation
中LCM
(一致性模型) Latent Consistency Models，4-8步即可生成高质量图像，实时AI绘画成为可能
(一致性模型) Latent Consistency Models，4-8步即可生成高质量图像，实时AI绘画成为可能
三十一、强化学习（RL）
中PPO
(近端策略优化) RLHF中的核心RL算法，训练稳定易调参，OpenAI默认策略梯度算法
(近端策略优化) RLHF中的核心RL算法，训练稳定易调参，OpenAI默认策略梯度算法
深策略梯度
(Policy Gradient) 直接优化策略(行为)的RL方法家族，PPO/TRPO/A2C都属于此类
(Policy Gradient) 直接优化策略(行为)的RL方法家族，PPO/TRPO/A2C都属于此类
深Q-Learning / DQN 基于价值的RL方法，学习动作-价值函数Q(s,a)，DeepMind用DQN玩Atari游戏成名
深MDP
(马尔可夫决策过程) 强化学习数学框架：状态/动作/转移概率/奖励，未来只依赖当前状态
(马尔可夫决策过程) 强化学习数学框架：状态/动作/转移概率/奖励，未来只依赖当前状态
中探索与利用
(Exploration vs Exploitation) RL核心权衡：探索未知动作获取更多信息 vs 利用已知最优动作获取最大奖励
(Exploration vs Exploitation) RL核心权衡：探索未知动作获取更多信息 vs 利用已知最优动作获取最大奖励
中奖励模型
(Reward Model / RM) RLHF中训练来预测人类偏好的模型，给LLM输出打分，引导LLM朝人类满意方向优化
(Reward Model / RM) RLHF中训练来预测人类偏好的模型，给LLM输出打分，引导LLM朝人类满意方向优化
中奖励作弊
(Reward Hacking) 模型找到奖励函数漏洞获得高分但没完成真正目标，是RLHF和AI安全的已知问题
(Reward Hacking) 模型找到奖励函数漏洞获得高分但没完成真正目标，是RLHF和AI安全的已知问题
深信用分配
(Credit Assignment) 确定哪些行为导致了最终奖励，长序列任务中尤其困难
(Credit Assignment) 确定哪些行为导致了最终奖励，长序列任务中尤其困难
三十二、Prompt工程高级技术
浅Few-shot Learning 在Prompt中给几个示例让模型"照猫画虎"，比零样本效果好很多
中思维链
(Chain-of-Thought / CoT) 让模型"一步步思考"，显著提升数学/推理题正确率，"Let's think step by step"
(Chain-of-Thought / CoT) 让模型"一步步思考"，显著提升数学/推理题正确率，"Let's think step by step"
浅零样本CoT 不需要示例，只需加一句"Let's think step by step"即可触发推理能力
中少样本CoT 在Prompt中给出包含详细推理过程的示例，模型会模仿这种思考方式
中自洽性投票
(Self-Consistency) 多次采样CoT推理路径取多数答案，提升推理稳定性和正确率
(Self-Consistency) 多次采样CoT推理路径取多数答案，提升推理稳定性和正确率
中思维树
(Tree of Thoughts / ToT) 在树结构中探索多条推理路径，支持回溯和剪枝，适合复杂规划问题
(Tree of Thoughts / ToT) 在树结构中探索多条推理路径，支持回溯和剪枝，适合复杂规划问题
深思维图谱
(Graph of Thoughts / GoT) 将推理过程组织为图结构而非树/链，支持聚合和循环，更强的推理能力
(Graph of Thoughts / GoT) 将推理过程组织为图结构而非树/链，支持聚合和循环，更强的推理能力
中Reflexion / 反思 让模型生成答案后自我评估和反思，根据反馈改进，类似人类"检查一遍"
浅角色扮演
(Role Prompting) "你是一个XX领域专家..."，设定身份后模型输出质量和专业性显著提升
(Role Prompting) "你是一个XX领域专家..."，设定身份后模型输出质量和专业性显著提升
中退一步提问
(Step-Back Prompting) 让模型先回答更高层次的抽象问题，再用抽象答案指导具体问题解决
(Step-Back Prompting) 让模型先回答更高层次的抽象问题，再用抽象答案指导具体问题解决
中动态Prompt
(Dynamic Prompting) 根据问题类型动态选择不同的Prompt模板和示例，而非一个固定Prompt
(Dynamic Prompting) 根据问题类型动态选择不同的Prompt模板和示例，而非一个固定Prompt
浅人设 / Persona 系统提示词中定义AI的性格、口吻、说话风格，是AI陪伴产品的核心设计
三十三、AI开发工具补充
中LangSmith LangChain官方LLM应用调试/监控/评测平台，追踪LLM调用链、评测输出质量
中Langfuse 开源LLM可观测性平台，类似LangSmith但可自托管，追踪/评测/Prompt管理
中LlamaIndex 专注RAG的数据框架，擅长连接各种数据源(PDF/数据库/Notion)构建索引
浅Streamlit Python快速构建数据/AI Web应用的框架，无需前端知识即可搭建Demo
浅Gradio Hugging Face出品的AI应用Demo框架，几行代码即可搭建分享界面
浅FastAPI Python高性能API框架，LLM服务部署标配，自动生成OpenAPI文档
中Unsloth LLM微调加速库，比原生HuggingFace快2-5倍，显存减少60%，LoRA微调首选
中Axolotl 一站式LLM微调工具，支持多种模型和微调方法(Lora/QLoRA/全参)，配置文件驱动
中LLaMA Factory 国人开源的零代码LLM微调平台，WebUI界面，支持100+模型，入门微调首选
浅Open WebUI 开源ChatGPT风格Web界面，支持Ollama/OpenAI API，自托管LLM前端首选
中Text Generation WebUI (oobabooga) 最流行的开源LLM本地运行Web界面，支持多种模型格式和后端
中ComfyUI 节点式Stable Diffusion工作流界面，控制力强，是AI绘图专业用户首选
浅A1111 / SD WebUI Automatic1111的Stable Diffusion WebUI，插件生态丰富，AI绘图最流行界面
中Insanely Fast Whisper Whisper优化版，用bettertransformer/faster-whisper加速，转录速度提升数倍
中TGI
(Text Generation Inference) Hugging Face生产级LLM推理服务，支持连续批处理/量化/流式输出
(Text Generation Inference) Hugging Face生产级LLM推理服务，支持连续批处理/量化/流式输出
三十四、AI for Science 与垂直AI
中AlphaFold DeepMind蛋白质结构预测模型，解决生物学50年难题，CASP14准确率达90+
深ESMFold Meta开源蛋白质结构预测模型，速度比AlphaFold快60倍，精度略低
中AI药物发现
(AI Drug Discovery) 用AI加速靶点发现、分子设计、临床试验，已诞生多家上市公司
(AI Drug Discovery) 用AI加速靶点发现、分子设计、临床试验，已诞生多家上市公司
中AI气象预测
(AI Weather Forecasting) 盘古气象/GraphCast用AI做天气预报，速度比传统数值方法快数千倍，准确率更高
(AI Weather Forecasting) 盘古气象/GraphCast用AI做天气预报，速度比传统数值方法快数千倍，准确率更高
浅自动驾驶
(Autonomous Driving) L2-L5分级，Tesla FSD/Waymo/百度萝卜快跑，端到端自动驾驶是新趋势
(Autonomous Driving) L2-L5分级，Tesla FSD/Waymo/百度萝卜快跑，端到端自动驾驶是新趋势
浅机器人
(Robotics) 具身智能载体，Figure/Optimus/Unitree，大模型赋能机器人理解指令和规划动作
(Robotics) 具身智能载体，Figure/Optimus/Unitree，大模型赋能机器人理解指令和规划动作
浅AI编程
(AI Coding) Copilot/Cursor/Claude Code/Devin，AI编程是目前AI落地最成功场景，效率提升显著
(AI Coding) Copilot/Cursor/Claude Code/Devin，AI编程是目前AI落地最成功场景，效率提升显著
浅医疗AI AI辅助影像诊断/药物研发/病历分析，医疗影像诊断准确率已超人类医生平均水平
浅法律AI Harvey/律呗，合同审查/法律检索/文书生成，律所和法务部门效率提升利器
浅教育AI AI家教/智能批改/个性化学习，Khanmigo/Duolingo Max，因材施教规模化
三十五、模型服务与API平台
浅OpenAI API GPT-4o/GPT-5/o3等模型API，开发者生态最成熟，行业事实标准
浅Azure OpenAI Service 微软Azure托管的OpenAI模型，企业级SLA/合规/私有网络，大企业首选
浅Anthropic API Claude模型API，长上下文(200K)和安全对齐著称，编程能力强
浅Google AI Studio / Vertex AI Gemini模型API平台，免费额度慷慨，与Google Cloud生态深度整合
浅阿里百炼
(DashScope) 阿里通义千问API平台，Qwen系列+开源模型托管，国内开发者常用
(DashScope) 阿里通义千问API平台，Qwen系列+开源模型托管，国内开发者常用
浅百度千帆
(Qianfan) 百度文心大模型API平台，兼容OpenAI接口，企业级服务能力
(Qianfan) 百度文心大模型API平台，兼容OpenAI接口，企业级服务能力
浅腾讯混元API 腾讯大模型API，微信生态整合优势
浅火山引擎豆包API 字节跳动火山引擎提供豆包/云雀等模型API，价格竞争力强
浅DeepSeek API 深度求索开放API，性价比极高(R1/V3价格仅为GPT-4o几十分之一)，开源+API双路线
浅Together AI 托管开源模型(Llama/Mistral/Qwen)的API平台，按token计费，企业级服务
浅Fireworks AI 高性能开源模型推理平台，速度快延迟低，Function Calling支持好
浅Groq API 自研LPU芯片推理，速度极快(数百token/s)，开源模型的极速推理选择
浅OpenRouter 统一API网关，一个接口调用100+模型(OpenAI/Anthropic/开源)，统一计费
浅MaaS
(模型即服务) Model-as-a-Service，将AI模型作为云服务提供，按使用量计费，是AI时代的云计算新形态
(模型即服务) Model-as-a-Service，将AI模型作为云服务提供，按使用量计费，是AI时代的云计算新形态
三十六、开源协议与许可
浅Apache License 2.0 宽松开源协议，允许商用/修改/分发/闭源衍生，需保留版权声明和专利授权，LLaMA 3/Qwen/Flux使用
浅MIT License 最宽松的开源协议，几乎可以任意使用，只要求保留版权声明
中GPL / AGPL 传染性开源协议，GPL要求衍生作品开源，AGPL要求网络服务也开源，商业软件需谨慎
浅Llama 社区许可 Meta自定义许可，Llama 1/2/3允许商用但有限制（月活超7亿需申请），Llama 4改为Apache 2.0
浅商用许可 / 非商用 使用开源模型前必须确认授权协议：是否允许商用/微调/再分发/二次授权
中开放权重
(Open Weights) 模型权重可下载使用但不一定是OSI认证的"开源"，许多大模型是open-weight但使用有限制
(Open Weights) 模型权重可下载使用但不一定是OSI认证的"开源"，许多大模型是open-weight但使用有限制
三十七、RAG进阶与检索技术
中BM25
(Best Matching 25) 经典关键词检索算法，TF-IDF改进版，词频+文档长度归一化，混合搜索必备
(Best Matching 25) 经典关键词检索算法，TF-IDF改进版，词频+文档长度归一化，混合搜索必备
中重排序
(Reranker) 初筛后用更强的交叉编码器重新排序文档，提升召回精度，bge-reranker/Cohere Rerank常用
(Reranker) 初筛后用更强的交叉编码器重新排序文档，提升召回精度，bge-reranker/Cohere Rerank常用
中分层切块
(Hierarchical Chunking) 小块检索+大块上下文：先检小片段定位，再取完整段落给LLM，兼顾精度和完整语境
(Hierarchical Chunking) 小块检索+大块上下文：先检小片段定位，再取完整段落给LLM，兼顾精度和完整语境
中句子窗口检索
(Sentence Window Retrieval) 检索单句后扩展前后n句作为上下文，避免切块切断语义
(Sentence Window Retrieval) 检索单句后扩展前后n句作为上下文，避免切块切断语义
中父文档检索
(Parent Document Retriever) 小块索引检索但返回大块文档，类似分层切块的一种实现
(Parent Document Retriever) 小块索引检索但返回大块文档，类似分层切块的一种实现
中多查询检索
(Multi-Query Retrieval) 让LLM把一个问题改写成多个角度的查询，多路检索合并结果，提高召回率
(Multi-Query Retrieval) 让LLM把一个问题改写成多个角度的查询，多路检索合并结果，提高召回率
中Step-Back RAG 先让LLM生成更高层次的抽象问题，同时检索原问题和抽象问题，提升复杂问答质量
深RAPTOR
(递归摘要树检索) 将文档聚类递归摘要构建树结构索引，支持不同抽象层次的问答
(递归摘要树检索) 将文档聚类递归摘要构建树结构索引，支持不同抽象层次的问答
深Self-RAG 模型自主决定何时检索、检索内容是否相关、答案是否有依据，自适应检索增强
中融合检索
(Fusion Retrieval) 混合搜索+RRF重排，综合多种检索算法结果，效果通常优于单一检索
(Fusion Retrieval) 混合搜索+RRF重排，综合多种检索算法结果，效果通常优于单一检索
深ColBERT
(上下文化BERT late interaction) Token级 late interaction 检索模型，速度接近词法匹配精度接近交叉编码器
(上下文化BERT late interaction) Token级 late interaction 检索模型，速度接近词法匹配精度接近交叉编码器
三十八、Agent进阶设计模式
中ReAct模式
(Reasoning + Acting) Thought(思考)→Action(行动)→Observation(观察)循环，Agent核心推理框架
(Reasoning + Acting) Thought(思考)→Action(行动)→Observation(观察)循环，Agent核心推理框架
中Plan-and-Execute 先完整规划所有步骤再逐步执行，规划与执行解耦，适合复杂长任务
中任务路由
(Task Routing) 将用户请求分类路由到专门Agent/模型，简单问题用小模型省成本
(Task Routing) 将用户请求分类路由到专门Agent/模型，简单问题用小模型省成本
中子Agent
(Sub-Agent) 主Agent调用专门化的子Agent完成子任务，每个子Agent有自己的工具和Prompt
(Sub-Agent) 主Agent调用专门化的子Agent完成子任务，每个子Agent有自己的工具和Prompt
中完成率
(Task Completion Rate) Agent成功完成任务的比例，是衡量Agent系统效果的核心指标
(Task Completion Rate) Agent成功完成任务的比例，是衡量Agent系统效果的核心指标
中Agent通信协议 A2A/MCP等让Agent之间互操作、Agent与工具互操作的标准协议
中状态管理
(State Management) Agent运行过程中维护对话历史、中间结果、任务进度，LangGraph内置状态图
(State Management) Agent运行过程中维护对话历史、中间结果、任务进度，LangGraph内置状态图
中Checkpointing Agent执行过程中保存状态快照，支持中断恢复和时间旅行调试
浅人在回路
(Human-in-the-loop) 关键决策点暂停等待人类确认，高风险场景(金融/医疗)必备安全机制
(Human-in-the-loop) 关键决策点暂停等待人类确认，高风险场景(金融/医疗)必备安全机制
中工具描述与解析
(Tool Schema) 用JSON Schema描述工具参数，LLM选择工具并生成参数，Function Calling的基础
(Tool Schema) 用JSON Schema描述工具参数，LLM选择工具并生成参数，Function Calling的基础
中并行工具调用
(Parallel Tool Calling) 一次调用多个工具并行执行，减少等待轮次，OpenAI/Anthropic API均支持
(Parallel Tool Calling) 一次调用多个工具并行执行，减少等待轮次，OpenAI/Anthropic API均支持
中Computer Use Agent像人一样看屏幕/点鼠标/敲键盘操作电脑GUI，Claude 3.5首个商用实现
浅代码解释器
(Code Interpreter / Advanced Data Analysis) 沙箱中执行LLM生成的Python代码，用于计算/数据分析/文件处理，ChatGPT Plus内置
(Code Interpreter / Advanced Data Analysis) 沙箱中执行LLM生成的Python代码，用于计算/数据分析/文件处理，ChatGPT Plus内置
三十九、视频生成技术
浅Sora OpenAI文本生视频模型，DiT+时空Patch，最长60秒高清视频，物理世界理解能力强
浅可灵 Kling 快手AI视频生成，支持2分钟1080p，中文场景优化好，国内视频生成标杆
浅Vidu 生数科技出品，U-ViT架构，4秒/8秒视频生成，清华技术背景
浅Runway Gen-3 Runway ML商用视频生成，Gen-3 Alpha效果接近Sora，电影级画质
浅Pika Pika Labs视频生成/编辑平台，文字/图片生成视频，局部编辑能力强
浅海螺视频 MiniMax视频生成，动作自然流畅，免费额度慷慨
中Stable Video Diffusion Stability AI开源图生视频模型，可本地部署，开源视频生成基础
浅CogVideoX 智谱开源视频生成模型，5B/2B参数，支持中英文，开源视频模型代表
浅腾讯万相 腾讯视频生成大模型，文生视频/图生视频，微信生态整合
浅Luma Dream Machine Luma AI视频生成，真实感强，物理一致性好
四十、前沿技术与最新趋势
中推理时计算扩展
(Test-Time Compute Scaling) o1/R1核心思路：推理时投入更多计算(长思维链/多次尝试)提升答案质量，而非仅堆训练算力
(Test-Time Compute Scaling) o1/R1核心思路：推理时投入更多计算(长思维链/多次尝试)提升答案质量，而非仅堆训练算力
浅推理模型
(Reasoning Model) o1/R1这类慢思考模型，通过强化学习训练长思维链推理能力，数学/编程/科学题显著提升
(Reasoning Model) o1/R1这类慢思考模型，通过强化学习训练长思维链推理能力，数学/编程/科学题显著提升
深神经符号方法
(Neuro-Symbolic Methods) 结合神经网络感知能力和符号系统逻辑推理能力，减少幻觉提升可解释性
(Neuro-Symbolic Methods) 结合神经网络感知能力和符号系统逻辑推理能力，减少幻觉提升可解释性
深深度混合
(Mixture-of-Depths / MoD) 不同token使用不同网络深度，简单token少用层，动态计算提升效率
(Mixture-of-Depths / MoD) 不同token使用不同网络深度，简单token少用层，动态计算提升效率
中Recurrent Gemma Google基于Griffin(线性RNN+局部注意力)架构的开源模型，无限上下文理论支持
浅超长上下文
(Long Context / 1M+ tokens) Gemini 1.5 Pro支持100万-200万token，可一次处理整本书/代码库/几小时视频
(Long Context / 1M+ tokens) Gemini 1.5 Pro支持100万-200万token，可一次处理整本书/代码库/几小时视频
浅小模型崛起 Phi-3/Qwen2.5/MiniCPM等小模型(1-7B)能力越来越强，端侧部署成为可能
浅Agent元年(2025) 2025年被广泛认为是AI Agent落地元年，Computer Use/MCP/多Agent框架成熟
中多模态推理 GPT-4o/Gemini能结合图片/图表/公式进行推理，不再是纯文本问题解决
浅AI价格战 2024-2025年大模型API价格持续下降，DeepSeek引发价格雪崩，推理成本每年降90%
中上下文工程
(Context Engineering) Prompt工程升级版：精心设计上下文(系统提示/RAG/工具定义/记忆)最大化模型性能
(Context Engineering) Prompt工程升级版：精心设计上下文(系统提示/RAG/工具定义/记忆)最大化模型性能
浅AI Infra AI基础设施：GPU集群/网络/存储/调度系统，训练大模型的底层技术能力
浅AI工程师 2025年新兴职业：AI应用工程师(Prompt/RAG/Agent/全栈)，区别于传统ML工程师
使用建议
以上 800+ 词不需要一次性记住。浅层标签的词在讨论中听到能接上话即可；中层标签的词理解原理后能分析技术路线差异；深层标签的词是需要系统学习的大领域。建议把此页面加入书签，遇到陌生缩写随时来查。左侧搜索框支持快速检索（快捷键 Ctrl+K / ⌘+K），输入任意术语即可定位。
第2章 2.1
产业链全景：上游 —— 芯片与算力
AI 产业的食物链顶层：没有芯片就没有模型。谁掌握算力，谁就掌握定价权。
上
上游：芯片、算力与基础设施
成本占比最大、壁垒最高的一层AI 训练芯片
大模型训练的核心硬件。英伟达 H100（全球 AI 训练芯片约 80% 份额）是最主流选择。H200/B200 新一代芯片算力持续翻倍。国产替代：华为昇腾 910B。
关键玩家：NVIDIA（英伟达）、华为（昇腾）、AMD、Intel
云计算平台
提供弹性 GPU 集群，按小时租赁。企业不需要一次性购买几千块 GPU，可以在云上按需使用。AWS、Azure、阿里云、华为云的 AI 业务都是增长最快板块。
关键玩家：AWS、Azure、Google Cloud、阿里云、华为云
AI 芯片设计 IP & EDA
芯片设计所需的核心 IP 和工具软件。ARM 提供芯片架构授权，Cadence/Synopsys 提供芯片设计 EDA 工具。随着自研 AI 芯片趋势，该层价值快速提升。
关键玩家：ARM、Cadence、Synopsys（新思科技）
AI 数据中心
大规模 GPU 集群需要专门的供电、散热、网络设施。一个万卡 H100 集群功耗相当于一个小型发电站。液冷散热成为标配，电力供应成为关键瓶颈。
关键玩家：Equinix、万国数据、秦淮数据
总架构图：AI 产业链上游 — 从沙子到算力
上游的核心是把原材料变成可用的计算能力。芯片设计 → 晶圆制造 → 封装测试 → 服务器集成 → 数据中心部署。
EDA工具
CadenceSynopsys
芯片设计
NVIDIA/华为ARM IP
晶圆制造
台积电/三星7nm→3nm
GPU/加速卡
H100/B200昇腾910B
服务器集成
超微/浪潮8-GPU节点
智算中心
万卡集群液冷供电
设计与研发
硬件产品
最终交付
第2章 2.2
产业链全景：中游 —— 大模型与平台
模型是 AI 产业的"引擎"。当前格局是：少数几家巨头训练基础模型，千百家创业公司做微调和应用。
中
中游：模型层与开发工具
技术创新最密集的一层通用基础大模型
用全网数据训练的"全能型"模型，是所有下游应用的底座。训练一次成本数千万到数亿美元。全球有能力训练通用大模型的公司不超过 20 家。
关键玩家：OpenAI GPT、Google Gemini、Meta Llama、DeepSeek、文心、通义千问
模型 API 服务
把大模型包装成 API，按调用量计费。让任何开发者不需要 GPU 就能用上大模型。价格战最激烈的赛道：DeepSeek 价格仅为 GPT-4o 的 1/50。
关键玩家：OpenAI API、Anthropic API、DeepSeek API、阿里百炼、百度千帆
AI 开发平台与框架
提供工具链让开发者构建 AI 应用：Prompt 管理、RAG 编排、Agent 框架、评测体系。类比于"AI 时代的操作系统"，做平台的人赚生态的钱。
关键玩家：LangChain、LlamaIndex、Dify、扣子（Coze）、百炼平台
向量数据库与数据平台
RAG 架构的基础设施，存储和检索向量化的知识。传统数据库巨头和新锐创业公司都在抢这个赛道。
关键玩家：Pinecone、Weaviate、Milvus（Zilliz）、Chroma、Elasticsearch
垂直/行业大模型
基于通用大模型，用行业数据微调的专用模型。医疗、法律、金融、编程等垂直领域。壁垒在于行业数据的获取和标注质量。
关键玩家：Harvey（法律）、Med-PaLM（医疗）、BloombergGPT（金融）
AI 安全与对齐
确保模型输出安全、合规、不产生有害内容。随着各国 AI 监管法规出台（欧盟 AI Act 等），安全合规成为模型上线的刚需环节。
关键玩家：Anthropic（安全优先理念）、各模型厂商内置安全团队
总架构图：AI 产业链中游 — 从模型训练到能力输出
中游做一件事：把算力变成可调用的"智能"。基础模型 → 微调 → API 服务 → 平台工具 → 行业垂直模型。
通用基础大模型
全网数据训练 · 数亿美金成本 · 全行业底座
模型 API 服务
按Token计费
价格战主战场
开发平台与框架
LangChain · Dify
扣子 · 百炼
安全与对齐
内容过滤 · 越狱防护
欧盟AI Act合规
垂直行业大模型
医疗 · 法律 · 金融 · 编程 · 教育 · 制造
第2章 2.3
产业链全景：下游 —— 应用与 SaaS
离用户最近、创业机会最多的一层。用中游提供的模型能力，解决具体的行业痛点和用户需求。
下
下游：应用层与解决方案
变现最直接、模式最成熟的一层对话与搜索
AI 对话助手和智能搜索引擎。ChatGPT 是现象级产品（2 个月破 1 亿用户）。传统搜索正在被 AI 搜索重构：Perplexity 的崛起让 Google 感受到了真正的威胁。
ChatGPT、Kimi、豆包、Perplexity、文心一言
内容生成 AIGC
AI 生成文字、图片、视频、音乐。广告素材、电商商品图、影视特效等场景需求巨大。Midjourney 年收入超 3 亿美元，Sora 正在颠覆视频制作行业。
Midjourney、DALL-E、Sora、Runway、可灵、即梦
代码智能体
AI 辅助编程、代码审查、自动测试。GitHub Copilot 是最成功的 AI 应用之一，有研究表明提升程序员效率 55%。这也是我们 OPC 的切入口方向。
GitHub Copilot、Cursor、Devin、通义灵码、文心快码
智能客服
用大模型替代传统关键词匹配的客服机器人。能真正理解客户意图，处理复杂退款、投诉场景。工单自动化 + 情绪识别 + 知识库 RAG。
Zendesk AI、Intercom Fin、智齿科技、网易七鱼
数据分析智能体
用户用自然语言问数据问题，Agent 自动写 SQL 分析。降低数据分析门槛从"需要会写代码"到"会说人话就行"。
ThoughtSpot、数说故事、阿里 DataV + AI
营销智能体
AI 自动生成广告文案、优化投放策略、做客户分群洞察。营销是 AI 落地最快的场景之一，因为 ROI 最直接可衡量。
Jasper、Copy.ai、蓝色光标 AI、巨量引擎 AI
垂直行业应用
医疗 AI 辅助诊断、法律文书自动起草、金融风控建模、教育个性化辅导、制造缺陷检测。每个垂直行业都有百亿级别的 AI 应用市场空间。
众多垂直 SaaS 公司 + AI 创业公司
多智能体协作平台
让多个 AI Agent 分工协作，完成复杂的端到端任务。比如：一个营销团队可以有文案 Agent + 设计 Agent + 投放 Agent + 分析 Agent。智能体集群是未来 3-5 年的核心方向。
AutoGen（微软）、CrewAI、Dify、扣子（Coze）
总架构图：AI 产业全链路 — 上游 → 中游 → 下游
三层的价值分配：上游赚硬件的钱（毛利高、壁垒厚），中游赚平台和 API 的钱（规模效应），下游赚解决方案和应用的钱（离用户最近、创新最快）。
上游：算力层
芯片 · 云平台 · 数据中心
英伟达 · 华为 · AWS
毛利 60-80%
中游：模型与平台层
大模型 · API · 开发框架
OpenAI · DeepSeek · LangChain
毛利 30-70%
对话 · 搜索
ChatGPT · Kimi
AIGC 内容
Midjourney · Sora
代码 Agent
Copilot · Cursor
智能客服
Zendesk AI
数据分析
自然语言→SQL
营销 Agent
文案 · 投放 · 洞察
垂直行业
医疗 · 法律 · 金融
多Agent协作
AutoGen · CrewAI
下游应用层 — 毛利 40-80%（取决于产品化程度）
第3章 3.1
海外版图：一超多强，资本竞赛
"一超"= OpenAI，"多强"= Google、Anthropic、Meta、微软。全在砸重金竞争，2025 年硅谷 AI 融资超千亿美元。
OpenAI 美国
行业绝对领跑者。ChatGPT 两个月破 1 亿用户创造互联网历史。累计融资超 100 亿美元，最大金主是微软。旗舰 GPT-4o 支持多模态输入输出。
| 维度 | 详情 |
|---|---|
| 旗舰产品 | ChatGPT、GPT-4o（文字+图片+语音+视频全模态） |
| 2024 年收入 | 年化约 30-40 亿美元，ChatGPT Plus 订阅 + API 调用 |
| 中国对标 | 文心一言、豆包（综合能力）；DeepSeek（技术深度） |
Anthropic 美国
OpenAI 前员工创立的"安全派"，核心理念是 AI 安全对齐。与亚马逊 AWS 深度绑定。Claude 系列以超长上下文窗口和优雅文风著称。
| 维度 | 详情 |
|---|---|
| 旗舰模型 | Claude 3.5 Opus / Sonnet，200K 上下文窗口 |
| 2024 年收入 | 数亿美元级别，通过 AWS 渠道快速增长 |
| 差异化优势 | 安全优先理念，Claude.ai 写作质量被公认业界最优 |
Google DeepMind 美国
全球 AI 研究产出最强的机构（Transformer、AlphaGo、AlphaFold 均出自其手）。Gemini 是 Google 的大模型系列。拥有数十亿用户的天然分发优势。
| 维度 | 详情 |
|---|---|
| 旗舰模型 | Gemini 2.5 Pro，原生多模态，支持百万级上下文 |
| 独家资产 | 海量自有数据（YouTube、搜索、Gmail） |
| 分发渠道 | 所有 Google 产品内置 + Android 系统预装 |
Meta AI（Facebook）美国
开源生态的绝对领导者。Llama 系列模型是整个开源大模型生态的能力基准。全球超 10 亿日活用户的天然分发网络。
| 维度 | 详情 |
|---|---|
| 旗舰模型 | Llama 4（开源），主打部署性价比 |
| 战略意图 | 开源以商品化市场、避免被 OpenAI 锁定；用 AI 优化内容推荐 |
| 生态影响 | 基于 Llama 微调的模型占据开源榜单主导地位 |
其他重要海外玩家
| 公司 | 市场定位 | 核心产品 |
|---|---|---|
| 微软（Microsoft） | AI 最大受益者。Copilot 深度嵌入 Office + GitHub，拥有 GPT 独家授权 | Copilot、Azure AI |
| 苹果（Apple） | 端侧 AI 之王。Apple Intelligence 让大模型在 iPhone 本地运行 | Apple Intelligence |
| xAI（马斯克） | 激进闯入者。Grok 模型系列，122 天建成超级数据中心 | Grok |
| Mistral AI | 欧洲 AI 冠军。法语+英语双语优势，开源路线 | Mistral Large |
| 英伟达（NVIDIA） | 上游之王。市值约 2.7 万亿美元，垄断 80%+ AI 训练 GPU 市场 | A100、H100、B200 GPU |
| Perplexity AI | AI搜索标杆。答案附带引用来源，年收入超$1亿，被称为"Google杀手" | Perplexity Pro |
| Cohere | 加拿大企业级LLM。专注RAG和Embedding，服务企业客户，不与OpenAI正面竞争 | Command R+ |
| ElevenLabs | AI语音合成霸主。语音克隆技术行业领先，支持29种语言，估值超$30亿 | ElevenLabs TTS |
| Stability AI | 开源图像生成先驱。Stable Diffusion系列，面临商业化挑战但生态影响力巨大 | Stable Diffusion 3 |
| Aleph Alpha | 德国AI旗舰。欧洲主权AI代表，强调数据主权和透明性，获政府数亿欧元订单 | Luminous系列 |
第3章 3.2
中国版图：六强争霸 + 百花齐放
中国模型厂商有独特的数据、场景和用户规模优势。整体能力已追到 GPT-4 水平的约 75%，成本优势极其突出。
DeepSeek（深度求索）中国
2025 年最大黑马。以极低成本（训练预算约 500 万美元）实现 GPT-4 级别模型（DeepSeek-V3）。R1 推理模型对标 OpenAI o1。国产之光 + 开源标杆。
| 维度 | 详情 |
|---|---|
| 旗舰模型 | DeepSeek-V3（GPT-4 级别，低成本）；R1（推理模型） |
| 核心优势 | 极致性价比；全部开源；2025-2026 年全球轰动 |
| 背景 | 母公司：幻方量化（量化对冲基金） |
字节跳动（豆包）中国
中国最大的 AI 应用用户规模：豆包 App 月活超 1.5 亿。背靠抖音海量数据和算力资源。旗舰豆包-Pro 2.0 模型。
| 维度 | 详情 |
|---|---|
| 旗舰产品 | 豆包-Pro 2.0；豆包 App 月活 1.5 亿+（中国第一 AI 应用） |
| 核心优势 | 抖音流量分发能力；视觉和 3D 能力突出 |
智谱 AI（清华系）中国
清华技术班底，GLM 模型系列。产品线最完整：对话助手、API、企业 PMF 定制方案。国产大模型中综合实力最均衡的选手。
| 维度 | 详情 |
|---|---|
| 旗舰模型 | GLM-4 / ChatGLM；企业 PMF 门户；AutoGLM（Agent 产品） |
| 核心优势 | 全栈能力；企业销售能力强；AutoGLM 智能体布局领先 |
其他重要中国玩家
| 公司 | 市场定位 | 核心产品 |
|---|---|---|
| Kimi（月之暗面） | 长上下文先驱：1000 万 token 上下文窗口。中国估值最高 AI 独角兽 | Kimi 智能助手 |
| 文心一言（百度） | AI 全栈布局最深；RAG + 企业服务能力强 | 文心一言、文心大模型 API |
| 通义千问（阿里） | 模型规模最大；Qwen 系列有大量细分微调变体 | 通义千问系列（阿里云） |
| 混元（腾讯） | 社交+游戏场景融合；企业微信深度集成 | 腾讯混元大模型（腾讯云） |
| 百川智能 | 前搜狗CEO王小川创立，专注AI医生和AI顾问等垂直场景 | 百川大模型系列 |
| 阶跃星辰 | 前微软全球副总裁姜大昕创立，多模态能力突出 | Step系列模型 |
| 面壁智能 | 清华系端侧AI先驱，MiniCPM系列在手机端高效运行 | MiniCPM |
| 智源研究院 | 北京AI非营利研究机构，发布悟道大模型，中国AI研究重镇 | 悟道、FlagAlpha |
| 深势科技 | AI for Science标杆，分子动力学模拟，药物和材料设计 | DeepMD、Uni-Mol |
第3章 3.3
开源 vs 闭源 —— 2025-2026 年最强主线
这个二元对立的格局，将决定未来 3-5 年 AI 产业的钱流向哪里。
闭源阵营
- OpenAI GPT-4o：性能第一梯队；API 定价最高
- Anthropic Claude：安全第一；长文写作最优
- Google Gemini：深度融合 Google 全家桶生态
- 优势：性能最强、企业级安全保障、免运维
- 劣势：成本最高、供应商锁定、数据需出企业
开源阵营
- Meta Llama 4：生态最成熟、全球部署量最大
- DeepSeek V3/R1：性价比之王、推理能力有优势
- Mistral Large：欧洲主权 AI 的代表
- 优势：成本低、可定制、数据主权可控、自由 Fork
- 劣势：需自建运维团队、能力约闭源的 80-85%
关键趋势：开源模型正在吃掉 SaaS 市场的大头
闭源模型的溢价空间仅限于前 5% 的最关键应用场景。对于 90%+ 的企业场景，开源模型（Llama、DeepSeek）已经足够好用且成本仅为闭源的十分之一到二十分之一。这个格局和十年前云计算 vs 开源数据库的竞争逻辑如出一辙。
第4章 4.1
AI 行业六大变现模式
已经被市场验证过的商业模式。定价数据参考 2026 年 Q1 实际水平。
SaaS
SaaS 订阅
按月/年向用户或组织收取 AI 增强服务的订阅费。
单位经济学：人效成本碾压，订阅费通常仅为替代人力的 1/20
标杆产品：ChatGPT Plus $20/月；GitHub Copilot $10/月；Notion AI $10/座/月
API
API 按量计费
按每百万 token 收费，用量越大付费越多。
毛利率：30-70%，完全取决于 GPU 采购成本的议价能力
GPT-4o：$2.50/百万输入token；DeepSeek：$0.14（便宜 56 倍！）
私有
私有化部署
一次性部署费 + 年度维保费。面向金融、政务、军工等监管要求高的场景。
利润率最高：80%+ 毛利率，大企业倾向于本地安装
模型微调后在客户本地服务器部署，完全物理隔离运行
增值
增值服务（Freemium）
基础功能免费，高级功能（更高质量、更快速度、更多次数）收费。
获客成本趋零；考验免费到付费的转化精度
Notion AI：免费读摘要；付费无限写作和模板
飞轮
数据飞轮增值
客户使用产生数据 → 优化模型 → 服务更好 → 更多客户。
最难实现；合规审计常让飞轮梦碎
Salesforce Einstein：所有训练数据都留在客户 CRM 内
MaaS
模型即服务（MaaS）
把微调好的模型当产品卖，模型市场作为分发渠道。
只有在客户品牌绑定足够深时才成立
HuggingFace 模型市场；OpenAI GPT Store；阿里云 ModelScope
2025-2026 年真实行业变化
API 价格战白热化：DeepSeek 用极低成本证明了模型能力可以"白菜价"。SaaS+AI 模式已验证：现有 SaaS 加 AI 功能提升 ARPU 30-50%。私有化部署是利润中心：中国企业特别是国企和政府对本地 AI 部署需求巨大。垂直 AI Agent 毛利率 70%+，可能是对创业公司最有吸引力的新商业模式。
第4章 4.2
AI 公司的成本结构与定价策略
看懂 AI 公司的钱花在哪、怎么赚回来。
AI 创业公司成本结构
- GPU / 算力（40-60%）：最大单项成本，训练+推理合计
- 工程师团队（25-35%）：AI 研究员 + ML 工程师 + 基础设施团队
- 数据与标注（5-15%）：数据采购、标注、清洗
- 基础设施（5-10%）：云服务、监控、安全
- 销售与商务（5-10%）：企业销售周期平均 6-9 个月
AI SaaS 单位经济学
- 年度客单价（ARPU）：消费者 $120-$240；企业每座 $1,200-$12,000
- 单用户月 GPU 成本：消费者 $0.5-$3；企业 $5-$30
- 毛利率：消费者 60-85%；企业 50-70%；私有部署 80%+
- 关键 KPI：单次 API 调用的推理 GPU 成本 × 24 小时 GPU 利用率
- 流失率：消费者月流失 3-6%；企业年合同月流失 1-4%
定价核心策略
GPU 采购是黄金门票：大额云承诺（1 亿美元+）才能拿到最优 GPU 价格。推理优化是利润之源：量化压缩、缓存命中、提示词效率，每优化 1% 都是纯利润。企业销售真金在专业服务（咨询、定制、集成），毛利率超 65% 且客户粘性极强。开源替代正在颠覆：开源模型（Llama 4、DeepSeek）在 85-90% 场景下已够用，成本仅为闭源的 5-20%。
下一步：从看懂了到会用了
AI 概念不吓人——用对工具做对事才是核心能力。真正的 AI 商业壁垒在于把业务场景理解力和正确的技术组件组合在一起。做产业分析、行业分析、商业模式分析时，把这份报告当速查手册用。
OPC AI 方向 · 知识科普报告 · 2026.05 · 持续更新