1. 八大模块一图速览
整个版图分四层八模块：架构骨架 → 学习范式 → 训练与推理 → 系统与应用。同一架构可用不同范式训练，同一范式可叠加不同技术栈，同一技术栈可以落到不同应用场景——四层是正交的。
模块一 · 架构骨架（判别式）
用什么模型
CNN · RNN · Transformer · GNN · SSM · SNN · PNN/KAN · ODE · 科学计算
模块二 · 生成式家族
学数据分布 p(x)
VAE · GAN · Flow · Diffusion · EBM · AR 自回归
模块三 · 学习范式
怎么训
监督 · 自监督 · 强化 · 迁移 · 元 · 持续 · 联邦 · 多任务 · 课程
模块四 · 训练与推理技术栈
怎么调
Pretrain/SFT/RLHF/DPO · PEFT · TTS · 蒸馏/量化/剪枝 · Scaling Laws · XAI
模块五 · 系统级 AI 栈
怎么用
Prompt · RAG/GraphRAG · Embedding/VDB · Agent/MCP · 评测
模块六 · 具身智能与多模态
走进物理世界
VLM/MLLM · T2I/T2V · VLA · Diffusion Policy · World Models
模块七 · 混合与前沿架构
跨家族融合
MoE · MoE+Mamba · QCNN · Neuro-Symbolic · 扩散语言模型
模块八 · 经典 ML 基线
工业主力与对照系
XGBoost/LightGBM · SVM · GP · HMM/CRF · ARIMA · 推荐双塔/FM
读图顺序：先看模块一/二确定「用什么模型」，再看模块三决定「怎么训」，然后模块四处理「怎么把训好的模型调到位」，最后模块五/六回答「怎么把它接进真实场景」。模块七是前沿融合，模块八是工业对照——遇到「表格数据 / 小样本 / 强可解释」的场景，先回八。
2. 第 0 层 · 底层基础
所有上层范式共享的根基。理解这层，上面八个模块的很多技术名字就不再神秘。
共同根基
「网络结构是骨架，训练是驱动，损失是目标」——三者都能追溯到这一层。
- 感知机 Perceptron（Rosenblatt, 1958）线性二分类原型
- 多层前馈网络 MLP≥1 隐层 + 非线性激活
- 反向传播 Backprop（Rumelhart, 1986）链式法则求梯度
- 优化器族：SGD → Momentum → Adam → AdamW → Lion / Sophia持续演进
- 激活函数：Sigmoid → ReLU → GELU / SwiGLU → 多项式（PNN）→ B-Spline（KAN）
- 损失函数：MSE · Cross-Entropy · Contrastive · Triplet · ELBO · Score Matching · PDE 残差（PINN）
- 六大可微算子注意力 / 消息传递 / 状态空间 / 脉冲 / 多项式 / ODE，分别派生 Transformer / GNN / SSM / SNN / PNN / LNN
3. 模块一 · 网络架构骨架（判别式）
定义「计算图长什么样」。按数据形态分空间 / 序列 / 图 / 事件 / 代数 / 函数六条主线，覆盖深度学习七十年来主流网络。
CNN 卷积系空间
- LeNet-5 → AlexNet → VGG → GoogLeNet → ResNet → DenseNet
- EfficientNet / ConvNeXt现代化
- Capsule Network动态路由旁支，未成主流
RNN 循环系时间
- Vanilla RNN → LSTM（1997）→ GRU → BiRNN
- Reservoir Computing（ESN / LSM）固定水库 + 读出层，低功耗远端
Transformer 系O(N²) 全局注意力
- 原始 Transformer（2017）→ BERT / GPT 系列 → ViT / Swin → CLIP
- Crossformer（2023）跨时间 + 跨维度两阶段注意力，多变量时序
- DiT / SoraDiffusion Transformer 融合
GNN 图神经网络图数据
- Spatial GNN：GCN · GraphSAGE · GIN · GAT（节点级注意力）
- 谱域 GNN：ChebNet · SGC · ARMA · Specformer · S²GNN · 双曲 GNN
- HGNN 异构图：RGCN · HGT · CompGCN · SimpleHGN · HGAT（双层注意力）
- Graph Transformer：GPS / Graphormer融合方向
SSM / Mamba 系O(N) 线性长序列
- S4 → Mamba（2023）→ Mamba-2选择性状态空间
- Jamba / Zamba（Mamba-Transformer 混合骨干）
SNN 脉冲神经网络第三代 · 事件驱动
- LIF / IF 神经元 · STDP · spikeDE
- SNN × GNN：SpikingGCN · COS-GNN · Dy-SIGN · VS-GNN2024–2026
PNN / KAN / NdLinear基础层替换
- PNN多项式激活，高阶交互，CTR 推荐
- KAN（2024）可学习 B-Spline 边激活，符号回归
- NdLinear逐维线性变换，参数 ↓9×，PEFT 友好
连续动力学系ODE 驱动
- Neural ODE（2018）ResNet 连续化极限
- LNN / CfC（MIT 2021–22）权重自适应，O(1) 内存
科学计算系物理 / 函数空间
- PINN（2019）PDE 残差损失，骨干可插拔
- Neural Operator（FNO / DeepONet）函数→函数映射，分辨率无关
其他远端
- NeRF / 隐式神经表示 INR坐标 MLP，SIREN，3DGS 同代
- KG Embedding（TransE / RotatE）HGNN 的浅层基线
4. 模块二 · 生成式架构家族
判别式回答「给 x 判 y」，生成式回答「学 p(x)，然后能采样」。二者正交，常混合部署——例如 Stable Diffusion = VAE 编码器 + Diffusion 生成器 + Transformer 骨干。
生成家族全景
- VAE（2013）ELBO + 重参数化
- β-VAE · VQ-VAE · CVAE
- GAN（2014）对抗博弈
- DCGAN · WGAN-GP · StyleGAN1–3 · CycleGAN · BigGAN
- Flow / Flow Matching可逆变换 / ODE
- NICE → RealNVP → Glow → FFJORD → Rectified FlowSD3 核心
- Diffusion 扩散模型当前图像生成主流
- DDPM → DDIM → CFG → Latent Diffusion（Stable Diffusion）
- Score-based SDE统一 VAE / Flow / EBM 视角
- Consistency Models少步生成
- DiT → Sora / SD3 / Flux
- EBM 能量模型p(x) ∝ exp(−E(x))，MCMC / Langevin
- Hopfield → Boltzmann → RBM → DBN → modern EBM
- AR 自回归模型链式分解
- PixelRNN · WaveNet · GPT / LLaMA 系 LLM语言生成主流
5. 模块三 · 学习范式（怎么训）
范式决定「损失从哪来、数据怎么用」。同一架构可套不同范式；范式与架构正交。
范式家族
- 监督学习 Supervised最常见
- 标注 (x, y) 拟合 · 分类 / 回归 · 数据增强（Mixup, CutMix, AutoAugment）
- 无监督学习 Unsupervised
- 聚类（K-Means / DBSCAN / GMM）· 降维（PCA / t-SNE / UMAP）· 密度估计
- 自监督学习 Self-Supervised大模型预训练基石
- 对比学习：SimCLR · MoCo · BYOL · DINO / DINOv2 · CLIP（图文对比）
- 掩码重建：BERT (MLM) · MAE · BEiT · I-JEPA / V-JEPA
- 下一 token / patch 预测：GPT · VideoMAE
- 半监督学习 Semi-Supervised
- Pseudo-Labeling · FixMatch · Mean Teacher
- 强化学习 Reinforcement Learning决策与对齐
- Model-free：Q-Learning → DQN · Policy Gradient → PPO / A2C · SAC · TD3
- Model-based：MuZero · DreamerV3 · World Models
- Offline RL：CQL · IQL · Decision Transformer
- RLHF / RLAIF / DPO / GRPOLLM 对齐主流
- Multi-Agent RL：MARL · QMIX · Self-Play (AlphaZero)
- 迁移学习 / 域适应
- Pretrain-Finetune · DANN · Test-Time Adaptation（TTA）
- 元学习 / 小样本 Meta-Learning
- MAML · Prototypical Networks · In-Context LearningLLM 涌现能力
- 持续学习 Continual / Lifelong
- EWC · PackNet · Learning to Prompt · 对抗灾难性遗忘
- 联邦学习 Federated Learning隐私保护
- FedAvg · FedProx · 联邦持续学习 FCL · Secure Aggregation
- 多任务学习 Multi-Task
- Hard/Soft Parameter Sharing · MMoE · Task Vectors
- 课程学习 Curriculum Learning由易到难样本排序
6. 模块四 · 训练与推理技术栈（怎么调）
从预训练到部署的全链路工程化技术，决定模型能否真正落地。
技术栈全景
- 预训练与对齐 Pretrain & AlignmentLLM 标准流程
- Pretraining（下一词预测，万卡集群）
- SFT 监督微调（Instruction Tuning，FLAN / Alpaca 数据）
- RLHF（InstructGPT / ChatGPT）→ DPO / IPO / KTO（无 RM 直接对齐）
- Constitutional AI / RLAIF
- 参数高效微调 PEFT端侧友好
- Adapter · Prompt Tuning / P-Tuning v2 · LoRA / QLoRA / DoRA · NdLinear-LoRA · IA³
- 推理时扩展 Test-Time Computeo1 / R1 范式
- Chain-of-Thought · Zero-CoT · Auto-CoT · Tree-of-Thoughts · Graph-of-Thoughts
- Self-Consistency · Best-of-N · MCTS (rStar) · Verifier-guided Search
- Budget Forcing · Sequential / Parallel TTS 策略
- 知识蒸馏与压缩
- Knowledge Distillation：Hinton KD · DistilBERT · MiniLLM · CoT-KD 思维链蒸馏
- 量化：PTQ / QAT · GPTQ · AWQ · FP8 / INT4 · SmoothQuant
- 剪枝：结构化 / 非结构化 · SparseGPT · Wanda
- Speculative Decoding投机解码，2–3× 推理加速
- 自动机器学习 AutoML / NAS
- DARTS · ENAS · EfficientNet（Compound Scaling）· Auto-PyTorch · HPO（Optuna）
- 扩展定律 Scaling Laws大模型指导原则
- Kaplan 2020 · Chinchilla（Hoffmann 2022）· 数据 / 参数 / 算力最优配比
- 因果推断与可解释 Causal & XAI
- Causal Inference：Do-Calculus · Causal Graph · Counterfactual
- XAI：SHAP · LIME · Attention Rollout · Grad-CAM · Circuit Analysis
- 鲁棒性与安全 Robustness & Safety
- 对抗训练（FGSM / PGD）· Adversarial Patch · 越狱防御 · Red Teaming · Watermarking
7. 模块五 · 系统级 AI 栈（怎么用）
2024–2026 主战场。不是单一网络，而是 LLM 与外部世界协同的工程范式；LangChain / LangGraph / LlamaIndex 是其实现载体。案例库 pr03–pr06、pr16–pr20 正是这一层的具体展开。
系统栈全景
- Prompt Engineering 提示工程最易上手
- Zero-Shot · Few-Shot / ICL · Role Prompting · ReAct · Self-Ask · ReAct + Tool
- RAG 检索增强生成私域问答主流
- Naive RAG：Chunk → Embed → Vector Search → Generate
- Advanced RAG：HyDE · Rerank · Query Rewrite · Parent-Child Chunking
- GraphRAG（Microsoft 2024）文本 → KG → 社区摘要 → 图检索
- Agentic RAG（带反思与多轮检索）
- Embedding 与向量数据库
- BGE · E5 · OpenAI text-embedding-3 · Milvus / Pinecone / Qdrant / Weaviate / pgvector
- AI Agents 智能体2025–2026 焦点
- 单 Agent：ReAct · Reflexion · Plan-and-Execute · AutoGPT / BabyAGI
- 多 Agent 协作：CAMEL · AutoGen · MetaGPT · CrewAI · LangGraph · Swarm
- 工具调用：Function Calling · Toolformer · MCP (Model Context Protocol)Anthropic 2024 标准
- Memory：短期（Context）· 长期（Vector / Graph）· Episodic
- Computer Use / Browser Use操作 GUI 的 Agent
- AI 编程与代码智能
- Copilot · Cursor · Claude Code · SWE-bench / Devin · Code Interpreter
- 评测与基准 Evaluation
- MMLU / GSM8K / HumanEval · LMSYS Chatbot Arena · HELM · DeepEval · RAGAS
8. 模块六 · 具身智能与多模态
让 AI 走进物理世界。2024–2026 最重要的垂直方向，与 LLM 范式并行推进。
感知 / 生成 / 行动 三条线
- 多模态大模型 VLM / MLLMGPT-4o / Gemini 路线
- 双塔：CLIP · SigLIP · ALIGN
- 桥接：BLIP-2（Q-Former）· Flamingo（Perceiver Resampler）
- 统一 Decoder：LLaVA · Qwen-VL · GPT-4o · Gemini
- Any-to-Any：Unified-IO 2 · Chameleon
- 视觉生成 / 语音
- T2I：SD3 · Flux · DALL·E 3 · Midjourney
- T2V：Sora · Veo · Kling · Runway Gen-3
- ASR：Whisper · TTS：VALL-E · CosyVoice
- 具身智能 Embodied AI机器人 + LLM
- VLA（Vision-Language-Action）：RT-1 · RT-2 · PaLM-E · OpenVLA · π0（Physical Intelligence）
- Diffusion Policy扩散模型做机器人动作生成
- VLM + RL：Voyager（Minecraft）· Eureka（奖励设计）
- Sim2Real：Isaac Lab · MuJoCo · Genesis
- World Models 世界模型下一代方向
- JEPA / V-JEPA / I-JEPA（LeCun）· DreamerV3 · Genie · Sora 作为世界模拟器
- 游戏与 Agent 模拟
- AlphaGo → AlphaZero → MuZero · OpenAI Five · AlphaStar · VPT (Minecraft)
9. 模块七 · 混合与前沿架构
跨家族融合与新计算范式。追 SOTA 或探索新范式时的目的地。
融合与前沿
- MoE 混合专家大模型扩展主轴
- Switch Transformer · Mixtral 8×7B · DeepSeek-V3 / V2 · Grok
- MoE + Mamba：Swimba · Patch-MoE Mamba · Nemotron-3-Nano 30B（30B/3B 激活）· Soofi S 30B-A3B
- 量子神经网络 QCNN量子-经典混合
- 量子线路实现卷积 / 池化，2026 部署于 IBM 127-qubit
- Neuro-Symbolic 神经符号
- DeepProbLog · NeSy-GNN · AlphaGeometry / AlphaProof
- 扩散 + 语言 / 混合推理
- LLaDA（扩散语言模型）· Mercury Coder非 AR 语言生成新范式
- 神经形态硬件协同
- Loihi 2（Intel）· TrueNorth（IBM）· 天机芯 · SNN 专用芯片
10. 模块八 · 经典机器学习基线
深度学习的对照系。表格数据 / 小样本 / 强可解释场景的工业主力，用量不减。
经典基线
- 监督经典算法
- 线性 / 逻辑回归 · SVM · 决策树 · Random Forest · XGBoost / LightGBM / CatBoost表格数据 SOTA
- 概率图模型
- Naive Bayes · HMM · CRF · Bayesian Network · Gaussian Process
- 聚类与降维
- K-Means · DBSCAN · GMM · PCA · ICA · t-SNE · UMAP
- 集成与 Boosting
- AdaBoost · Gradient Boosting · Stacking / Blending
- 推荐系统专用
- 协同过滤 · FM / FFM · DeepFM · DIN / DIHN · 双塔召回 · PNN（多项式神经网络）
- 时序经典
- ARIMA · SARIMA · Prophet · 状态空间模型（KF / EKF / UKF，与 SSM 同源）
11. 模块关系图
八模块之间的依赖：底层支撑上层，上层反向调用底层；生成式与判别式在架构层正交；系统栈通过 RAG / Agent / VLM 反哺具身智能。
箭头方向：底层支撑上层；实线为依赖，彩色为反哺调用。
12. 演进时间线（1958 → 2026）
把上面的空间版图按时间摊开，可以更直观看到「哪些是骨干、哪些是当年爆发、哪些正在融合」。
1958Perceptron线性二分类，AI 第一次「硬件化」
1986Backprop / MLP反向传播让多层网络可训
1995–97SVM · Random Forest · LSTM统计学习与循环网络的两条腿
2012AlexNet深度学习复兴：CNN × ImageNet × GPU
2013–14VAE · GAN · Seq2Seq + Attention生成家族与端到端序列建模成型
2016AlphaGo · WaveNet强化学习破圈，语音生成突破
2017Transformer注意力成为新的「通用算子」
2018BERT · GPT-1 · Neural ODE预训练范式确立；连续动力学登场
2019PINN · GNN 大爆发科学计算与图数据同时起飞
2020DDPM · GPT-3 · Scaling Laws扩散 + 大模型 + 扩展律：三条主线定型
2021CLIP · LNN/CfC · NeRF · Codex多模态对齐 + 连续动力学 + 3D 隐式表示 + 代码智能
2022ChatGPT · Stable Diffusion · MAE · JEPARLHF 破圈，扩散模型进入生产，自监督视觉统一
2023Mamba · GPT-4 · LLaVA · GraphRAG · LoRA 普及线性长序列 + 多模态 + 私域问答 + PEFT 民主化
2024Sora · KAN · MCP · RT-2 · DPO · o1文生视频、工具协议、具身 VLA、无 RM 对齐、Test-Time Scaling 破圈
2025DeepSeek-V3 · Flow Matching 商用 · Agent 元年 · Diffusion Policy · VLAMoE 民主化，Agent 与机器人走向工程化
2026MoE + Mamba（Nemotron-Nano）· QCNN 部署 · π0 · V-JEPA-2 · Agentic RAG混合骨干成为默认，量子-经典混合与具身进入早期部署
13. 按任务场景速查
拿到具体问题时，先按场景找入口。以下推荐均为「第一选择」，效果不满意再回上一节按家族换。
表格 / 结构化业务
XGBoost / LightGBM → 不够再上 FT-Transformer
图像分类 / 检测
ConvNeXt / ViT → 端侧用 MobileNet / EfficientNet
同构图节点分类
GCN → GAT → Graph Transformer
异构图 / 知识图谱
TransE 基线 → HGT / CompGCN → GraphRAG（LLM 融合）
多变量时序预测
Crossformer → 长序列 Mamba → 有物理约束用 PINN
PDE 正反问题
数据稀缺 PINN；数据充足 FNO / DeepONet
超长上下文（>10 万 token / DNA）
Mamba / Jamba
3D 重建 / 新视角合成
NeRF → 3D Gaussian Splatting
语言生成 / 对话
AR Transformer → 30B 级换 MoE + Mamba → 对齐用 DPO
私域问答
Naive RAG → Advanced RAG → GraphRAG / Agentic RAG
复杂任务自动化
ReAct Agent → Multi-Agent（LangGraph / AutoGen）→ 接 MCP 工具
文生图 / 文生视频
SD3 / Flux（Flow Matching + DiT）→ 视频 Sora / Veo
机器人操控
Diffusion Policy → VLA（RT-2 / OpenVLA / π0）
推理增强
CoT → Self-Consistency → o1 / R1 风格 TTS
边缘低功耗
SNN + 神经形态芯片；或 INT4 + Speculative Decoding
隐私场景
联邦学习 FedAvg → 联邦持续学习
不规则时序 / 控制
Neural ODE / LNN / CfC
小样本新任务
In-Context Learning（LLM）→ MAML / Prototypical Net
可解释性要求高
线性 / Gaussian Process → SHAP / LIME 包装任意黑盒
14. 与本站案例库的联动
谱系图是地图，20 篇案例是实地。下表把「模块 / 场景」和本系列已经展开的具体案例对上，方便按需回读。
| 模块位置 | 本站案例 | 落地场景 |
|---|---|---|
| 模块一 · Transformer / GNN / Mamba | pr02 视频生成 · pr10 MiniMind | 骨架级"看得懂代码 + 跑得起" |
| 模块二 · 生成式（VAE / Diffusion / LoRA） | pr02 · pr11 压缩 | 图像/视频生成的原理与因子对照实验 |
| 模块三 · 强化 / 对齐 / 元学习 | pr04 Skill 蒸馏 · pr16 编排范式 | 把「跑对的通路」固化成可复用能力 |
| 模块四 · PEFT / 量化 / 投机解码 | pr11 · pr12 推理提速 · pr14 实证方法 | 模型工程与 2×2 因子实验 |
| 模块五 · Agent / RAG / MCP | pr03 五件套 · pr06 多智能体 · pr16 · pr20 | Agent 工程 + AI 原生架构 + RAG |
| 模块五 · 评测 / 测试 | pr05 测试 · pr08 度量 · pr09 失败分析 · pr17 SWE-bench | 无 Oracle 场景的蜕变测试 + LLM-judge + Kappa |
| 模块六 · 多模态 / VLA | pr18 多模态 QA 入口 | 截图 → 缺陷报告 |
| 模块七 · MoE / 混合骨干 | pr10 MiniMind · pr13 开源选型 | 选型时的能力 / 成本 / 合规三角 |
| 系统级 · 版本 / CI / 观测 | pr15 版本管理 · pr04 数据治理 | 把「组件 + 数据 + Prompt」纳入工程闭环 |
| 安全与合规 | pr07 Prompt 注入攻防 · pr13 合规与伦理 | 致命三角与红线 |
15. 参考与延伸
- Mamba：Gu & Dao, Transformers are SSMs（arXiv:2312.00752）。
- PINN：Raissi, Perdikaris & Karniadakis, Journal of Computational Physics 2019。
- KAN：Liu et al., Kolmogorov-Arnold Networks（arXiv:2404.19756）。
- GraphRAG：Microsoft Research, 2024。
- MCP：Anthropic, Model Context Protocol，2024。
- VLA / RT-2：Google DeepMind, 2023。
- Test-Time Scaling：OpenAI o1 系列技术报告与后续 arXiv 2025 复现工作。
- 本站对应案例：案例库 · 多智能体（pr02–pr20） · pr03 Agent 五件套 · pr05 智能软件测试 · pr20 AI 原生架构 + RAG。
「地图不是疆域」——谱系图会过时，具体论文会更新，但四层八模块的空间结构在可预见未来仍然稳定。遇到具体技术选型时，请以官方博客与最新论文为准；本图主要提供「先看森林」的定位能力。