领域 05
训练与对齐
预训练、后训练、强化学习、偏好学习和蒸馏决定模型如何获得并修正能力与行为。
当前阶段
训练重点已经从单纯扩大预训练延伸到推理、工具使用、Agent 行为和可验证反馈。
核心概念
- 预训练
- SFT
- RLHF
- 偏好学习
- 蒸馏
相关领域
1 篇已发布内容
它解决什么问题
这一领域研究怎样让模型学会目标能力，并使行为更符合预期和约束。
技术栈位置
它位于数据、算力和模型之间，是把训练资源转化为模型行为的过程层。
与相邻领域的关系
数据决定学习材料，系统承载训练过程，模型保存训练结果。
近期应关注什么
关注可验证奖励、推理训练、工具使用训练、数据效率和对齐评测。
近期变化
尚无相关记录。
专题长文
- 从模型到应用：理解今天的 AI 技术栈
用八个纵向领域和四个横向视角，把模型、系统、Agent 与应用放回同一张技术地图。
横向视角
安全
- 从模型到应用：理解今天的 AI 技术栈
用八个纵向领域和四个横向视角，把模型、系统、Agent 与应用放回同一张技术地图。
评测
- 从模型到应用：理解今天的 AI 技术栈
用八个纵向领域和四个横向视角，把模型、系统、Agent 与应用放回同一张技术地图。
治理与合规
- 从模型到应用：理解今天的 AI 技术栈
用八个纵向领域和四个横向视角，把模型、系统、Agent 与应用放回同一张技术地图。
可观测性与经济性
- 从模型到应用：理解今天的 AI 技术栈
用八个纵向领域和四个横向视角，把模型、系统、Agent 与应用放回同一张技术地图。