大模型核心原理与架构

学习目标

• 掌握Transformer架构的核心组件：编码器-解码器结构与位置编码
• 理解自注意力机制如何实现长距离依赖捕获与并行计算
• 认识大语言模型涌现能力及其临界阈值现象

课程小节

• 1.1 Transformer架构：自注意力机制的革命
• 1.2 自注意力机制：Query-Key-Value的计算逻辑
• 1.3 大模型涌现能力：参数量突破后的质变现象
• 1.4 模型缩放定律与训练策略（进阶）