返回课程列表
Day 19
Week 3深度学习基础

Transformer 架构

20 分钟安排: 1. 5 分钟:理解注意力机制 2. 10 分钟:学习 Transformer 架构 3. 5 分钟:了解 BERT 和 GPT

🎯学习目标

  • 1理解注意力机制
  • 2掌握 Transformer 架构
  • 3了解 BERT 和 GPT

💡核心概念

注意力机制:关注重要信息Transformer:基于注意力的架构BERT:双向编码器GPT:生成式预训练模型

🛠实战提示

使用预训练的 Transformer 模型

20 分钟安排

1. 5 分钟:
2. 10 分钟:
3. 5 分钟:

📚学习资源

📝学习笔记

还没有笔记,开始记录你的学习心得吧