当前位置:当前位置: 首页 >
为什么我还是无法理解transformer?
人气:发表时间:2025-06-25 04:55:14
不要想的太过复杂,就只有随机数生成的三个矩阵,原始输入已经通过矩阵相乘关联在三个随机数矩阵中,再通过一些代数游戏得到每个token对于整体输入序列的注意力权重矩阵,再和另外一个随机数矩阵进行线性的代数变化即可。
反向传播更新的是这三个矩阵的权重,三个矩阵的维度设计也是为了符合线性代数的运算。
总之这个就是一个巧妙的线性代数游戏,没有什么复杂的逻辑问题。
。
同类文章排行
- 2025 年 6 月,Rust 在 GUI 方面有何大的进展? 你最看好哪个框架?
- 如何评价腾讯元宝桌面端使用 Rust 的 Tauri 框架?
- 明星现实中真的很漂亮吗?
- 34 岁教授王虹在北京大学开数学讲座,她或将成为首位获得菲尔兹奖的中国籍数学家,有多厉害?
- 为什么很多司机不办 ETC?
- 电子信息工程的大学生可以参加的竞赛有哪些?有报名时间最好?
- 未过门的孙媳妇需要给男方爷爷出殡吗?
- 2025年小米su7 性价比很低了,为何还不更新改款?
- 鸿蒙折叠屏笔记本为什么敢卖26999?
- 为什么国外网站总喜欢弹出cookie访问权限弹窗,国内网站却没有,这么做有什么意义?
最新资讯文章
- 中小企业怎么实现数字化转型?
- 如何评价腾讯元宝桌面端使用 Rust 的 Tauri 框架?
- 为什么 macOS 并不差,可市场总敌不过 Windows?
- 以色列为什么要打伊朗?
- 有没有免费的语音转文字的软件?
- 游戏史上有哪些著名的平衡***故?
- go 有哪些成熟点的后台管理框架?
- 目前最具性价比的全栈路线是啥?
- 大部分语言都用尖括号<>表示泛型,为什么golang要标新立异用中括号?
- 科学怎么解释中医把脉孕检,并且知道怀的男孩女孩?
- 为什么国内连 Docker 镜像源都要封禁?
- 最好的笔记软件是什么?
- 如何评价首个女性友好的编程语言HerCode?
- 你卡过最厉害的bug是什么?
- 有什么好用的AI软件推荐吗?
- 前端失业后大家都在做什么?
- 怎么看待B站舞蹈区和某些风格比较暴露的up?
- Rust1.86才正式稳定trait的upcast,为什么在rust中这个特性实现如此复杂?
- 腾讯开源的 libco 号称千万级协程支持,那个共享栈模式原理是什么?
- 如何用 Git 实现自动化部署?