当前位置:当前位置: 首页 >
为什么我还是无法理解transformer?
人气:发表时间:2025-06-24 22:05:17
不要想的太过复杂,就只有随机数生成的三个矩阵,原始输入已经通过矩阵相乘关联在三个随机数矩阵中,再通过一些代数游戏得到每个token对于整体输入序列的注意力权重矩阵,再和另外一个随机数矩阵进行线性的代数变化即可。
反向传播更新的是这三个矩阵的权重,三个矩阵的维度设计也是为了符合线性代数的运算。
总之这个就是一个巧妙的线性代数游戏,没有什么复杂的逻辑问题。
。
同类文章排行
- 巴基斯坦援助伊朗防空,大家怎么看?
- 女朋友送的switch被亲戚要求送小孩我该怎么办?
- 三只羊是不是被人做局了?
- 装了飞牛NAS,除了存资料看电影还能干什么?
- 鱼缸能不能做到一直不换水还很清澈?
- 鱼缸过滤全天开着太耗电,关掉半天又容易水浑,有什么好办法?
- 到底是时代选择了Nvidia,还是Nvidia选择了时代?
- 程序员空闲时间应该继续卷技术,还是找其他副业?
- 被执行人欠我26万,一次性付清20w和解,我该同意吗?
- Golang 的 Web 框架该怎么选择?Web 开发又该怎样学?
最新资讯文章
- 有没有好用的本地***去水印免费软件?
- 空输部队为全斗焕干了这么多脏活累活,士兵有没有什么优待?
- graalvm为啥国内没有流行起来,go写起来实在太恶心了,难道任凭go独霸云原生?
- 为什么长得漂亮却没什么用?
- 2025年,笔记软件又如何选择?
- 关于显示器分屏问题,搞不定了,求教?
- 如何看待机器之心重测高考数学全卷,Gemini夺冠,豆包DeepSeek并列第二?
- 前端是不是快没了?
- 商城里如何缓存商品信息?
- DF-41已经可以打击美国本土,这是否相当于古巴导弹危机常态化?
- 如何评价《酱园弄》里各位主演的演技?
- Rust 的设计缺陷是什么?
- 初三画成这样算是有天赋吗?【正经求助】?
- 王健林再卖 48 座万达广场,会对万达集团带来哪些影响?目前万达面临怎样的困境?
- 中国的歼35A可以吊打十架韩国的KF21吗?
- 有哪些是你用上了mac才知道的事?
- 你最真实(很少吐露)的择偶标准是什么?
- 有没有免费的NAS系统推荐一下?
- 家用小型服务器用什么系统比较好呢?
- NAS将来会被什么产品取代?