当前位置:当前位置: 首页 >
为什么我还是无法理解transformer?
人气:发表时间:2025-06-24 22:35:16
不要想的太过复杂,就只有随机数生成的三个矩阵,原始输入已经通过矩阵相乘关联在三个随机数矩阵中,再通过一些代数游戏得到每个token对于整体输入序列的注意力权重矩阵,再和另外一个随机数矩阵进行线性的代数变化即可。
反向传播更新的是这三个矩阵的权重,三个矩阵的维度设计也是为了符合线性代数的运算。
总之这个就是一个巧妙的线性代数游戏,没有什么复杂的逻辑问题。
。
同类文章排行
- postgresql也很强大,为何在中国大陆,mysql成为主流,postgresql屈居二线呢?
- 你们能接受姐弟恋吗?
- 如何看待 Mac mini M4 支持可更换 SSD?
- 警犬知道自己是警犬么?
- 以色列是如何从三天前的不可一世要灭了伊朗到今天的哭哭啼啼要“为生存而战”的?
- 新买的移动硬盘该格式化为 NTFS 还是 exFAT?
- systemd吞并了什么?
- 北京日报点名批评“苏超”过度娱乐化的动机是什么?
- Gemini 2.5 Flash 和Pro稳定版上线,和之前版本相比,在性能和应用场景上有哪些提升?
- 世界上哪款战斗机最好看?
最新资讯文章
- 编程语言 MoonBit 发布 Beta 版,正式进入企业场景应用,会带来哪些影响?
- 伊朗这次让以色列打惨了,这个国家还能挺过来吗?
- 感觉鱼缸久了底下火山石里脏脏的,能彻底换水清理一遍不?
- 广东怀集遇历史最大洪水,约 30 万人受灾,积水最深处达 3 米,目前当地情况如何?
- 家里想搞一个服务器,怎么才不违规?
- 如何看待《捞女游戏》导演***辉B站账号遭封,是否遭到打击报复?
- 你的择偶标准是怎么样的?
- 现在的年轻人喜欢穿连裤袜吗?
- 我怎么觉得核动力航母比常规航母并没有多大优势?
- MiniMax Week第三天推出通用 Agent,体验如何?对行业会带来哪些影响?
- 利用爬虫技术能做到哪些很酷很有趣很有用的事情?
- 中国人口正经历前所未有大转折,如何看待中国人口负增长?应该怎样应对?
- 以色列为什么突然敢打伊朗了?不怕被报复?
- Golang与Rust哪个语言会是今后的主流?
- 如何看待抖音宝妈自学中医,肉蛋奶全忌,给孩子喂“古法米汤”,美名其曰“中医育儿”?
- 联想 128GB 超大内存迷你 AMD 主机上架,此款主机有哪些亮点?
- 长期使用的大佬来说说,MacOS 真的比 Windows 稳定吗?
- 国家电网不再全额收购可再生电力,光伏怎么生存啊?
- 你认为这次伊以冲突,以色列这次干得漂亮吗?
- 预测一下,下一次阅兵会出现什么武器震惊世界?