为什么我还是无法理解transformer？
- 发表时间：2025-06-25 15:45:18
- 来源：
不要想的太过复杂，就只有随机数生成的三个矩阵，原始输入已经通过矩阵相乘关联在三个随机数矩阵中，再通过一些代数游戏得到每个token对于整体输入序列的注意力权重矩阵，再和另外一个随机数矩阵进行线性的代数变化即可。
反向传播更新的是这三个矩阵的权重，三个矩阵的维度设计也是为了符合线性代数的运算。
总之这个就是一个巧妙的线性代数游戏，没有什么复杂的逻辑问题。
。
推荐资讯
- 2025-06-20 23:10:16小米发布了 REDMI 首款旗舰小平板 K Pad，仅 8.8 英寸，小巧便携，如何评价这一设计？
- 2025-06-20 23:25:16世界上哪款战斗机最好看？
- 2025-06-20 23:50:16为什么不用rust重写Nginx？
- 2025-06-21 00:00:18为什么面对 Adobe 的版权要求下，vposy 大神还能从容不迫？
- 2025-06-20 23:50:16如何部署Prometheus监控K8S？
- 2025-06-20 22:40:16如何看待「苏超」赞助商1个月增加超200%，达到中超2倍？
- 2025-06-20 23:15:16苹果从 2026 年发布的 macOS 27 起不再兼容任何 Intel Macs，这背后原因有哪些？
- 2025-06-20 23:45:16网络小白如何建立一个网站，供别人下载文件（主要是PDF和MP3）?
- 2025-06-20 23:55:17《欢天喜地七仙女》中 「仙女下嫁凡人」 的设定，在今天是否过时？
- 2025-06-20 23:25:16鸿蒙折叠屏笔记本为什么敢卖26999？
推荐产品
-
周杰伦为什么不告粥饼伦黑伦侵犯他的名誉权?
关于粥饼伦、黑伦等模仿者，周杰伦本人去年曾经公开回应过，他的 -
如何看待 Rust 的应用前景？
Rust对C++的威胁不威胁先放在一边，rustdoc文档功 -
ant-design-vue 社区为什么不维护了？
社区用爱发电很难，除非作者弄这个是爱好。 有其它业务是赚钱的 -
为什么人类没有发现（公开）外星人？
我看过B站上，很多关于张祥前的***。 对他提出的光速飞船
新闻动态
最新资讯