不要想的太过复杂，就只有随机数生成的三个矩阵，原始输入已经通过矩阵相乘关联在三个随机数矩阵中，再通过一些代数游戏得到每个token对于整体输入序列的注意力权重矩阵，再和另外一个随机数矩阵进行线性的代数变化即可。
反向传播更新的是这三个矩阵的权重，三个矩阵的维度设计也是为了符合线性代数的运算。
总之这个就是一个巧妙的线性代数游戏，没有什么复杂的逻辑问题。
。
{dede:pagebreak/}
很好奇，组NAS的玩家是如何解决上传速率的问题? 
和异性最疯狂有多疯狂？ 
“哨兵模式”涉嫌泄密，你支持封杀特斯拉吗？ 
英特尔的衰落，是因为真正做事的工程师被挖了？还是公司战略出问题？ 
如何评价张靓颖刘宇宁《九万字》? 
字节跳动技术副总裁开源了自己与Trae合作的首个项目，如何评价目前AI开发的水平？ 
周杰伦为什么不告粥饼伦黑伦侵犯他的名誉权? 
机械硬盘2025年是什么行情？ 
我想不通，类似东方树叶这种毫无技术也没什么添加剂的茶叶水，是怎么敢卖5块的？？？ 
Android为什么不直接执行Linux的程序？而是自己搞一套？ 
两个人在一起很合适是什么样的感觉？ 
count(*) count(1)哪个更快？ 
真的没有人觉得2k是一个很尴尬的分辨率吗？ 
怎么评价国内AI企业人肉背15块80TB硬盘，飞去马来西亚用英伟达训练数据，以规避美国禁令? 
为什么 Windows 的兼容性这么强大，到底用了什么技术？ 
请问一下图中***的名字，谢啦？ 
