不要想的太过复杂，就只有随机数生成的三个矩阵，原始输入已经通过矩阵相乘关联在三个随机数矩阵中，再通过一些代数游戏得到每个token对于整体输入序列的注意力权重矩阵，再和另外一个随机数矩阵进行线性的代数变化即可。
反向传播更新的是这三个矩阵的权重，三个矩阵的维度设计也是为了符合线性代数的运算。
总之这个就是一个巧妙的线性代数游戏，没有什么复杂的逻辑问题。
。
{dede:pagebreak/}
未来几年，市场对 AI 人才的需求会集中在哪几个方向？ 
如果你是荔枝使，如何在十天内让杨贵妃吃上新鲜荔枝? 
四盘家用nas，装了一块3T，一块4T，一块8T，一块16T机械硬盘，不再买新盘，该怎样组RAID？ 
***拍大尺度片子时摄影师不会看光吗？ 
为什么最低薪资在国内很罕见，却在日本很常见？ 
你是在什么时候认识到自己好看的？ 
为什么牛吃素可以长那么壮？而人不吃荤就不行？ 
如何看待 Mac mini M4 支持可更换 SSD？ 
如果SSD硬盘闲置很多年，内部数据会不会丢失？ 
现在工作中k8s是使用containerd还是docker来管理容器? 
如果让你设计攻打台湾地区，你会有什么好的想法和打法？ 
考上公务员后，却发现不是自己想要的生活，该辞职吗？ 
为什么 mac mini 的 m4 版本价格这么低呢？ 
国内为什么那么多人黑 WordPress ？ 
做网页开发时，允许用户输入url图片地址来作为自己的头像有什么风险？ 
正常人吃治疗抑郁症的药会变快乐吗？ 
