不要想的太过复杂，就只有随机数生成的三个矩阵，原始输入已经通过矩阵相乘关联在三个随机数矩阵中，再通过一些代数游戏得到每个token对于整体输入序列的注意力权重矩阵，再和另外一个随机数矩阵进行线性的代数变化即可。
反向传播更新的是这三个矩阵的权重，三个矩阵的维度设计也是为了符合线性代数的运算。
总之这个就是一个巧妙的线性代数游戏，没有什么复杂的逻辑问题。
。
代码：
如何评价黄霄云这个人？
如何评价杨立昆认为大模型只是对海量文本的模式进行复杂拟合，根本不懂意义？
MiniMax Week第三天推出通用 Agent，体验如何？对行业会带来哪些影响？
中华民国为什么会失败？
2025 年 9 月 3 日天安门大阅兵，中国将对外释放出什么信号？
请问这个型号的打印机应该安装什么打印机驱动？
J***aScript 已经强大到什么程度了？
公司就一个后端一个前端，有必要搞微服务吗？
哪个瞬间让你觉得编程只是一门技术？
茅台会在什么情况下崩盘?
在年轻时被公认为美女的女人，到了老了不美了，会不会感到失落？
公司规定所有接口都用 post 请求，这是为什么？
怎样实现redis分布式锁？
你怎么看待剪映收费过高问题？
有没有什么把APP制作成二维码的软件？
有个学舞蹈的女朋友是什么体验？
骑自行车会花费多少钱？
消息称三大运营商将于今年下半年全面重启eSIM，eSIM有哪些好处？为何此前暂停这一业务？
一个人山林徒步时都要关注哪些点？
为什么鲁迅认为中医是一种有意的或无意的骗子？
用K8s的公司有多少人会部署K8s？
如何看待***《临高启明》中，元老院即将发动的北伐战争？
如何看待2025年6月杨一清要搞DOTA2青训？
我国自主研发新一代 CPU 龙芯 3C6000 发布，不依赖国外授权技术和境外供应链，有何技术亮点？
你后悔买电子书阅读器吗？
你卡过最厉害的bug是什么？
可以随身携带一个Linux系统吗？
求大神解答，为什么大家都不喜欢用docker？
工程师离职，如果领导让你们把自己的技术教会一个人才能走，你们会教吗？
「人间尤物」型女主有多可爱？
