不要想的太过复杂，就只有随机数生成的三个矩阵，原始输入已经通过矩阵相乘关联在三个随机数矩阵中，再通过一些代数游戏得到每个token对于整体输入序列的注意力权重矩阵，再和另外一个随机数矩阵进行线性的代数变化即可。
反向传播更新的是这三个矩阵的权重，三个矩阵的维度设计也是为了符合线性代数的运算。
总之这个就是一个巧妙的线性代数游戏，没有什么复杂的逻辑问题。
。
代码：
如何看待小米yu7 3分钟大定破20w辆?
三只羊是不是被人做局了？
豆包推出 AI 编程，在「编辑模式」下可以直接前端改图和文字，体验如何？对行业会带来怎样的影响？
有哪些小众的开源项目养活了一大批人?
Macmini m4性能这么强，功耗又低，为什么不用来挖矿呢？
有没有宝塔平替的服务器管理面板，现在宝塔越来越贵了，也太臃肿了？
为什么go和rust语言都舍弃了继承？
独立开发***能盈利吗？感觉好累...
你在出租房屋发现过什么前租客留下的“宝藏”？
姐妹们穿裙子露出安全裤打底裤会害羞吗?
不限制语言，客户端GUI开发用什么好？
羽毛球的最本质实力差距是什么？
.net8 AOT技术成熟后能否彻底取代Golang？
2025 年 9 月 3 日天安门大阅兵，中国将对外释放出什么信号？
有哪些看似聪明，实则很傻的行为？
哪张照片让你觉得刘亦菲美得不可方物？
cursor编程工具能在国内正常使用吗？
去海边有什么拍照和穿搭建议？
波风水门的实力是否被高估？
程序员从幼稚到成熟的标志是什么？
***拍大尺度片子时摄影师不会看光吗？
图形用户界面GUI最早能什么时候出现？
***如你财务自由，是买一个大平层还是买一个大别墅？
现在个人博客不能备案了吗？
你见过最烂代码是什么?
怎样实现redis分布式锁？
为什么IPS很刺眼，尤其是看网页的白色部分，而VA光线很柔和，看久了眼睛不痛头不晕？
导师给了1.4W要我给工作室买个主机，是整机还是自己配？
有哪些是你用上了mac才知道的事？
Vue性能优于React，那为什么还不用Vue？
