不要想的太过复杂，就只有随机数生成的三个矩阵，原始输入已经通过矩阵相乘关联在三个随机数矩阵中，再通过一些代数游戏得到每个token对于整体输入序列的注意力权重矩阵，再和另外一个随机数矩阵进行线性的代数变化即可。
反向传播更新的是这三个矩阵的权重，三个矩阵的维度设计也是为了符合线性代数的运算。
总之这个就是一个巧妙的线性代数游戏，没有什么复杂的逻辑问题。
。
{dede:pagebreak/}
为什么不允许用泥鳅在长江钓鱼？ 
为什么 macOS 并不差，可市场总敌不过 Windows？ 
评价一下Proxmox VE与ESXi的优劣？ 
我国的军工能力可以实现一天5000枚火箭弹连着炸三个月吗？ 
为什么小爱音箱只能播放qq音乐免费音乐? 
为什么有些老顾客吃着吃着就不再来照顾生意了？ 
黄金，今年会达到怎样的高度？ 
眼睛有飞蚊症可以自愈吗? 
赵露思***有多高啊？ 
mysql每天有1千万数据 怎么办?分表吗 有什么好的方案。? 
前端如何设计网页？ 
钱学森曾以党性担保人体特异功能是真的，钱老是真糊涂还是***糊涂？ 我国的军工能力可以实现一天5000枚火箭弹连着炸三个月吗？ 
为什么感觉腾讯的风评越来越好了？ 
JetBrains 放弃 AppCode 是否是一个错误决定？ 
有哪些值得推荐的小型 C 语言开源项目？ 
