Zane Jiang
My notebooks & blog
近期发布
分类
标签:GQA
归档
MHA、MQA、GQA 从头推导
先固定一组参数。我们用它把单头 Attention、多头、KV Cache 和分组共享完整算一遍。
2026-11-05
算子优化