Llama.cpp源码浅析ggml 源码结构学习入口函数简单以llama.cli作为推理学习的入口。其入口函数main位置为：llama.cpp/tool/main.cpp/main() 关键数据结构内存管理Arena 分配器“批发内存，零售指针，整...

大模型基础概念入门Transformer自注意力（Self-Attention）Q\K\V Q：目前关系的问题，当前token; K:token的标签 V:包含的信息 Q*K得到谁更重要，之后再乘以V得到这些重要的人说了什么信息。 除以根号dk与so...