GGML源码浅析
GGML 源码浅析前言1.本文学习逻辑 首先介绍仅采用本地推理,不使用后端时(参见example/simple-ctx)介绍ggml中的重要数据结构以及内存管理 之后介绍后端的设计逻辑 2.重点 1.关于ggml-context...
GGML 源码浅析前言1.本文学习逻辑 首先介绍仅采用本地推理,不使用后端时(参见example/simple-ctx)介绍ggml中的重要数据结构以及内存管理 之后介绍后端的设计逻辑 2.重点 1.关于ggml-context...
最近在实验中需要分析程序中的堆变量内存分配情况,一开始自己的实现是采用llvm IR Pass修改的方式,后来在OSDI的论文中发现相关的方法采用的是LD_PRELOAD的方式实现,一开始认为这种方法会更加简单,于是进行了实现,结果发现各有特点。 1...
内存性能分析中workloads介绍、特点、使用
//todo