基于CXL的MOE冷专家计算卸载
暂不公开.
异构内存最佳放置的手动探索
暂不公开.
CUDA算子优化-GEMM
Tongkaio/CUDA_Kernel_Samples: CUDA 算子手撕与面试指南
CUDA算子优化-SoftMax
Tongkaio/CUDA_Kernel_Samples: CUDA 算子手撕与面试指南
CUDA算子优化-Reduce
本文是对官方reduce优化的精简，方便个人复习,详细回顾参考知乎深入浅出系列 leetGPU 问题解决 展示 reduce的7种优化 V0_0 naive跨步相加，非全局内存访问， 123456789101112131415161718__g...
GGML源码浅析(1) 基础数据结构、内存管理、后端管理
GGML 源码浅析（1）前言1.阅读路线 1.内存管理：不使用后端时（参见example/simple-ctx）介绍ggml中的重要数据结构以及内存管理 2.后端的设计逻辑 3.基于gpt-2学习模型构建过程中权重与kv-cache...
几种程序接口重定向、插桩方式比较
最近在实验中需要分析程序中的堆变量内存分配情况，一开始自己的实现是采用llvm IR Pass修改的方式，后来在OSDI的论文中发现相关的方法采用的是LD_PRELOAD的方式实现，一开始认为这种方法会更加简单，于是进行了实现，结果发现各有特点。 1...
论文中常见内存性能分析workloads
内存性能分析中workloads介绍、特点、使用
Qt源码阅读与设计模式
//todo