🎛️

GPUDirect 介绍

背景

Tensor Core 是一个专门用于进行矩阵乘法的模块,它在GPU的部分核心里。由于它计算速度远超于数据的读取,所以英伟达(NVIDIA)采用这个技术,将 存储 到 GPU、GPU 到 网卡、GPU 到 GPU 的数据传输增加了不用的处理优化。
notion image
GitHub