入门

CUDA 入门

一题一个机制,从第一个 kernel 写到分块矩阵乘,先把 CUDA 写对。

T4

还没有开放的关卡。

第 1 篇 写对

线程与索引

  • 1越界保护开发中
  • 2线程块开发中
  • 3ReLU开发中
  • 4Leaky ReLU开发中
  • 5一维卷积开发中

二维线程网格

  • 6二维映射开发中
  • 7二维线程块开发中
  • 8矩阵加法开发中
  • 9每行加偏置开发中

共享内存与同步

  • 10块内反转开发中
  • 11池化开发中
  • 12共享内存一维卷积开发中

块内归约与扫描

  • 13块内求和开发中
  • 14块内前缀和开发中
  • 15按行求和开发中
  • 16RMSNorm开发中

跨块协作

  • 17数组最大值开发中
  • 18跨块前缀和开发中

矩阵乘

  • 19朴素矩阵乘开发中
  • 20分块矩阵乘开发中
  • 21非方阵矩阵乘开发中