[{"data":1,"prerenderedAt":-1},["ShallowReactive",2],{"$f3ddirionu8kb7":3},{"code":4,"message":5,"data":6,"timestamp":61},10000,"success",{"full_name":7,"position":8,"description":9,"language":10,"stars":11,"forks":12,"stars_gained":13,"age_days":14,"hn_threads":15,"one_liner":39,"summary_md":40,"topic":41,"github_topics":44,"license":52,"homepage":53,"updated_at":54,"history":55},"NVIDIA\u002Fcutlass",18,"CUDA Templates and Python DSLs for High-Performance Linear Algebra","C++",10654,2139,6,3251,[16,22,26,31,35],{"id":17,"title":18,"points":19,"comments":20,"posted_at":21},29171288,"3xTF32: FP32 accuracy with 2x Performance (on A100)",3,0,"2021-11-10",{"id":23,"title":24,"points":19,"comments":20,"posted_at":25},15927890,"Show HN: CUTLASS: Fast Linear Algebra in CUDA C++","2017-12-14",{"id":27,"title":28,"points":29,"comments":29,"posted_at":30},23616434,"A new, undocumented INT1 tensor core instruction in Nvidia Ampere",1,"2020-06-23",{"id":32,"title":33,"points":29,"comments":20,"posted_at":34},34514137,"CUTLASS 3.0 is now available","2023-01-25",{"id":36,"title":37,"points":29,"comments":20,"posted_at":38},21689222,"Cutlass 2.0, CUDA C++ template abstractions","2019-12-03","为 NVIDIA GPU 编写高性能 GEMM 与 Tensor Core 内核的 CUDA 模板与 Python DSL 库。","CUTLASS 是当 cuBLAS、cuDNN 的调用粒度不够细、你需要自己融合内核时，NVIDIA 提供的底层工具。它是专门工具：需要写 CUDA 级代码，而不是开箱即用的算子库。\n\n## 解决什么问题\n\n团队的训练或推理内核，其形状、数据类型或融合方式与库调用不匹配，时间花在数据搬运上，或者本可合成一次的内核被拆成多次启动。常见做法是手写 CUDA，这意味着从头搭建分块、共享内存暂存和流水线。CUTLASS 改变了这一步：你用它提供的抽象描述 GEMM（或相关线性代数运算），选择 tile 大小和数据类型，并在同一个内核里加上 epilogue。最终得到的是由可复用组件拼出的设备级内核，而不是一次性的 CUDA 实现。\n\n## 有什么不同\n\nCUTLASS 把一个 GEMM 拆成多级并行层次，把各个活动部件当作可组合的模块。较新的 CuTe 层把张量与线程的类型、形状、内存空间和布局封装成 `Layout` 和 `Tensor` 对象，索引由它计算而非手写；按作者说法，这能让程序员专注于算法的逻辑描述。CuTe 同时提供 Python DSL，这也是近期版本强调的方向：[4.8 版](https:\u002F\u002Fgithub.com\u002FNVIDIA\u002Fcutlass\u002Fblob\u002Fmain\u002FREADME.md)加入对 Rubin 架构（SM107）的初步支持，包括更高吞吐的 FP8、FP4 Tensor Core 指令、更大的共享内存与 TMEM 分配，以及 softmax 加速特性。\n\n代价是这种抽象并非通常意义下的稳定公共 API。每个版本都绑定特定架构和数据类型，新 GPU 的特性以预览形式出现——项目自己说 Rubin 的 Operator API 内核\"可能还需要额外性能调优\"。CuTe DSL 同样紧密耦合：如果你本就贴近硬件工作会很有用，若想找一层隐藏 GPU 代际差异的封装，则会觉得别扭。\n\n## 谁值得试\n\n适合已经写 CUDA、需要自定义融合 GEMM、量化或块缩放内核、或者库调用无法表达的 epilogue 的团队，前提是使用 NVIDIA 硬件且工具链较新。不适合只想从 PyTorch 调用矩阵乘法的人，也不适合无法把构建和测试环境放到 NVIDIA GPU 上的团队；需要 Windows 支持的人同样不适合：README 说明 CUTLASS 3.x 在 Windows 上针对所有 CUDA 工具链的构建已知不可用。\n\n## 使用条件与边界\n\n需要 C++17 主机编译器和 CUDA 11.4 及以上，README 称 CUDA 12.8 下表现最好。支持的 GPU 从 Volta（计算能力 7.0）开始，[硬件表](https:\u002F\u002Fgithub.com\u002FNVIDIA\u002Fcutlass\u002Fblob\u002Fmain\u002FREADME.md)列出 V100、TitanV、RTX 20 系列、T4、A100、A10 和 RTX 30 系列，并称预期在 Volta 到 Hopper 架构上保持效率。测试过的系统是 Ubuntu 18.04 到 22.04、GCC 7.5 到 11.2，并特别提示 GCC 8.5 有已知回归。维护成本不低：跟进 Rubin 这类新架构意味着让工具链、驱动和 CUTLASS 版本保持对齐，并把预览内核当作需要调优的候选，而不是直接替换品。需要为实际部署的各类 GPU 预留让内核持续可构建、性能达标的工作量。具体的[官方文档](https:\u002F\u002Fdocs.nvidia.com\u002Fcutlass\u002Findex.html)适合用来核对安装细节。\n\n## HotRepo 点评\n\nHotRepo 只有 2026-10-24 和 2026-10-25 两个日期观测，均为 10,652 星、当日 +6，因此无法据此判断热度是持续还是短期。这个 2017 年创建、已有相当装机量的仓库，更应看发布说明而不是趋势榜。采用前请确认所选 CUTLASS 版本文档中覆盖了你的 GPU 和 CUDA 工具链组合，并且目标架构的示例内核是当前可运行的代码。",{"slug":42,"name":43},"machine-learning","机器学习",[45,46,47,48,49,50,51],"cpp","cuda","deep-learning","deep-learning-library","gpu","nvidia","python","NOASSERTION","https:\u002F\u002Fdocs.nvidia.com\u002Fcutlass\u002Findex.html","2026-10-25T03:21:13Z",[56,59],{"date":57,"stars":58,"stars_gained":13},"2026-10-24",10652,{"date":60,"stars":11,"stars_gained":13},"2026-10-25",1792906215]