全部技能
perf-torch-sync-free
找出并消除 PyTorch 代码中拖慢 GPU 的主机与设备同步点。
- 属于 NVIDIA/TensorRT-LLM
- 15次安装
- 机器学习 · GPU 加速
更多GPU 加速技能
看全部同一个包里还有
- perf-nsight-systems41运行 Nsight Systems 分析并解读时间线报告,找出 GPU 空闲时间和 NCCL 重叠问题。
- perf-nsight-compute-analysis37解读 Nsight Compute 报告,从 SOL、roofline、占用率、内存和 warp 停顿角度归类瓶颈。
- kernel-triton-writing27编写并验证 OpenAI Triton 内核,如融合逐元素、归约、分块 GEMM 和注意力。
- perf-optimization18将性能工作分派给合适的专项技能,并按安全顺序应用优化或内核改动。