搜索你想找的开源项目

输入名称、用途或关键词,也可粘贴 GitHub 仓库链接
全部技能

inference-serving-tensorrt-llm

在 NVIDIA GPU 上用 TensorRT 优化大模型推理,实现高吞吐和低延迟。