esc
搜索你想找的开源项目
输入名称、用途或关键词,也可粘贴 GitHub 仓库链接
HotRepo
搜索
热榜
分类
Skills
刊物
专题
月报
周刊
Star 历史
MCP
EN
/
中
登录
账户
全部技能
B
kv-cache-design
通过保持 KV Cache 不失效、避免破坏缓存的上下文写法,加快推理并降低成本。
属于
bojieli/ai-agent-book
机器学习 · 推理服务
更多推理服务技能
看全部
N
serving-llms-vllm
66
以高吞吐量部署大语言模型,提供兼容 OpenAI 的接口并支持量化。
出自 NousResearch
N
tensorrt-llm
21
在 NVIDIA GPU 上以高吞吐量运行大语言模型推理。
出自 NousResearch
N
perf-optimization
18
将性能工作分派给合适的专项技能,并按安全顺序应用优化或内核改动。
出自 NVIDIA
S
inference-optimisation
16
测量并优化本地大模型的运行速度,逐项测试改动并记录结果。
出自 sybil-solutions
同一个包里还有
B
ai-style
16
按清单检查中文文案,去掉机器写作的“AI 味”。
B
pptx
14
从论文、大纲或结构化文本生成 PowerPoint 演示文稿。
B
data_analysis
4
对已确认的数据执行可审计的数学计算和描述统计。
B
coding
3
编写并运行 Python 代码,验证脚本逻辑和输出是否正确。
看整个包的 30 个技能
反馈与建议
×
问题反馈
功能建议
数据纠错
具体内容
0 / 3000
联系方式
(选填)
提交