esc
搜索你想找的开源项目
输入名称、用途或关键词,也可粘贴 GitHub 仓库链接
HotRepo
搜索
热榜
分类
Skills
刊物
专题
月报
周刊
Star 历史
MCP
EN
/
中
登录
账户
全部技能
P
vllm
用 vLLM 部署并提供兼容 OpenAI 的模型接口,支持工具调用。
属于
Prism-Shadow/penguin-harness
2次安装
机器学习 · 推理服务
更多推理服务技能
看全部
N
serving-llms-vllm
66
以高吞吐量部署大语言模型,提供兼容 OpenAI 的接口并支持量化。
出自 NousResearch
N
tensorrt-llm
21
在 NVIDIA GPU 上以高吞吐量运行大语言模型推理。
出自 NousResearch
N
perf-optimization
18
将性能工作分派给合适的专项技能,并按安全顺序应用优化或内核改动。
出自 NVIDIA
S
inference-optimisation
16
测量并优化本地大模型的运行速度,逐项测试改动并记录结果。
出自 sybil-solutions
同一个包里还有
P
humanizer
2
改写或编辑任意语言的文字,使其读起来像人工编辑过的文章,而非 AI 默认输出。
P
ollama
2
用 Ollama 部署和运行本地模型,并向应用和智能体提供兼容 OpenAI 的接口。
P
agent-evaluation
1
让一个测试智能体在一条基准用例上运行一次,私下评分并返回一条协议结果。
P
agent-optimization
1
利用固定基准上的版本化评分和关联记录来改进智能体状态。
看整个包的 47 个技能
反馈与建议
×
问题反馈
功能建议
数据纠错
具体内容
0 / 3000
联系方式
(选填)
提交