一步步指导你为 llama.cpp 添加新的模型架构。
全部技能
huawei-csl/MACaQ
帮助你用量化方式在本地运行文本、图像、视频和音频模型,支持 llama.cpp、vLLM、Diffusers 和 PyTorch。
- 3 个技能
- 112 Star
包里的技能
按项目约定在 UI 基础组件之上搭建应用组件。
在提交 PR 前,按项目规范和常见审查问题检查 llama.cpp 的改动。