metal-optimize1次安装
指导 Metal 后端的 kernel 开发、算子融合、运行时调度和性能诊断。
指导编程助手完成 MNN 推理引擎的开发:新增算子和模型、修复问题,以及优化 CPU、GPU 和 NPU 后端。
指导 Metal 后端的 kernel 开发、算子融合、运行时调度和性能诊断。
帮助优化 Vulkan kernel、适配新特性,并在多种手机 GPU 上验证结果。
按步骤为 MNN 新增算子,从定义、形状计算到后端实现和单元测试。
按症状分类排查 MNN 的正确性和回归问题,涵盖内存、量化、线程、GPU 和缓存。
帮你找到 ARM、x86_64 或 RISC-V 的 CPU 后端指南,用于提速或编写 kernel。
指导用 SIMD 和汇编编写或移植 CPU kernel,完成注册并跨指令集验证正确性。
诊断 CPU 上算子或大模型运行慢的原因,定位瓶颈在哪一层。
帮助优化、重构和测试 Hexagon DSP 后端,包括真机性能分析和崩溃排查。
帮助优化 OpenCL kernel、适配新特性,并在 Android 真机上验证结果。
排查 QNN NPU 的报错、精度和性能问题,并指导新增算子适配。
在复杂任务结束后,总结调试和试错中的经验教训,方便以后复用。
按步骤为 MNN 添加新的大语言模型,从下载分析到导出和对齐测试。
在主机或真机上运行 MNN 测试和 CI,并在 Android 或 iOS 设备上测大模型性能。