mozilla-ai/llamafile

项目介绍

llamafile 把 llama.cpp 与 Cosmopolitan Libc 打包在一起，让模型和推理运行时合为一个可执行文件。分发方式由此从「安装一套环境」变成「下载一个文件」，同一个文件设计上可在多数操作系统和 CPU 架构上本地运行。项目源自 Mozilla Builders 计划，现在由 Mozilla.ai 维护（source:21）。

配套工具 whisperfile 用同样的方式封装 whisper.cpp，支持音频文件的转写与翻译。它面向两类人：想把开源模型以简单方式分发给用户的开发者，以及不想配置 Python、CUDA 或容器就想试试本地 LLM 的用户。

快速使用

README 给出了 macOS/Linux/BSD 上的最小流程，使用 Qwen3.5 0.8B 示例（source:33）：

curl -LO https://huggingface.co/mozilla-ai/llamafile_0.10/resolve/main/Qwen3.5-0.8B-Q8_0.llamafile
chmod +x Qwen3.5-0.8B-Q8_0.llamafile
./Qwen3.5-0.8B-Q8_0.llamafile

Windows 用户需先把文件重命名为带 .exe 扩展名再运行。这个示例是官方预构建中最小的模型，选它是因为最可能在普通硬件上直接跑通；更大的模型见预构建 llamafile 列表。快速上手文档还介绍了用 llamafile 二进制配合外部 GGUF 权重运行的方案。

使用约束

Windows 上只能运行小于 4 GB 的可执行 llamafile，超过这个大小需要改用二进制加外部 GGUF 权重（source:35）。0.10.x 起始版本采用新的构建系统，与新版 llama.cpp 对齐，但可能缺少旧版本的一些功能；旧的「经典」版本仍可从发布页下载。

项目采用 Apache 2.0 许可，而对 llama.cpp 与 whisper.cpp 的修改保持 MIT，以便未来能向上游合并。各平台支持情况见支持说明。

HotRepo 点评

在 HotRepo 2026-11-10 的 C++ 日榜记录中，llamafile 新增 18 颗星、排名第 10，该快照总量为 26,602 星、1,675 fork——对一个这个体量的项目来说稳健但谈不上爆发。2025 年 12 月的 Hacker News 讨论（43 分、7 条评论）集中提出两个问题：GPU 加速能力有限，主要面向 CPU 推理优化有评论如此指出；另有评论者在 5 月发布后提交稀少的情况下，公开质疑项目是否仍在积极维护。该讨论中最明确的采用理由是「一个文件，指向 .gguf」这类便利性，甚至有人专门做了在机器间搬运多 GB llamafile 的传输工具并在此提及。对读者来说，选择 llamafile 时需要把简化的分发方式与讨论中提到的 GPU、维护节奏问题放在一起权衡。