sous-labs/songe
机器学习在本地模型与编码 Agent 之间记录交互、利用空闲算力微调模型的训练引擎。
项目介绍
Songe 位于编码 Agent 与你本地部署的模型之间,记录模型每次动作之后发生的事情:工具返回结果、报错、你随后的消息。当 Agent 安静下来时,它把这些片段转成训练材料,让本地模型学会预判这些结果。适合通过 opencode、pi 等 OpenAI 兼容工具使用本地模型的人。
学习分两种。Quick Dream 把你提出或表现出的偏好写入模型指令,几分钟即可完成;Deep Dream 用记录下来的经验生成练习场景,在模型上训练一个小适配器,以原模型为教师、只看到场景的适配器模型为学生(on-policy distillation)。新版本只有在你反应过的那些时刻明显做得更好时才会被采用,旧版本可以回退。
快速使用
需要 Python 3.11+,以及 uv 或 pipx 之一、一个本地模型服务和一个 Agent。以工具方式安装:
uv tool install songe # 或: pipx install songe
songe init
macOS 上使用 Homebrew 则依次执行 brew tap sous-labs/tap、brew trust sous-labs/tap、brew install songe、songe init。
songe init 会找到你的模型服务和 Agent,列出将要做的改动(数据目录、后台服务、opencode 与 pi 的 provider 条目),确认一次后生效。之后在 Agent 里选择 songe/… 模型照常工作,Agent 空闲时开始学习。用 songe open 打开仪表盘,songe sleep 可立即启动一次 Deep Dream。
使用约束
模型服务支持 LM Studio、vLLM、Ollama、llama.cpp 和 mlx-lm,端到端测试覆盖 macOS 上的 LM Studio 和 Linux 上的 vLLM。训练需要 Apple Silicon(MLX)或 NVIDIA/AMD(PyTorch);没有 GPU 的机器仍可提供服务和记录,但不会训练。pip install songe 只能在虚拟环境中使用。
安装会写入 ~/Library/Application Support/songe、$XDG_DATA_HOME/songe 或 %LOCALAPPDATA%\songe 下的数据目录,在 LM Studio 模型目录中建立 songe/ 文件夹,向 opencode 和 pi 各加一个 provider 条目并保留备份,并注册开机自启的后台服务。songe forget 删除已记录的对话但保留学到的版本;songe uninstall 停止服务并还原 Agent 设置,加 --purge 还会删除数据和学习版本。项目使用 Apache-2.0 许可证。
HotRepo 点评
仓库很新:创建于 2026-11-20,次日记录到约 107 星、15 个 fork,新项目榜快照显示 2026-11-21 的一个小时窗口内新增 7 星。序列太短,尚不足以判断持续热度。更值得关注的是设计取向:数据留在本机、不直接用真实对话训练、新适配器要通过对比检查才启用,这些正好对应了在单机上一边工作一边微调时最实际的问题。
许可证
Apache-2.0。
本文由 AI 根据项目公开资料和 HotRepo 的记录撰写,更新于 ,以项目官方文档为准。
相关推荐
- MakazhanAlpamys/Soup用一份 YAML 完成 LLM 微调与后训练的命令行工具,含低显存层流式训练。
- unslothai/unsloth一个在本地运行和微调大模型与扩散模型的桌面应用,适合想在自有显卡上训练模型的人。
- ml-explore/mlx面向 Apple 芯片的 NumPy 风格数组框架,用惰性执行和统一内存来训练、运行模型。
- pytorch/torchtitan面向大规模生成式模型预训练、微调与强化学习的 PyTorch 原生训练平台,适合研究者和训练工程师。
- AlexsJones/llmfit检测本机 CPU、内存和 GPU,再对数百个量化 LLM 排序,告诉你哪些模型真的跑得动。