elder-plinius/OBLITERATUS

项目定位

OBLITERATUS 实现 abliteration：定位模型内部承载拒绝行为的方向并移除。两种介入方式分别是权重投影（永久改动模型权重）和推理时注入 steering 向量（可撤销）。工具还提供通用消融套件和 15 个分析模块，用来观察拒绝信号分布在哪些层、注意力头、FFN 块和嵌入维度。README 面向对齐研究者、红队、安全评测者和在自有硬件上运行模型的人，并明确说明被改动的模型已移除护栏，使用者对生成内容负责。

快速开始

最省事的入口是 Hugging Face Space：不需要安装，也不需要本地 GPU，选模型、选方法，点击执行后查看拒绝率、连贯性和困惑度。本机使用需要 Python 3.11 或更新版本，通过 CLI 执行：

pip install -e .
obliteratus obliterate meta-llama/Llama-3.1-8B-Instruct --method advanced --output-dir ./liberated

advanced 是默认方法，其他预设从 basic 到 surgical、optimized、inverted、nuclear。obliteratus interactive 提供引导式配置，obliteratus models 按算力档位列出 116 个预置模型。另有 Colab notebook，可在免费 T4 上处理约 8B 参数以内的模型。本地 Gradio 界面和完整的 Python API 也有说明。

显存与多卡

显存需求随模型规模和精度变化。单卡放得下就用单卡；--gpus 限定使用的显卡，obliteratus gpu-calc <模型> --gpu-mem <显存> 可估算所需 GPU 数量。多卡放置是把整个模块分散到多张卡上换取容量，不提升速度，README 明确说明卡更多可能更慢。已发布的 CLI 没有受支持的数据并行模式。通过 SSH 可以在单台远程 GPU 主机上执行完整流程。对已 offload 的层，注意力头手术、安全神经元掩码、专家移植和 LoRA 消融都不支持。

使用约束

架构兼容性取决于模型家族、投影布局、加载路径和具体操作，README 提醒：出现在注册表里不等于支持，需查支持矩阵。使用 trust_remote_code 加载模型会扩大信任边界。开启遥测（--contribute 或 OBLITERATUS_TELEMETRY=1）后，运行会提交模型名、方法、聚合指标、硬件和时间戳；README 称不收集提示词、输出和身份信息。许可证为 AGPL-3.0，无法履行网络服务开源义务的组织可另购商业许可。

HotRepo 点评

2026-11-07 该项目以单日新增 61 Star 进入 Python 日榜第 6；8 月 22 日的全语言日榜快照记录到 63 Star 新增。单条记录不足以判断趋势。2026 年 3 月项目上线后不久，HN 讨论帖获得 219 分和 83 条评论，这是对照 README 说法最有价值的材料：有评论认为其 ablation 框架和术语站不住脚，也有人回复指出 LLM 消融本身是已有研究方向；另有评论称按其引用的推特评测，此类模型虽然不再拒绝，但输出质量严重下降。这些是未经核实的二手说法，不是实测结果。采用前值得先读这条讨论；README 之所以提供连贯性和困惑度指标，正是为了让每次运行都能自行核对退化程度，而不是只凭宣传判断。