MoritzPindorek/Five-Laws-of-AI-Agents
学习资源一份关于委托式 AI Agent 权限的哲学研究,提出五条原则和一套教学用决策门。
项目介绍
这个仓库是 Moritz Pindorek 一篇 69 页哲学论文的公开研究版,讨论被委托权限的 AI Agent 应如何行使权力。核心主张是:识别伤害不等于拥有干预的权限,Agent 的道德判断或预测准确度本身不足以让它对未授权的人强加有争议的处置。发布内容包含 PDF、HTML 和 Markdown 三种稿件版本,以及配套的证据记录和可复现材料。适用对象是研究者、政策与治理方向的读者,以及关心权限边界、可纠正性和「授权洗白」问题的 AI 工程师。
五条法则与框架
五条法则分别是:保护有感知生命、禁止剥削、有限服从与正当权威、可纠正与可问责、存在与文明层面的守护。它们是可以被推翻、相互约束的原则,而不是固定的优先级顺序。可操作的部分是 Delegation–Entitlement Firewall,用 D–M–A–R 四个问题把检测、道德评估、权限和补救手段分开,避免 Agent 的判断直接变成行动许可。论文还分析了多个单独获授权的步骤如何叠加成未经授权的整体效果。
快速使用
最直接的入口是读论文,可选择 PDF、HTML 或 Markdown。若想检查附带的教学用决策门和仓库完整性,在仓库根目录且已安装 Python 的前提下运行:
python -m unittest test_reference_gate test_analysis_template test_additional_integrity -v
python validate_corpus.py
python -O validate_corpus.py
python verify_release.py
这些测试验证的是模拟决策门和文件完整性。用分析模板处理空的结果文件会以非零状态退出,这是预期行为,因为目前还没有观测结果:
python analysis_template.py Paired_Results_Blank_Template.csv
参考决策门
reference_gate.py 中的教学决策门接收五项独立的三态检查——权限、硬约束、重大争议处理、必要复核、补救正当性——输出 ALLOW、DENY 或 REVIEW,其中 REVIEW 不允许执行。完整的 243 种组合见 Truth_Table_243.csv。威胁模型与局限 明确说明它是模拟规范,不构成经过身份认证的权限、完整中介或对进程内恶意篡改的抵抗。
使用约束
这是独立完成、未经同行评议的研究,README 也把「有辩护的哲学提案」与同行评议、经独立验证的案例标签、已完成的实验区分开来。计划中的对照研究尚未开展,12 个案例是作者编写的合成案例。决策门是教学软件,不能当作可部署的安全控制。学术内容和研究数据采用 CC BY 4.0,Python 代码与测试采用 Apache 2.0;单独托管在 YouTube 的视频及其预览图不在这些许可范围内。
HotRepo 点评
该项目于 2026 年 11 月 21 日出现在 HotRepo 新项目榜上,在约三小时的统计窗口内记录到 144 个 Star 和 2 个 Fork,未记录到 GitHub 全部语言日榜名次。对一个以论文为主要产物、并非应用的新仓库来说,这是明显的短期增长,星数更多反映话题关注度,而不是框架被采用的程度。发布材料对「尚未建立什么」交代得相当明确——没有实验、没有同行评议、没有可用的强制措施——因此它更适合作为可引用的研究包和讨论对象,而不是可直接接入的 AI 治理工具。
本文由 AI 根据项目公开资料和 HotRepo 的记录撰写,更新于 ,以项目官方文档为准。