p-e-w / heretic

∴ 是什么

Heretic 是一个用 Python 编写的工具，通过数学技术对比示例提示和匹配评分器来引导模型行为，无需训练。它由可插拔的修饰器、基于 Optuna 的 TPE 超参数优化器以及评分器插件组成。默认执行审查移除（拒绝抑制），也支持减少 slop、幽默、谄媚等。

∴ 解决什么问题

• ›通常只有拥有大规模算力的公司才能修改语言模型，Heretic 让普通用户也能在个人电脑上修改模型
• ›需要移除模型审查或拒绝机制，而不进行昂贵训练
• ›需要减少模型输出中的 slop、幽默、谄媚或改变情感对齐

∴ 怎么上手

1. 01准备 Python 3.10+ 环境并安装适配硬件的 PyTorch 2.6+
2. 02运行 pip install -U heretic-llm
3. 03运行 heretic Qwen/Qwen3-4B-Instruct-2507，将模型名替换为要处理的模型
4. 04如需其他操作，选择对应配置文件或编写自己的配置

∴ 适合谁

适合想在本地硬件上修改语言模型行为的开发者或研究人员，无需深入理解模型内部原理

∴ 要点

• ›支持多种稠密模型、多模态模型、MoE 架构和混合模型
• ›支持通过 bitsandbytes 进行 4-bit 量化，减少 VRAM 占用
• ›提供 Arbitrary-Rank Ablation (ARA) 和 Directional ablation（abliteration）两种修饰器
• ›可创建可复现模型，包含 reproduce.json 清单，可自动复现
• ›支持编写自定义评分器插件和修饰器插件
• ›许可证为 AGPL-3.0

∴ 在榜记录

GitHub Trending 今日榜的每日存档，日期按北京时间。2026-11-02 首次上榜，累计在榜 1 天，最高第 15 名。