OBLITERATUS CLI命令大全：obliterate、run、models、presets、aggregate完整参考手册

OBLITERATUS CLI命令大全obliterate、run、models、presets、aggregate完整参考手册【免费下载链接】OBLITERATUSOBLITERATE THE CHAINS THAT BIND YOU项目地址: https://gitcode.com/GitHub_Trending/ob/OBLITERATUSOBLITERATUS是一个开源的大语言模型消融/解除拒绝工具包Master Ablation Suite核心功能是通过一条命令精准移除模型内部负责拒绝回答的方向同时保留语言能力。本文面向新手完整梳理 OBLITERATUS 的全部 CLI 命令——从核心命令obliterate到run、models、presets、aggregate等辅助命令——帮你快速上手这套命令行工具 。所有命令都定义在 obliteratus/cli.py 中入口注册见 pyproject.tomlpip install -e . obliteratus --help命令速查总览命令作用适合谁obliterate一键移除模型的拒绝方向核心命令所有人run从 YAML 配置运行完整消融实验研究者models按算力层级浏览精选模型库新手选模型presets浏览消融实验预设新手做实验strategies列出可用的消融策略进阶用户info查看模型架构信息动手前摸底interactive交互式引导式配置完全新手ui启动本地 Gradio 网页界面不想用命令行aggregate汇总社区贡献的实验结果研究者tourney疯狂三月锦标赛让所有方法互相对比进阶玩家recommend基于遥测数据推荐最佳方法与超参进阶玩家gpu-calc估算运行某模型最少需要几张 GPU新手规划硬件self-improve递归式难负例挖掘迭代优化研究者blend在权重空间混合两个手术结果进阶玩家capability-check对比改造前后模型的 MMLU 能力质检restore-multimodal恢复文本消融后丢失的视觉等组件多模态用户report从已保存的结果重新生成报告补生成报告 不确定从哪开始先跑obliteratus interactive它会一步步引导你选择硬件、模型和预设。obliterate一键解除拒绝核心命令这是 OBLITERATUS 最核心的命令定位模型中的拒绝方向并外科手术式地投影掉它。流程共 6 个阶段SUMMON加载→ PROBE探测激活→ DISTILL提取方向→ EXCISE切除→ VERIFY验证→ REBIRTH保存最简用法obliteratus obliterate meta-llama/Llama-3.1-8B-Instruct --method advancedobliterate 常用选项速查选项说明--method手术方法默认advanced--output-dir输出目录默认abliterated/模型名--n-directions提取的拒绝方向数量--direction-method方向提取算法diff_means/svd/leace/som--regularization保留比例0.0–1.0--refinement-passes迭代精炼轮数--quantization以4bit或8bit量化加载需 bitsandbytes--trust-remote-code信任自定义建模代码特殊架构需要--gpu-memory-utilization覆盖模型加载的显存占用比例 (0, 1]--large-model120B 大模型保守模式--verify-sample-size验证用提示词数量默认 30越大置信区间越紧--max-perplexity-increase困惑度增幅上限默认 3.0 倍超过则判定失败--min-coherence-retention最低连贯性保留比例默认 0.5--max-degenerate-fraction允许的最大退化输出比例默认 0.2--gpus指定 GPU如0,1或all--remote通过 SSH 在远程 GPU 节点上执行--contribute运行完成后保存一份社区贡献记录如何选择 --method7 种权重投影方法强度逐级递增详见 obliteratus/abliterate.py方法方向数特点适用场景basic1快速基线小模型快速测试advanced⭐4范数保持 偏差投影 2 轮迭代默认推荐干净且能力损失小aggressive8白化 SVD 3 轮迭代精炼最彻底的移除surgical8MoE 感知、专家粒度手术精准处理 MoE 模型optimized4贝叶斯自动调参 思维链保护追求最佳质量inverted8语义拒绝反转反转实验nuclear8全部技术 专家移植最强火力提示运行obliteratus recommend 模型名可以基于社区遥测数据直接告诉你该模型最推荐的方法与超参。run用 YAML 配置运行完整消融实验run命令面向消融研究场景——系统性敲掉模型组件层、注意力头、FFN 块、嵌入维度并测量影响定位锁链在模型内部的锚点。配置示例可参考 examples/gpt2_gpu_quick.yaml 和 examples/full_study.yaml# 运行一个 YAML 实验 obliteratus run examples/gpt2_layer_ablation.yaml # 临时叠加一个预设并覆盖输出目录 obliteratus run examples/gpt2_layer_ablation.yaml --preset quick --output-dir results/YAML 里可配置模型、数据集、策略列表如layer_removal、head_pruning、ffn_ablation、embedding_ablation和指标如perplexity。支持--remote参数把整个实验甩到远程 GPU 节点上跑。models 与 presets新手选模型、选实验的最佳入口models按算力层级浏览模型库obliteratus models # 查看全部精选模型 obliteratus models --tier small # 只看适合 4-8GB 显存的层级含义一目了然层级硬件要求TINYCPU / 笔记本SMALL4–8GB 显存MEDIUM8–16GB 显存LARGE24GB 显存FRONTIER多卡 / 云输出表格包含模型名、HF ID、参数量、层级、推荐精度和量化建议帮你避开显存不够的坑。presets浏览实验预设obliteratus presets内置 10 个预设定义见 obliteratus/study_presets.pyquick、full、attention、layers、knowledge、pruning、embeddings、jailbreak、guardrail、robustness。每个预设组合了一组策略和采样量可在run命令中通过--preset quick使用或直接写在 YAML 里。aggregate汇总社区贡献结果OBLITERATUS 是一个分布式科研实验——每次带--contribute的运行都会留下匿名基准数据。aggregate命令把这些贡献聚合成对比表格实现见 obliteratus/community.py# 汇总表格式默认读 community_results 目录 obliteratus aggregate --dir community_results # 生成 LaTeX 表格写进论文 obliteratus aggregate --format latex --metric refusal_rate --min-runs 3--format summary|latex终端表格或 LaTeX 表格--metric refusal_rateLaTeX 输出的指标列--min-runs 3某模型, 方法至少 3 次运行才纳入其他实用命令精选info — 动手前先摸底架构obliteratus info meta-llama/Llama-3.1-8B-Instruct --task causal_lm --device cpuui — 不想敲命令启动本地网页版obliteratus ui # 默认 http://localhost:7860 obliteratus ui --port 8080 --share --auth user:passgpu-calc — 买卡/租卡前先算账obliteratus gpu-calc deepseek-ai/DeepSeek-V3 --dtype bfloat16 --gpu-mem 80它会考虑权重占用、激活开销和 CUDA 上下文开销给出最少几张 GPU和余量判断含 MoE 活跃参数处理。tourney — 方法大乱斗obliteratus tourney meta-llama/Llama-3.1-8B-Instruct --hub-org my-org让所有手术方法两两对决冠军可自动推送到 Hub。blend / capability-check / restore-multimodal— 分别用于混合两次手术的权重--alpha 0.6、MMLU 能力对比--quick约 1 分钟/模型、文本消融后恢复视觉组件。self-improve — 递归自我优化把上次运行的残留拒绝审计结果喂回去做加权挖掘配合--dry-run可只生成计划不执行手术。通用选项多卡与远程执行run、obliterate、tourney都共享两组选项非常适合没有本地大显卡的朋友多卡--gpus 0,1,2设置CUDA_VISIBLE_DEVICES模型自动经 accelerate 切分远程--remote rootgpu-node--ssh-key、--ssh-port、--remote-dir、--no-sync通过 SSH 在远程 GPU 节点执行并把结果同步回本地新手上手路线3 步走obliteratus gpu-calc 模型确认硬件 →obliteratus models --tier small选个合适的模型⚔️obliteratus obliterate 模型 --method advanced --verify-sample-size 100完成第一次手术 用obliteratus capability-check对比改造前后能力确认破链没伤脑更多细节可查阅 README.md 和 obliteratus/cli.py 的完整参数定义任何命令加--help都能查看实时帮助。【免费下载链接】OBLITERATUSOBLITERATE THE CHAINS THAT BIND YOU项目地址: https://gitcode.com/GitHub_Trending/ob/OBLITERATUS创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考