Santa Method

affaan-m/ECC/docs/zh-CN/skills/santa-method

作者 affaan-mef648e01899ba3e8dc6371642deaaf64b4477775无许可证275K 个星标收录于 2026年10月9日更新于 2026年10月9日仓库4天前更新

具有收敛循环的多智能体对抗验证。两个独立的审查代理必须都通过,输出才能发送。

仅含说明AI & Agents
AI 生成的概览

多智能体对抗验证:两个独立审查者必须同时通过,输出才能发布。

功能
定义了一层生成后验证机制:生成器产出结果后,两个上下文隔离的审查者依据同一评分标准独立打分,只有两者都通过时门控才放行输出。未通过的输出进入修复循环,每轮使用全新的审查者重新审查,直到收敛或达到最大迭代次数,随后升级给人工处理。内容还涵盖评分标准设计、特定领域标准扩展、批量采样、故障模式、指标与成本权衡。
适用场景
适用于输出将被发布、部署或供最终用户使用,必须强制执行合规、监管或品牌约束,代码未经人工审查即投入生产,或幻觉风险较高的场景。不适用于内部草稿、探索性研究或具有确定性验证的任务。
运行要求
仅为说明性内容,不附带脚本。需要能够并行生成子智能体或在审查者之间重置上下文的智能体环境,以及任务规格说明、待审输出和评估标准。

圣诞老人方法

多智能体对抗验证框架。列个清单,检查两遍。如果行为不端,就修正直到表现良好。

核心洞察:单个智能体审查自身输出时,会共享产生该输出的相同偏见、知识盲区和系统性错误。两个没有共享上下文的独立审查者可以打破这种故障模式。

何时激活

在以下情况调用此技能:

  • 输出将被发布、部署或供最终用户使用
  • 必须强制执行合规、监管或品牌约束
  • 代码未经人工审查即投入生产
  • 内容准确性至关重要(技术文档、教育材料、面向客户的文案)
  • 大规模批量生成,抽检无法发现系统性模式
  • 幻觉风险较高(声明、统计数据、API 参考、法律用语)

不要用于内部草稿、探索性研究或具有确定性验证的任务(这些请使用构建/测试/代码检查流水线)。

架构

┌─────────────┐│  生成器      │  阶段 1:列出清单│  (代理 A)    │  生成交付物└──────┬───────┘       │ 输出       ▼┌──────────────────────────────┐│     双重独立审查              │  阶段 2:复核两次│                              ││  ┌───────────┐ ┌───────────┐ │  两个代理,同一评分标准,│  │ 审查者 B  │ │ 审查者 C  │ │  无共享上下文│  └─────┬─────┘ └─────┬─────┘ ││        │              │       │└────────┼──────────────┼───────┘         │              │         ▼              ▼┌──────────────────────────────┐│       裁决门                  │  阶段 3:判定好坏│                              ││  B通过且C通过 → 好            │  两者必须通过。│  否则 → 坏                    │  无例外。└──────┬──────────────┬────────┘       │              │      好             坏       │              │       ▼              ▼   [ 发布 ]    ┌─────────────┐               │  修复循环    │  阶段 4:修复至通过               │              │               │ 迭代次数++   │  收集所有标记。               │ 若 i > 最大: │  修复所有问题。               │   升级处理   │  重新运行两个审查者。               │ 否则:        │  循环直至收敛。               │   跳至阶段2  │               └──────────────┘

阶段详情

阶段 1:列清单(生成)

执行主要任务。无需改变正常的生成工作流程。圣诞老人方法是一个生成后验证层,而非生成策略。

python
# The generator runs as normaloutput = generate(task_spec)

阶段 2:检查两遍(独立双重审查)

并行生成两个审查智能体。关键不变项:

  1. 上下文隔离 — 两个审查者互不见面对方的评估
  2. 相同评估标准 — 两者收到相同的评估标准
  3. 相同输入 — 两者都收到原始规格说明和生成的输出
  4. 结构化输出 — 每个审查者返回类型化的判定,而非散文
python
REVIEWER_PROMPT = """You are an independent quality reviewer. You have NOT seen any other review of this output.
## Task Specification{task_spec}
## Output Under Review{output}
## Evaluation Rubric{rubric}
## InstructionsEvaluate the output against EACH rubric criterion. For each:- PASS: criterion fully met, no issues- FAIL: specific issue found (cite the exact problem)
Return your assessment as structured JSON:{  "verdict": "PASS" | "FAIL",  "checks": [    {"criterion": "...", "result": "PASS|FAIL", "detail": "..."}  ],  "critical_issues": ["..."],   // blockers that must be fixed  "suggestions": ["..."]         // non-blocking improvements}
Be rigorous. Your job is to find problems, not to approve."""
python
# Spawn reviewers in parallel (Claude Code subagents)review_b = Agent(prompt=REVIEWER_PROMPT.format(...), description="Santa Reviewer B")review_c = Agent(prompt=REVIEWER_PROMPT.format(...), description="Santa Reviewer C")
# Both run concurrently — neither sees the other

评估标准设计

评估标准是最重要的输入。模糊的标准会产生模糊的审查。每个标准必须有客观的通过/失败条件。

标准通过条件失败信号
事实准确性所有声明均可根据源材料或常识验证编造的统计数据、错误的版本号、不存在的 API
无幻觉没有虚构的实体、引用、URL 或参考文献指向不存在页面的链接、无来源的引用
完整性规格说明中的每个要求都得到满足缺少章节、遗漏边缘情况、覆盖不完整
合规性通过所有项目特定的约束使用禁用术语、语气违规、监管不合规
内部一致性输出内无矛盾A 部分说 X,B 部分说非 X
技术正确性代码可编译/运行,算法合理语法错误、逻辑错误、错误的复杂度声明
特定领域评估标准扩展

内容/营销:

  • 品牌语气一致性
  • 满足 SEO 要求(关键词密度、元标签、结构)
  • 无竞争对手商标滥用
  • CTA 存在且链接正确

代码:

  • 类型安全(无 any 泄漏,正确处理 null)
  • 错误处理覆盖
  • 安全性(代码中无秘密、输入验证、注入防护)
  • 新路径的测试覆盖

合规敏感(受监管、法律、金融):

  • 无结果保证或未经证实的声明
  • 存在所需的免责声明
  • 仅使用批准的术语
  • 符合司法管辖区的语言

阶段 3:表现好坏(判定门控)

python
def santa_verdict(review_b, review_c):    """Both reviewers must pass. No partial credit."""    if review_b.verdict == "PASS" and review_c.verdict == "PASS":        return "NICE"  # Ship it
    # Merge flags from both reviewers, deduplicate    all_issues = dedupe(review_b.critical_issues + review_c.critical_issues)    all_suggestions = dedupe(review_b.suggestions + review_c.suggestions)
    return "NAUGHTY", all_issues, all_suggestions

为什么两者都必须通过:如果只有一个审查者发现问题,那么该问题是真实存在的。另一个审查者的盲点正是圣诞老人方法旨在消除的故障模式。

阶段 4:修正直到表现良好(收敛循环)

python
MAX_ITERATIONS = 3
for iteration in range(MAX_ITERATIONS):    verdict, issues, suggestions = santa_verdict(review_b, review_c)
    if verdict == "NICE":        log_santa_result(output, iteration, "passed")        return ship(output)
    # Fix all critical issues (suggestions are optional)    output = fix_agent.execute(        output=output,        issues=issues,        instruction="Fix ONLY the flagged issues. Do not refactor or add unrequested changes."    )
    # Re-run BOTH reviewers on fixed output (fresh agents, no memory of previous round)    review_b = Agent(prompt=REVIEWER_PROMPT.format(output=output, ...))    review_c = Agent(prompt=REVIEWER_PROMPT.format(output=output, ...))
# Exhausted iterations — escalatelog_santa_result(output, MAX_ITERATIONS, "escalated")escalate_to_human(output, issues)

关键:每轮审查使用全新的智能体。审查者不得携带之前轮次的记忆,因为先前的上下文会造成锚定偏差。

实现模式

模式 A:Claude Code 子智能体(推荐)

子智能体提供真正的上下文隔离。每个审查者是一个独立的进程,没有共享状态。

bash
# In a Claude Code session, use the Agent tool to spawn reviewers# Both agents run in parallel for speed
python
# Pseudocode for Agent tool invocationreviewer_b = Agent(    description="Santa Review B",    prompt=f"Review this output for quality...\n\nRUBRIC:\n{rubric}\n\nOUTPUT:\n{output}")reviewer_c = Agent(    description="Santa Review C",    prompt=f"Review this output for quality...\n\nRUBRIC:\n{rubric}\n\nOUTPUT:\n{output}")

模式 B:顺序内联(备用方案)

当子智能体不可用时,通过显式上下文重置模拟隔离:

  1. 生成输出
  2. 新上下文:"你是审查者 1。仅根据此评估标准进行评估。找出问题。"
  3. 逐字记录发现
  4. 完全清除上下文
  5. 新上下文:"你是审查者 2。仅根据此评估标准进行评估。找出问题。"
  6. 比较两个审查结果,修复,重复

子智能体模式严格优于内联模拟——内联模拟存在审查者之间上下文渗透的风险。

模式 C:批量采样

对于大批量(100+ 项),对每个项目都执行完整的圣诞老人方法成本过高。使用分层采样:

  1. 对随机样本(批量的 10-15%,最少 5 项)运行圣诞老人方法
  2. 按类型对失败进行分类(幻觉、合规性、完整性等)
  3. 如果出现系统性模式,对整个批量应用针对性修复
  4. 重新采样并重新验证修复后的批量
  5. 持续直到干净的样本通过
python
import random
def santa_batch(items, rubric, sample_rate=0.15):    sample = random.sample(items, max(5, int(len(items) * sample_rate)))
    for item in sample:        result = santa_full(item, rubric)        if result.verdict == "NAUGHTY":            pattern = classify_failure(result.issues)            items = batch_fix(items, pattern)  # Fix all items matching pattern            return santa_batch(items, rubric)   # Re-sample
    return items  # Clean sample → ship batch

故障模式与缓解措施

故障模式症状缓解措施
无限循环修复后审查者仍不断发现新问题最大迭代次数限制(3 次)。升级处理。
橡皮图章两个审查者都通过所有内容对抗性提示:"你的工作是发现问题,而不是批准。"
主观漂移审查者标记风格偏好,而非错误严格的评估标准,仅包含客观的通过/失败标准
修复回归修复问题 A 引入了问题 B每轮使用全新的审查者来捕获回归
审查者一致性偏差两个审查者都遗漏了同一件事独立性可缓解但无法消除。对于关键输出,添加第三个审查者或人工抽检。
成本激增大型输出上迭代次数过多批量采样模式。每个验证周期的预算上限。

与其他技能的集成

技能关系
验证循环用于确定性检查(构建、代码检查、测试)。圣诞老人方法用于语义检查(准确性、幻觉)。先运行验证循环,再运行圣诞老人方法。
评估工具圣诞老人方法的结果反馈给评估指标。跟踪圣诞老人方法运行中的 pass@k,以衡量生成器质量随时间的变化。
持续学习 v2圣诞老人方法的发现成为本能。同一标准上的重复失败 → 学习到的行为以避免该模式。
战略压缩在压缩之前运行圣诞老人方法。不要在验证过程中丢失审查上下文。

指标

跟踪以下指标以衡量圣诞老人方法的有效性:

  • 首次通过率:第一轮通过圣诞老人方法的输出百分比(目标:>70%)
  • 收敛平均迭代次数:达到"表现良好"的平均轮数(目标:<1.5)
  • 问题分类:失败类型的分布(幻觉 vs. 完整性 vs. 合规性)
  • 审查者一致性:两个审查者都标记的问题与仅一个审查者标记的问题的百分比(一致性低 = 需要收紧评估标准)
  • 逃逸率:发布后发现但圣诞老人方法本应捕获的问题(目标:0)

成本分析

每个验证周期,圣诞老人方法的代币成本大约是单独生成的 2-3 倍。对于大多数高风险的输出,这很划算:

圣诞老人的成本 = (生成代币) + 2×(每轮审查代币) × (平均轮数)不做圣诞老人的成本 = (声誉损害) + (纠正努力) + (信任侵蚀)

对于批量操作,采样模式将成本降低到完全验证的约 15-20%,同时捕获超过 90% 的系统性问题。

来源与署名

来源:affaan-m/ECC位于docs/zh-CN/skills/santa-method提交ef648e0

许可证: 无许可证

内容归原作者所有。SourceWeft 从公开仓库中收录这些内容。

举报或申请下架