缓存策略探测实验 — 综合执行方案
缓存策略探测实验 — 综合执行方案 摘要目标确定算优优和移动云的 DeepSeek API 代理的实际缓存机制前缀匹配 / 内容哈希 / 固定响应 / 混合方案三专家协作设计了从信号验证→机制区分→边界映射→鲁棒性测试的五阶段递进式实验流水线预计 API 调用量~400 次/端点预计总耗时~42 分钟 TTL 等待时间/端点最简判定路径仅需 4 个探针C D A E即可在 ~20 分钟内确定缓存策略关键保障首次在测试方案中引入了 Exact-Minus-1 自动检测、信源切换机制、内容域隔离、Holm-Bonferroni 多重比较校正 核心结论卡片项目内容方案评级可执行— 三专家输出已对齐工程师可直接按方案实施覆盖假设数8 种H0-H8含 Bayesian 先验探针类别7 大类A-G含三级子探针覆盖全部区分空间判定标准量化矩阵 三信源cached_tokens 0.6 / 延迟 0.3 / 计费 0.1)统计保障n≥5, 95% CI, Cohen’s d, Holm-Bonferroni, 五级置信度体系最强区分探针C后缀微调 D内容重排序联合可唯一确定 5 种假设1. 各成员核心结论 产品评审员实验架构核心判断test-V4 的根本错误在于未验证信号真实性就直接信任cached_tokens。本方案将实验重构为五阶段递进流水线Phase 1信号验证是整个实验的入口门控——如果cached_tokens被证伪后续实验自动切换到延迟信源模式。关键创新8 种假设空间的 Bayesian 先验建模内容域隔离作为架构硬约束零词汇重叠三大不可区分假设对的透明度声明三种结论内容哈希/前缀/无缓存对应的测试工具架构重构原则。 调查员探针设计核心判断设计了 7 大类探针A-G每类含子探针覆盖从基线验证到 TTL 衰减的全部维度。核心设计亮点是 DOMAIN_{CATEGORY}_{UUID} 内容域标记机制完全解决了 test-V4 的跨场景污染问题。最简判定流程仅需 C D A E 四个探针即可在 ~20 分钟内确定缓存策略。关键创新统一语料库P1-P5 五个独立段落各 ~100-120 tokens所有探针通过组合这些段落构造既保证了内容可复用性又确保了不同探针的隔离。G 类 TTL 探针使用独立播种-探测对每个时间间隔的用户消息不同解决了探测请求重新填充缓存的历史缺陷。✅ QA 专家判定标准核心判断制定了从原始 API 响应到最终判定结论的完整通路。核心贡献是三张量化判定表cached_tokens 矩阵 响应时间矩阵 综合判定矩阵五级置信度体系以及 Exact-Minus-1 自动检测函数的完整伪代码。任何工程师拿到这份文档都可以独立判断探针结果。关键创新置信度分级不是简单的 PASS/FAIL而是 A→F 五级A≥95% / B 80-95% / C 60-80% / D60% / F 无法判定每级有 8 个硬性条件p 值、d、n、CV、离群率等。同时考虑了 8 类边界情况负载均衡多实例、极短 TTL、max_tokens 干扰、版本漂移等。2. 方案核心架构三专家输出整合2.1 五阶段流水线Phase 0: 信号源盘点 (前置) ← 产品评审员设计 ├─ 盘点 cached_tokens / 延迟 / 计费三大信源 └─ 输出信号清单 信噪比预估 ↓ Phase 1: 信号真实性验证 (门控) ← QA 专家制定判定标准 ├─ 独立性探针完全无关内容是否也有 cached 0 ├─ 一致性探针cached 增长与延迟下降是否同步 └─ 判定信源可信 → Phase 2 / 不可信 → 切换信源 → Phase 2 ↓ Phase 2: 缓存机制区分 (核心) ← 调查员设计具体探针 ├─ C 类探针(后缀微调) → 区分 PREFIX vs HASH ├─ D 类探针(内容重排序) → 区分 HASH 粒度 └─ 分叉到 Phase 3a (HASH) 或 3b (PREFIX) 或 3c (TTL) ↓ Phase 3: 边界映射 (细化) ← 调查员设计具体探针 ├─ 3a: HASH 敏感度/序列化格式/长度边界/碰撞概率 ├─ 3b: PREFIX 分叉点精度/中断规则/Breakpoint/最小匹配 └─ 3c: TTL 衰减曲线 (独立播种-探测对) ↓ Phase 4: 鲁棒性测试 (收尾) ← 产品评审员设计 └─ 并发写入 / 缓存容量 / 大载荷 / 跨模型隔离 / 异常恢复2.2 假设空间与先验基于 4 份 test-V4 测试报告各假设的初始信念假设P(假设)关键支持证据H1: 固定响应字段0.45exact-minus-1 跨所有场景恒定H2: 内容哈希缓存0.30Report D v4-pro 固定 806H3: 前缀匹配缓存0.10different_system 假阳性与此矛盾H0: 无缓存0.05与 cached_tokens 0 矛盾H4-H8: 其他0.10均匀分配2.3 最简判定流程仅需 4 个探针~20 分钟1. 探针 C后缀微调: cached ≈ PREFIX长度 ├─ 是 → H3 (前缀缓存) 确认 ✓ └─ 否 → 继续 2. 探针 D内容重排序: cached 0 ├─ 是 → H4 (段落哈希) 确认 ✓ └─ 否 → 继续 3. 探针 A全同请求: response.id 重复 ├─ 是 → H5 (HTTP响应缓存) 确认 ✓ └─ 否 → 继续 4. 探针 E不可见字符: cached ≈ 插入位置 ├─ 是 → H2 变体 └─ 否 → H1 (固定响应) 确认 ✓3. 判定标准速查来自 QA 专家3.1 核心阈值判定项阈值说明缓存命中cached_tokensC ≥ max(10, 0.05×P) 且 C ≈ C̄≤2σ量级 一致性双条件缓存命中响应时间T ≤ 0.33 × T_base三次以上测量中位数Exact-Minus-1 检测所有探针满足abs(C - (P-1)) ≤ 5自动标记 FIXED阴性对照阈值P5r 0.10 → 实验作废跨场景污染检测离群值检测Modified Z-Score (MAD) ≥ 3.520%离群率 → HIGH_VARIANCE显著性水平α 0.05, Holm-Bonferroni 校正8 探针 → 调整后阈值最小迭代次数n ≥ 5推荐 10n ≤ 2 标记 INSUFFICIENT_DATA3.2 五级置信度体系级别置信度条件A≥ 95%所有探针一致p 0.05 (校正后)d ≥ 0.8n ≥ 10CV 20%跨时间/跨 Key 可复现B80-95%多数探针一致p 0.05 (校正后)d ≥ 0.5n ≥ 5允许 1-2 个可解释异常C60-80%部分探针矛盾需额外验证或 n5 导致 CI 较宽D 60%关键探针矛盾未解决跨时间不可复现F无法判定双信源均不可靠或 API 行为随时间显著变化3.3 三级证据权重信源权重获取难度信噪比cached_tokens字段0.6直接未知Phase 1 验证响应时间0.3直接需基线校准中受网络抖动影响API 计费数据0.1间接需 Dashboard 查询高但获取不稳定4. 探针污染防护本方案的核心创新防护层次机制对应 test-V4 缺陷内容域隔离每个 Phase 使用独立语料领域如 Phase1动物学Phase2法国历史词汇零重叠#1 CORPUS 重叠、#4 跨场景污染探针级 UUID 标记每个探针使用DOMAIN_{CATEGORY}_{UUID}唯一前缀确保缓存键不交叉#5 UUID 前缀不足Phase 间冷却Phase 间 ≥ 3 秒或 ≥ TTL×2阴性对照在每 Phase 首位执行#4 跨场景污染TTL 独立播种-探测对每个 TTL 时间点使用独立的播种探测而非共享同一播种#7 TTL 自填充会话隔离检查清单每次 Phase 切换验证语料域零重叠API key 是否相同#4 跨场景污染5. 执行计划5.1 实施顺序Phase 1: 信号验证 (~15 min) → 运行独立性探针(完全无关主题) 一致性探针(全同请求配对) → 判定cached_tokens 是否可信 Phase 2: 机制区分 (~20 min) → 运行探针 C(后缀微调) → PREFIX 确认→ YES → 进入 Phase 3b → 运行探针 D(内容重排序) → HASH 确认→ YES → 进入 Phase 3a → 运行探针 A(全同请求) → response.id 重复→ HTTP 响应缓存 → 运行探针 E(不可见字符) → 最终区分 Phase 3: 边界映射 (~60 min含 TTL 等待) → 3a(HASH) 或 3b(PREFIX) 精细探测 3c(TTL 独立播种-探测对) Phase 4: 鲁棒性 (~30 min) → 并发/容量/大载荷/跨模型隔离 总计~125 分钟 TTL 最长等待 300s/端点5.2 两个端点独立执行两个端点算优优、移动云完全独立测试使用不同 DOMAIN UUID 确保不交叉污染。如果条件允许使用官方 DeepSeek APIapi.deepseek.com作为校准基准。6. 后续测试工具重构原则基于实验结论若确认为 HASH内容哈希缓存✓ 删除所有前缀类场景prefix_sweep, prefix_truncation, partial_overlap ✓ 新增内容复用率监测器 ✓ 重构判定逻辑从前缀共享比例改为内容相似度 ✓ 核心场景精简为 3 个identical / content_reordered / content_modified若确认为 PREFIX前缀匹配缓存✓ 保留前缀类场景但改用 tiktoken 精确计算 token 级分叉点 ✓ 删除字符级切分方式 ✓ 新增分叉点精度测试、中断与恢复测试 ✓ 监控指标精确到 token 的缓存命中率若确认为 FIXED无真实缓存✗ 整个缓存测试工具废止 ✓ 重定位为API 行为一致性验证器——持续监控 API 升级后缓存行为是否变化⚠️ 已知局限与风险风险严重度缓解措施cached_tokens完全虚假高Phase 1 门控自动检测 信源切换机制负载均衡多实例独立缓存中双峰分布检测 多次迭代缓存策略在测试期间动态变化中跨时间段重复核心探针API 版本漂移低记录 model 版本 后续定期回归某些 HASH/PREFIX 变体黑盒不可区分低在方案中明确声明这些盲区接受 F 级置信度 成员产出索引文档作者路径实验架构设计5阶段8假设决策树风险分析gstack-product-reviewerdeliverables/gstack/cache-detection-experiment-architecture-2026-07-09.md探针测试用例设计7类探针具体参数预期矩阵gstack-investigatorprobe-design.md判定标准规范量化矩阵统计置信度边界情况gstack-qa-leaddeliverables/gstack/cache-probe-judgment-criteria-v1-2026-07-09.md综合执行方案本文档team-leaddeliverables/gstack/cache-detection-final-plan-2026-07-09.md