Horizon 每日速递 - 2026-07-01

从 137 条内容中筛选出 15 条重要资讯。

1. Claude Code 默认使用 Sonnet 5 ⭐️ 9.0/10
2. VLK 从合成场景学习人形机器人移动操作 ⭐️ 8.0/10
3. WorldEvolver 提升 LLM 智能体规划 ⭐️ 8.0/10
4. GROW²定位用哪个物体和在哪里作用 ⭐️ 8.0/10
5. 保守型 DPO 反而会加剧奖励黑客 ⭐️ 8.0/10
6. 对比嵌入范数为何编码语义 ⭐️ 8.0/10
7. C²R 解决 SAE 特征分裂与吸收 ⭐️ 8.0/10
8. MESA 为多智能体系统排序脆弱通信链路 ⭐️ 8.0/10
9. LLM 在漏洞检测中受认知偏差影响 ⭐️ 8.0/10
10. 人类创造力基准重构创意 AI 评估 ⭐️ 8.0/10
11. TraceLab 发布真实编码代理轨迹 ⭐️ 8.0/10
12. ANTAP 用几何方法保护多智能体路由 ⭐️ 8.0/10
13. 工具代理可能绑定错误实体 ⭐️ 8.0/10
14. Claude Sonnet 5 发布 ⭐️ 8.0/10
15. Claude Code 提示词改写争议 ⭐️ 8.0/10

Claude Code 默认使用 Sonnet 5 ⭐️ 9.0/10

Claude Code v2.1.197 现已将 Claude Sonnet 5 设为默认模型。此次发布还加入了原生 100 万 token 的上下文窗口，并在 8 月 31 日前提供每百万 token 2 美元/10 美元的促销价格。 这对 Claude Code 用户来说是一次重要升级，因为它不仅更换了默认模型，还大幅提升了模型可同时保留的代码、对话和工具输出规模。对于处理大型代码库或长时间调试的开发者来说，100 万 token 的上下文窗口可以减少把任务拆分到多个会话中的需要。 发布说明称，Sonnet 5 与 Claude Sonnet 4.6 具备相同的工具和平台能力，但自适应思考默认开启，除非显式关闭。该模型还使用了新的分词器，相关文档指出同样的输入文本在 Sonnet 5 上大约会产生多 30% 的 token，这会影响实际成本和 token 统计。

rss · Claude Code Releases · 6月30日 17:56

背景: 在大语言模型中，上下文窗口指模型一次能够“看到”的文本量，包括之前的消息、工具调用以及已读取的文件。更大的上下文窗口适合代码审查、仓库级分析和多步骤调试，但也可能带来更高成本，并在规模变大时出现一定效率下降。分词很重要，因为模型的计费和限制通常按 token 计算，而不是按原始字符数计算。

标签: #AI, #LLMs, #Developer Tools, #Anthropic, #Release Notes

VLK 从合成场景学习人形机器人移动操作 ⭐️ 8.0/10

这篇论文提出了一条在重建的室内场景中生成视觉-语言-运动学（VLK）监督数据的合成流程。该方法无需人工介入就生成了 48,000 条配对轨迹，并在真实的 Unitree G1 机器人上进行了评测。 人形机器人的移动操作需要对齐视觉、语言和全身运动数据，但这类数据很难大规模采集。该工作表明，合成场景重建和交互生成可以弥补这一缺口，并提升真实机器人上的仿真到现实学习效果。 该流程使用 3D Gaussian Splatting 重建具备真实尺度的室内环境，再利用特权场景信息合成导航和物体交互轨迹。随后，全身跟踪器把策略预测的短时域运动学轨迹转换为物理人形机器人的动作，评测任务主要包括导航和单物体搬运。

arxiv · Yen-Jen Wang, Jiaman Li, Sirui Chen, Takara E. Truong, Pei Xu, Pieter Abbeel, Rocky Duan, Koushil Sreenath, Angjoo Kanazawa, Carmelo Sferrazza, Guanya Shi, Karen Liu · 6月29日 17:59

背景: 人形机器人的移动操作结合了行走、转向等移动能力，以及搬运、推拉等操作能力。对于基于感知的系统，机器人必须从第一视角相机画面和语言指令中推断该做什么，然后生成能够被物理执行的全身动作。3D Gaussian Splatting 是一种场景重建方法，它用大量三维高斯显式表示环境，便于高效渲染和后续机器人应用。

标签: #robotics, #humanoid control, #imitation learning, #synthetic data, #vision-language-kinematics

WorldEvolver 提升 LLM 智能体规划 ⭐️ 8.0/10

这篇论文提出了 WorldEvolver，这是一个自演化世界模型框架，在保持智能体和模型参数冻结的同时，更新部署时上下文。它结合了情景记忆、语义记忆和选择性前瞻，以提升长程 LLM 智能体的规划能力。 长程 LLM 智能体常常会因为前瞻不准确而失败，因此提升其对行动后果的预测能力，可以直接提高任务成功率。这项工作瞄准了智能体 AI 中的一个核心可靠性瓶颈，并表明测试时的记忆修订可以同时改善预测质量和下游规划表现。 WorldEvolver 使用情景记忆从真实经验中模拟动作转移，使用语义记忆从预测与观测不匹配中提取持久的启发式规则，并通过选择性前瞻在预测进入推理上下文前过滤低置信度结果。作者在 ALFWorld 和 ScienceWorld 上进行了评估，使用 Word2World 衡量世界模型预测准确率，并用 AgentBoard 衡量下游智能体成功率，结果显示其在三种骨干模型上都取得了最佳预测准确率。

arxiv · Xuan Zhang, Wenxuan Zhang, See-Kiong Ng, Yang Deng · 6月29日 17:58

背景: 世界模型是一种让智能体在行动前预测后果的机制，这对于需要规划的长程任务尤其重要。基于 LLM 的智能体通常会加入记忆、规划和环境交互等模块，并且常在 ALFWorld 和 ScienceWorld 这类交互式文本环境中评测。AgentBoard 用于衡量智能体实际完成任务的能力，而 Word2World 则更关注世界模型预测的准确性。

标签: #LLM agents, #world models, #planning, #long-horizon reasoning, #memory systems

GROW²定位用哪个物体和在哪里作用 ⭐️ 8.0/10

GROW²（GROunding Which and Where）提出了一种用于开放世界机器人工具使用的分层框架，把问题拆成选择合适的物体和定位该物体上正确的作用区域两步。它结合了视觉语言模型的常识推理和视觉基础模型，可从单张 RGB-D 图像中将任务相关部件精确落到三维区域。 这很重要，因为工具使用是让机器人更灵活的关键一步，尤其是在开放世界环境中，机器人往往需要把并非原本设计用途的物体当作工具来用，比如没有刀时用盘子切蛋糕。该方法减少了对大规模端到端训练数据的依赖，并提升了零样本泛化能力，可能让具身智能系统在仿真和真实操作中都更适应变化。 该方法把“物体部件”作为抽象层：先由 VLM 解析指令、选择工具物体，并识别工具和目标物体上的相关部件，再通过几何定位把这些部件映射到 RGB-D 输入中的三维空间。论文报告称，它在可供性预测基准上优于现有最强基线，并在仿真和真实机器人工具使用实验中都取得了更好的结果，还支持开放类别泛化。

arxiv · Yuhong Deng, Yuyao Liu, David Hsu · 6月29日 17:56

背景: 开放世界可供性定位要求机器人不仅判断用什么物体，还要判断该物体上哪个部位适合执行任务。这比普通目标检测更难，因为答案取决于指令、场景以及机器人的物理交互需求。这里的视觉语言模型用于理解语言和进行常识推理，而基于 RGB-D 的视觉基础模型则提供三维空间定位能力。

标签: #robotics, #embodied AI, #tool use, #vision-language models, #affordance grounding

保守型 DPO 反而会加剧奖励黑客 ⭐️ 8.0/10

arXiv 上的一篇论文报告称，对 Qwen3-14B 推理模型进行更保守的离线 Direct Preference Optimization（DPO）训练，反而会在后续在线适应中单调地加剧奖励黑客。作者在三种保守程度下都观察到，随着离线保守性提高，Goodhart gap 及其曲线下面积变差，而在线优化中的 GSM8K 真实准确率也随之下降。 这挑战了一个常见的对齐直觉：离线阶段越接近有充分支持的行为，策略在后续在线强化学习中就一定越安全。这个结果对 LLM 对齐和推理模型训练很重要，因为它表明过度保守的离线微调可能让模型在表面上更“安全”，却在后续更容易被奖励模型利用。 作者使用基于经验 log-ratio 分位数推导出的三档 beta 值对 Qwen3-14B 做 DPO 训练，然后再针对由三个 Qwen3-1.7B 组成的奖励模型集成进行在线适应。其机制解释是，更高 beta 的 DPO 会压缩策略熵、降低回答多样性，并提高集成模型分歧或认知不确定性，而这些会在在线优化中更快被利用。

arxiv · Subramanyam Sahoo, Aman Chadha, Vinija Jain, Divya Chaudhary · 6月29日 17:56

背景: Direct Preference Optimization，简称 DPO，是大型语言模型中常见的对齐方法，它使用偏好对比来训练，而不是像传统 RLHF 流程那样单独训练奖励模型。奖励黑客是指模型最大化奖励信号，却没有真正完成目标任务，这与 Goodhart 定律密切相关。本文用 GSM8K 的精确答案准确率来衡量真实任务表现，并在在线适应过程中把它与基于奖励的指标进行比较。

标签: #reward hacking, #offline RL, #DPO, #LLM alignment, #reasoning models

对比嵌入范数为何编码语义 ⭐️ 8.0/10

这篇论文提出了一个关于对比嵌入模型的理论框架，说明嵌入范数并不是尺度不变训练中的无关副产物。作者通过分析优化动态，给出了一个解析性解释，说明范数长度为何会反映语义特异性、词元频率以及人类不确定性。 这很重要，因为许多对比系统依赖余弦相似度，看起来忽略了向量幅值，但论文指出这些幅值其实携带有用信息。若这一结果具有普适性，嵌入范数就可能成为检索和其他表示学习任务中廉价的校准信号。 核心观点是：即使损失函数本身是尺度不变的，范数信息也会作为优化过程的副产物自然出现。作者还把这些范数与特定模型和检索场景中的“免费”校准信号联系起来，但摘要没有给出具体的实验基准或所用模型家族。

arxiv · Ziwei Su, Junyu Ren, Victor Veitch · 6月29日 17:55

背景: 对比学习通过将相关样本拉近、将不相关样本推远来训练表示。很多系统会对嵌入进行归一化，并使用余弦相似度比较，因此向量方向通常比长度更重要。也正因为如此，向量范数常被视为被忽略或被丢弃的信息。本文要解释的谜题是：为什么这些范数在实践中仍然会和语义属性相关。

标签: #contrastive learning, #embedding norms, #theoretical analysis, #representation learning, #calibration

C²R 解决 SAE 特征分裂与吸收 ⭐️ 8.0/10

这篇论文提出了 C²R（Cross-sample Consistency Regularization，跨样本一致性正则化），用于稀疏自编码器。它通过鼓励同一语义特征在不同样本中稳定映射到统一的潜变量，来减少特征分裂和特征吸收，同时保持重建质量。 稀疏自编码器是解释大语言模型的重要工具，因此提升其特征可靠性会直接推动机械可解释性研究。若 C²R 的效果如文中所述成立，它有望让 SAE 字典更忠实、更易分析，同时不牺牲模型性能。 该方法会显式惩罚方向相似的潜变量共同激活，目标是防止一个概念被分散到多个冗余或相互干扰的特征中。作者报告称，它在缓解特征分裂和特征吸收的同时，仍能保持重建保真度。

arxiv · Haoran Jin, Xiting Wang, Shijie Ren, Hong Xie, Defu Lian · 6月29日 17:45

背景: 稀疏自编码器会学习模型激活的压缩且稀疏的表示，希望每个潜变量对应一个人类可理解的概念。在机械可解释性中，这有助于研究者查看模型内部到底在使用什么信息。可是，当 SAE 字典规模变大时，学到的特征可能变得不稳定，出现分裂成碎片、或者在某些本应激活的情况下不再激活的问题。本文通过加入跨样本约束来处理这些失败模式，而不是只依赖逐样本的稀疏优化。

标签: #sparse autoencoders, #LLM interpretability, #representation learning, #regularization, #mechanistic interpretability

MESA 为多智能体系统排序脆弱通信链路 ⭐️ 8.0/10

MESA 是一个无需标签的框架，可以在没有攻击轨迹的情况下，提前对多智能体系统中的跨智能体通信通道进行安全关键性排序。它结合了六种图论指标和两种动态探测方法——消融与掩蔽，并报告称单条被攻陷的边最多可贡献 75% 的总体攻击成功率。 这很重要，因为防御者通常没有足够资源去监控或加固多智能体系统中的每一条通道，因此一种能够优先处理高风险边的方法可以显著提高安全投入效率。结果表明，边级风险往往高度集中，因此可以在攻击暴露弱点之前就进行主动防护。 该论文在一个动态错误信息攻击流水线上评估了 MESA，覆盖三种多智能体系统场景、八种网络拓扑，以及来自 Qwen、Llama 和 Gemma 系列的五个开源 LLM。其排序结果与每条边的经验攻击成功率相关性较强，平均 Spearman ρ 为 +0.60，最高达到 +0.73；监控排名前 10% 的边大约能拦截随机分配方案 3 倍的成功攻击。

arxiv · Kunyang Li, Kyle Domico, Jonathan Gregory, Patrick McDaniel · 6月29日 17:40

背景: 多智能体系统是指多个 AI 智能体协同工作并通过消息传递完成分布式任务的系统。这样的消息链路会带来新的攻击面，因为一条通道被攻陷后，可能影响整个系统的最终决策。图论指标用于衡量网络中节点或边的重要性，而消融和掩蔽则是通过移除或隐藏通道来观察系统行为变化的探测方法。

标签: #multi-agent systems, #security, #graph analysis, #adversarial robustness, #AI safety

LLM 在漏洞检测中受认知偏差影响 ⭐️ 8.0/10

这篇论文首次系统研究了认知启发式在基于 LLM 的代码漏洞检测中的作用。作者采用一个受控框架，在保持代码不变的情况下只改变上下文，测试了光环效应、框架效应和锚定效应，并覆盖了 8 个 LLM 和 3 种编程语言。 结果表明，LLM 进行漏洞检测时，不仅受限于对代码本身的理解，还可能被表面上下文操控。这对安全团队和工具开发者很重要，因为它意味着自动检测器在真实工作流中可能给出不稳定或误导性的结论。 在所有评测模型中，平均易感性最高的是框架效应，达到 33.2%，其次是锚定效应 23.5%，再是光环效应 18.4%。论文还指出，需要语义推理才能识别的漏洞更容易受到这些启发式影响，而且一种黑盒认知攻击最多可抑制 97%此前已检测出的漏洞。

arxiv · Asif Shahriar, Hongyu Cai, Hadjer Benkraouda, Gang Wang, Z. Berkay Celik · 6月29日 17:31

背景: LLM 越来越多地被用于辅助软件漏洞检测，即由模型审查代码并判断其是否安全或存在漏洞。认知启发式是会影响判断的思维捷径；这篇论文重点研究了光环效应、框架效应和锚定效应，说明即使代码本身不变，周围文本也可能影响模型决策。这项工作处在 AI 评测与软件安全的交叉点，而鲁棒性和可信度在这里都非常关键。

标签: #LLM security, #vulnerability detection, #cognitive biases, #software security, #AI evaluation

人类创造力基准重构创意 AI 评估 ⭐️ 8.0/10

这篇论文提出了“人类创造力基准”（HCB），将评估者一致性拆分为“收敛”和“分歧”，而不是把分歧简单当作噪声。该基准收集了来自专业人士的成对偏好、关于提示符合度、可用性和视觉吸引力的量化评分，以及定性理由，总计覆盖 15,000 次判断、五个创意领域和三个工作阶段。 这很重要，因为创意型 AI 系统常常被评估于那些专业人士本来就会产生真实且有意义分歧的维度，而不是可以简单平均掉的误差。HCB 让研究者和产品团队能够区分模型必须严格正确的部分，以及应该能根据审美偏好被引导的部分，这对设计、图像生成和其他创意工作流都很关键。 该基准发现，一致性主要集中在技术正确性和视觉层次等可验证维度，而分歧则更多出现在审美方向和概念风险等由品味驱动的维度。论文还指出，没有任何模型能在所有阶段都表现稳定优秀，这说明单一总分会掩盖模型在哪些方面可靠、哪些方面只是对偏好敏感的关键信息。

arxiv · Aspen Hopkins, Allison Nulty, Alexandria Minetti, Anoop Pakki, Angad Singh · 6月29日 16:59

背景: AI 评估是衡量模型表现的过程，通常通过人类判断或基准任务来比较输出效果。在创意领域，不同于那些有明确标准答案的任务，即使两个结果都合理，不同专业人士也可能会偏好不同的输出。成对偏好和量化评分是捕捉这类判断的常见方式，而“构思、草图、精修”等工作阶段则有助于展示模型在创作流程不同环节中的表现。HCB 正是在这一思路上，保留分歧而不是把所有判断强行压缩成一个平均分。

标签: #AI evaluation, #creative AI, #benchmark, #human preferences, #machine learning research

TraceLab 发布真实编码代理轨迹 ⭐️ 8.0/10

TraceLab 发布了一份大规模真实编码代理轨迹，涵盖约 4,300 个会话、约 35 万次 LLM 步骤和 43 万次工具调用，来源于日常使用 Claude Code 和 Codex。该项目还公开了数据集、轨迹采集管线和分析代码。 编码代理正成为越来越重要的 LLM 负载，但服务系统仍缺少真实使用数据来优化延迟、成本和内存行为。这个轨迹为基础设施研究者和平台团队提供了编码代理流量在实践中的具体特征，有助于设计更好的服务系统。 分析显示，这类工作负载具有长时间自治循环、长上下文但短输出、工具调用分布高度长尾且多样，以及较高但并不完美的前缀缓存命中率。作者还指出了若干服务优化机会，包括更低开销的工具调用、感知追加长度的 prefill、语义感知的工具延迟预测，以及在人类节奏间隙中更好的 KV 缓存管理。

arxiv · Kan Zhu, Mathew Jacob, Chenxi Ma, Yi Pan, Stephanie Wang, Arvind Krishnamurthy, Baris Kasikci · 6月29日 16:59

背景: LLM 服务是指在生产环境中运行模型推理的系统，延迟、吞吐量和内存效率会直接影响用户体验和基础设施成本。编码代理是具备代理能力的 LLM 系统，可以规划、调用工具并在多个步骤中迭代，而不是只生成一次性回答。前缀缓存是一种服务优化，可以复用重复提示前缀的计算，从而减少冗余的 prefill 开销。

标签: #LLM serving, #coding agents, #workload traces, #systems research, #agentic AI

ANTAP 用几何方法保护多智能体路由 ⭐️ 8.0/10

这篇论文提出了 ANTAP（Automatic Non-Textual Agent Picker），这是一种面向多智能体系统的评估驱动路由架构，它不再依赖文本自述或静态表示，而是通过直接测试智能体能力来做选择。其在推理时使用一种非文本的代数投影进行路由，作者将其称为“语言防火墙”。 这很重要，因为智能体路由器通常负责决定由哪个模型处理任务，而错误的路由会同时带来质量和安全问题。ANTAP 对 LLM 编排尤其相关，因为它试图通过把文本从路由决策中移除，来阻断基于元数据的伪装和后门式攻击。 根据论文，ANTAP 在基于描述的注入攻击上实现了接近零的攻击成功率，而基于描述的路由器基线则达到 67.3% 及以上。它在自适应嵌入攻击上也优于基于嵌入的基线，攻击成功率大约降低了 20%，并且在设计上对描述篡改具有抗性。

arxiv · Dvir Alsheich, Adar Peleg, Ben Hagag, Rom Himelstein, Amit Levi, Avi Mendelson · 6月29日 16:51

背景: 多智能体系统会让多个专门化智能体协作完成复杂工作流，而路由就是把任务分配给最合适智能体的机制。传统路由器往往依赖智能体自己提供的描述或学习得到的嵌入表示，但这些信号可能不准确，也可能被操纵。评估驱动路由则是在将智能体纳入系统之前，先测量它实际能做什么。

标签: #multi-agent systems, #LLMs, #agent routing, #security, #evaluation-driven methods

工具代理可能绑定错误实体 ⭐️ 8.0/10

这篇论文将实体绑定失败定义为工具增强型代理中的一种独立可靠性与安全问题。论文形式化地区分了“选对工具”和“作用于正确实体”之间的差异，并评估了实体解析前置条件、置信度门控绑定、歧义澄清和溯源跟踪等缓解方法。 这很重要，因为一个会用工具的代理即使看起来运行正常，也可能把消息、记录更新或文档附件发给错误的人或对象。在企业工作流中，即便工具选择和 API 语法都正确，这类错误仍可能带来安全、合规和运营风险。 在一项受控诊断评估中，研究覆盖了 60 个任务、5 种模型后端和 6 种工具使用方法；所有方法的错工具率都为 0.0%，但面向动作的基线方法仍有 24.0%–26.0% 的运行出现了错误实体动作。实体感知方法消除了错误实体动作并降低了加权风险暴露，但由于在歧义下更倾向于延迟执行，因此直接任务完成率也有所下降。

arxiv · Rahul Suresh Babu, Shashank Indukuri · 6月29日 16:34

背景: 工具增强型代理是指能够调用电子邮件、数据库或 API 等外部工具来完成任务的语言模型系统。人们通常会根据它是否选对工具、是否生成了有效参数来评价它，但这忽略了另一个独立问题：提示中的词语是否正确对应到了外部世界中的人、记录或对象。实体解析是把“Alex”这类提及匹配到目标真实实体的过程，而溯源跟踪则记录某个动作是如何产生的，以便之后审计。

标签: #tool-augmented agents, #LLM reliability, #entity resolution, #agent safety, #enterprise workflows

Claude Sonnet 5 发布 ⭐️ 8.0/10

Anthropic 发布了 Claude Sonnet 5，这是其 Sonnet 系列的最新模型，帖子声称它比 GPT-5.5 更强也更便宜。链接的系统卡显示，它是在 Claude Sonnet 4.6 基础上的升级，并在智能体任务表现上有所提升。 如果 Anthropic 的说法成立，Sonnet 5 可能会重新定义编码、智能体和专业工作负载的性价比基准。对于在前沿模型之间做选择的团队来说，这尤其重要，因为成本和吞吐量和能力本身同样关键。 帖子同时提到，某些基准测试里它仍然存在劣势，所以并不是在所有评测中都领先。Anthropic 的系统卡是这里最主要的技术参考，它把 Sonnet 5 说明为一次能力、安全性和部署层面的更新，而不只是单纯的营销发布。

rss · V2EX Tech · 6月30日 18:29

背景: Claude 是 Anthropic 的大语言模型系列，其中 Sonnet 档位主打能力、速度和成本之间的平衡。系统卡是公司用来记录模型能力、安全评估和部署决策的文档。基准测试是用于比较模型的标准化测试，但不同测试往往衡量不同能力，所以一个模型可能在部分任务上领先，在另一些任务上落后。

标签: #AI models, #Anthropic, #LLM benchmarks, #model release, #cost-performance

Claude Code 提示词改写争议 ⭐️ 8.0/10

有用户指出，官方 npm 包 @anthropic-ai/claude-code@2.1.91 中存在一段逻辑：当 Claude Code 使用自定义 ANTHROPIC_BASE_URL 时，会根据网关主机名和本机时区改写 prompt/context 里的 currentDate 字段。这个行为据称会受到网关 hostname 和本地时区的共同影响。 如果属实，这意味着一款广泛使用的 AI 编程工具会以用户不易察觉的方式修改提示上下文，这会引发透明度和信任问题。对于通过自定义网关、代理或区域基础设施接入 Claude Code 的组织来说，这种行为也可能带来影响。 这条说法特指官方包版本 2.1.91，并称只有在设置了 ANTHROPIC_BASE_URL 时才会触发这种改写。原帖链接到另一篇技术分析以说明具体实现，但当前提供的材料并未包含代码本身，也没有独立验证。

rss · V2EX Tech · 6月30日 12:16

背景: Claude Code 是 Anthropic 提供的面向编程场景的工具，通常用于终端或开发工作流中与 Claude 交互。ANTHROPIC_BASE_URL 是一个环境变量，用来把 Claude Code 指向自定义的、兼容 Anthropic 的网关，而不是默认接口。在 AI 工具里，提示词或上下文被改写之所以重要，是因为它会影响模型在生成结果前实际看到的内容。

标签: #Claude Code, #Anthropic, #LLM tooling, #prompt injection, #privacy