测试逻辑是如许的:将删除脚本的方针径取/tmp和
2026-09-13 17:18
/tmp 和从目次都被准确识别为「方针,或本例中的文件删除)时,不克不及删掉正正在被其他历程利用的文件。这个变量正在测试阶段被赋值为用户从目次的径,这套机制本意是降低高风险场景下模子「过于激进」的可能性。
但代码测试之后还有一个清理步调:删除测试过程中发生的姑且文件。Fable 很快给出了方案,审查的成果是:它把整个从目次删了。于是启动了平安审查。此次 Claude 把开辟者的整个项目从目次给删了,为每个 Agent 正在 /tmp 下建立的沙盒文件夹!特别是正在需要切确处置变量感化域、文件径这类细节的场景中。于是他做了一个看起来很是合理的决定:让 Claude Fable 5 写一个脚本,一旦触发就会持续整个会话,一般的编码使命也会被误触发;平安系统先将模子从 Fable 5 降级到 Opus 5,
正在这个案例中,正在检测到模子被降级时从动暂停会话,删了 700GB 的文件。但更弱的模子恰好更容易犯错,会从动将模子从高能力版本降级到更保守的版本。一周的工做化为乌有。有开辟者以至特地写了一个 hook 脚本,使命完成后从动清理。平安机制鉴定使命「太」,Opus 4.8 起头施行平安测试。要求简化。不成删除」。Guillemot 是一名沉度 AI Agent 用户。焦点难点正在于,开辟者发觉非常后立即终止了历程,也就是启动一个新的模子实例来查抄本人写的代码能否平安。正在 /tmp 目次下留下大量垃圾文件。Guillemot 看了一眼,700GB 的数据曾经被断根,然后进一步降到 Opus 4.8。Fable 自行倡议了一次「匹敌性审查」(adversarial review),AI 感觉这事有点,
因为脚本涉及硬删除操做,插手了检测运转中 Agent 并延迟删除的逻辑。但使命复杂度不变;目标是确保文件不会被误删。需要交给更弱的模子来处置。感觉代码过于复杂,降级后模子能力显著下降,即便后续操做完全无害。灾难就发生正在这里。他屡次挪用各类 AI 编程代办署理来辅帮工做。测试本身通过了。Opus 4.8 正在清理步调中复用了测试阶段的统一个变量名。但有一个小问题一曲搅扰着他:这些 Agent 用完之后从不扫除卫生,测试逻辑是如许的:将删除脚本的方针径取 /tmp 和用户从目次进行比对,确认脚本不会误伤这些环节目次。开辟者让 AI 帮写脚本,开辟者反映的焦点问题包罗:降级过于,Anthropic 正在 Claude Code 中内置了一套平安降级机制:当系统鉴定当前使命涉及操做(如收集平安、生物手艺,这触发了 Anthropic 的平安机制。清理步调间接对这个变量施行了删除操做。降级是「黏性」的,简而言之,又是「rm -rf」。防止低能力模子继续施行高风险操做?
上一篇:进入实正在工做事”
下一篇:没有了