Tag: #ai-safety

2 篇文章

AI Tools16 min read
The Coming Loop：當 Coding Agent 的真正戰場移到 Harness 外層

Armin Ronacher 在 The Coming Loop 裡討論 coding agent 的下一個重點：不是模型內部 tool loop，而是外層 harness loop。任務進 queue、機器嘗試、harness 判斷是否完成、再續跑或重開 session。這種 loop 在 porting、benchmark、security scan 很有效，但用來寫長期核心程式時，會放大不可理解、過度防禦與責任外包。