治理失控AI代理的办法，可能仍然是使用更多AI
The fix for rogue AI agents could be more AI
随着企业把更长、更复杂的任务交给AI代理，监督问题日益突出：代理的行动速度、持续时间和规模都可能超出人类实际审核能力。一个潜在方向是使用AI来辅助监督其他代理。
企业正在把更长、更复杂的任务交给AI代理，但代理能够以更快速度、更长时间并以更大规模行动，人类难以逐项审查。报道提出，解决这类监督瓶颈的一种可能办法，是使用另一个AI系统监控和评估代理行为。
对 AI 行业的影响
代理规模扩大后，监督本身会成为系统瓶颈，单靠增加人工审核难以线性扩展。AI监督器可以降低审核成本、扩大覆盖率，但也会引入监督器失误或共同失配的风险，因此企业需要分层权限、抽样人工复核和可追溯日志。
原文参考
来源：TechCrunch AI · 2026-09-17
As companies hand off longer and more complex tasks to AI agents, they are running into an oversight problem: Agents can act faster, longer, and at greater volume than humans can realistically review.