Discord 承认 AI 审核漏洞误封大量无辜用户
Discord admits AI moderation bug wrongfully banned users over harmless images
Discord 确认其 AI 内容审核系统存在漏洞，自五月以来错误封禁了多名发布无害图片的用户，上周末又有约两百名用户被误封。
报道核心
Discord 正式承认其 AI 内容审核工具存在误判漏洞，导致大量发布正常图片的用户被错误封禁。该问题自五月起持续存在，直到上周末集中爆发了约两百例误封后，团队才定位并修复了故障。
关键细节
受影响的用户主要是在正常语境下分享表情包、宠物照片和艺术创作的社区成员。AI 审核系统将这些内容误判为违规，触发了自动封禁流程，且申诉通道响应缓慢。Discord 表示已为所有受影响用户恢复账号，并承诺改进审核模型的置信度阈值和人工复核流程。
行业反应
该事件再次引发对 AI 自动审核系统可靠性的质疑。电子前哨基金会（EFF）呼吁所有平台在使用 AI 审核时必须保留有意义的人工申诉机制，避免算法误判导致用户损失。
对 AI 行业的影响
对 Discord 而言，此次事件损害了社区信任，尤其在创作者群体中。更广泛地看，Meta、Reddit 和 X 等高度依赖 AI 审核的平台都将面临类似的合规压力。AI 审核工具供应商如 Perspective API 和 Hive Moderation 需要进一步提升精确率以应对行业信任危机。
原文参考
来源：TechCrunch AI · 2026-07-07
The company confirmed that the issue had been affecting accounts since May, with an additional 200 users banned over the weekend before its team identified and fixed the problem.