红队测试

模拟攻击者视角系统性探测模型漏洞的过程。

红队测试通过构造恶意、越狱与边界输入寻找模型的安全与行为缺陷，结果用于改进对齐训练与护栏。它贯穿模型发布前评测与上线后的持续巡检。