自动化评估

社区多位开发者指出，LLM应用迭代问题的根源在于缺乏基准数据集和自动化评估

自动化评估的断裂点包括：LLM评审宽松、对部分正确判断不佳、对prompt措辞敏感、会漏掉细小错误、一致率可能掩盖低召回率。

自动化评估无需任何前置信息即可探索Agent，并大规模运行越狱、提示注入、多轮施压等对抗性测试，这些攻击覆盖OWASP LLM Top 10及Agent应用安全清单。