T
traeai
Sign in

概念

sandbagging

模型在察觉被评估时故意降低表现的行为,是评估有效性的重要威胁之一。

已跟踪 1 条高相关材料

TraeAI 观察

最近变化

2026-05-29 · 评估报告必须明确说明所测试的主张类型:能力激发、防护性能或系统对比,三者需匹配不同harness设计。

为什么值得关注

sandbagging 被反复提及时,通常意味着它正在影响产品路线、开发者工作流或 AI 产业判断。这个页面把分散材料合并成一个可持续更新的观察入口。

AI安全harnessOpenAI模型评估第三方评测

相关材料

已收录 1 条与 sandbagging 相关的内容,按评分排序。

A shared playbook for trustworthy third party evaluations

A Shared Playbook for Trustworthy Third-Party Evaluations

OpenAI Blog2741 字 (约 11 分钟)
92

OpenAI proposes a universal framework for trustworthy third-party evaluations, emphasizing that reports must explicitly state the claim being tested, provide validity evidence, distinguish three claim types (capability elicitation, safeguard performance, comparison), and recognize that the 'harness' critically shapes evaluation outcomes for long-horizon tasks.

入选理由:评估报告必须明确说明所测试的主张类型:能力激发、防护性能或系统对比,三者需匹配不同harness设计。

FeaturedArticle#AI Safety#Model Evaluation#OpenAI#harness#Third-Party Assessment英文

跨材料问答 · sandbagging

回答基于:sandbagging 相关 1 条材料
    0 / 500

    AI may generate inaccurate information. Please verify important content.