概念
别名：形式化验证
通过数学方法证明系统在所有可能输入下满足特定属性的技术。
已跟踪 2 条高相关材料
最近变化
2026-05-31 · SafeIntelligence用形式化验证技术检测视觉/表格模型的输入空间边界，现扩展至语言模型的边缘案例生成。
为什么值得关注
Formal Verification 被反复提及时，通常意味着它正在影响产品路线、开发者工作流或 AI 产业判断。这个页面把分散材料合并成一个可持续更新的观察入口。
Test-time verification for AI agents: New from Microsoft Research #ai #agenticai #verification
Microsoft Research · 8.5 分
微软研究院提出Intervene框架，通过LLM-based projection将AI代理输出分解为可验证属性，并实时生成形式化规范以确保合规性。
Spec-Driven Testing for Agents With A Brain the Size of A Planet — Steven Willmott, SafeIntelligence
AI Engineer · 7.8 分
Spec-driven测试是确保AI代理行为可控的关键，尤其在大模型时代，智能不等于可靠，需通过形式化规范而非仅依赖数据集评估系统行为。
已收录 2 条与 Formal Verification 相关的内容，按评分排序。
Microsoft Research proposes the Intervene framework that uses LLM-based projection to decompose AI agent outputs into verifiable properties and generates formal specifications in real-time for compliance assurance.
入选理由：Intervene框架使用LLM将AI输出分解为可验证属性，支持Python或Lean的形式化验证
Spec-driven testing is key to ensuring AI agent behavior is controllable; in the era of large models, intelligence ≠ reliability, requiring formal specs over dataset-only evaluation.
入选理由：SafeIntelligence用形式化验证技术检测视觉/表格模型的输入空间边界，现扩展至语言模型的边缘案例生成。
