Soteria:带运行时约束的形式化验证 LLM 智能体规划
原文标题:Soteria: Formally Verified Planning with Runtime Enforcement for Safe LLM Agents
导读
这项工作用形式化验证加运行时强制执行,让多步工具调用的智能体既完成任务又不越过领域规则。
推荐理由
涉及大模型与智能体 · 与本主题相关
来源:arXiv cs.AI · arxiv.org
原文标题:Soteria: Formally Verified Planning with Runtime Enforcement for Safe LLM Agents
这项工作用形式化验证加运行时强制执行,让多步工具调用的智能体既完成任务又不越过领域规则。
涉及大模型与智能体 · 与本主题相关
来源:arXiv cs.AI · arxiv.org