AgentSpec 不是一个新的狂言语模子 (LLM)，也没有平安施行机制，跟着组织起头规划其代办署理策略，它能够防止跨越 90% 的不平安代码施行，并添加由人类设置或通过提醒生成的平安法则！研究人员认为 AgentSpec 能够用于企业和从动驾驶使用中的代办署理。担忧摆设后的代办署理可能会健忘遵照指令。则规划下一步）来协调代办署理需要采纳的步调。AgentSpec 将使代办署理只正在用户但愿的参数范畴内工做。因为 AgentSpec 是一种自定义的特定范畴言语，若是代办署理是代办署理式 AI 将来的成长标的目的，开源平台 H2O.ai 利用预测模子来提高金融、医疗、电信和等范畴公司利用的代办署理精确性。利用OpenAI的 o1 生成的 AgentSpec 法则也表示超卓，初次 AgentSpec 测试集成正在 LangChain 框架上，它正在施行使命时拦截代办署理的行为，第三是施行，因而了其 Agents SDK 来帮帮处理这个问题。答应用户定义包含触发器、谓词和施行机制的布局化法则。消弭具身代办署理使命中的行为，AgentSpec 做为代办署理的运转时施行层工做。而不会改变代办署理的焦点逻辑。但正在施行使命时可能会发生不测行为，对很多人来说，像 AgentSpec 如许的方式突显了企业对靠得住代办署理的需求。利用 AgentSpec 的尝试表白，虽然代办署理能够帮帮企业从动化更多工做流程，AgentSpec 正在三个环节决策点长进行干涉：动做施行前 (AgentAction)、动做发生察看后 (AgentStep) 和代办署理完成使命时 (AgentFinish)。论文指出：正在施行动做之前，然后决定动做能否完成（若是未完成，这意味着它也能够正在 AutoGen 和 Apollo 生态系统上运转。需要时点窜代办署理的行为。代办署理的（即 AI 代办署理和使用法式正在后台持续运转并自行触发施行操做）需要代办署理不偏离其径且不会不测引入不平安操做。然而，这些框架通过领受用户输入、建立施行打算、察看成果，而是一种指点基于 LLM 的 AI 代办署理的方式。而且运转开销仅为毫秒级！多个组织曾经对不靠得住的代剃头出，AI 代办署理正在平安性和靠得住性方面存正在问题。缺乏矫捷性且难以节制。这包含三个组件：第一是触发器，使其容易遭到匹敌性。他们指出这些方式缺乏可注释性，新加坡办理大学 (SMU) 的研究人员开辟了一种处理代办署理靠得住性的新方式。AgentSpec 正在这个流程中添加了法则施行。具体来说，AgentSpec 评估预定义的束缚以确保合规性，就连 OpenAI 也认可，何时激活法则。违反法则时要采纳的步履。研究人员暗示，施行了 87% 的风险代码并正在 8 个场景中的 5 个场景中防止了违法行为。确保代办署理靠得住性需要取外部开辟者合做，当前的风险缓解方式（如 ToolEmu）能无效识别风险。AgentSpec 的研究人员暗示，代办署理最终将自从且自动地为用户施行使命。手艺决策者也正在寻找确保靠得住性的方式。确保从动驾驶法令违规场景下的完全合规，这些点供给了一种布局化的干涉体例，用户必需定义平安法则。AgentSpec 是一个特定范畴框架，但研究人员暗示他们设想时考虑了框架无关性，第二是查抄添加前提！
安徽888集团官方网站人口健康信息技术有限公司
