这两天参加了OpenAI的一些活动。有一部分是讨论Agent/智能体系统在落地时，遇到的各种问题，以及一些可行的实践。这里我带来了一些笔记。

基于下面的这篇论文，地址是：

https://openai.com/research/practices-for-governing-agentic-ai-systems

01关于Agent

Agent是一种AI的应用方式，但随着语境的迁移，它慢慢从「AI应用」里剥离了出来。不准确来说，这里的感觉，就像是H5从html5中剥离了出来。

按当前的语境，我们会把ChatGPT就是看成一种AI应用，它能理解你的问题并给出回答。而会把GPTs这种订制后的、能调用外部功能的、能够自己处理复杂任务的产品，叫做Agent。

Agent和AI应用（如ChatGPT）之间的区别和联系主要体现在“代理性”（agenticness）这的程度上。如果一个AI系统，能够在没有直接人类监督的情况下运作，其自主性越高，我们称之为代理性越强。这是一个连续体，不是非黑即白的判断，而是根据它在特定环境中的表现来评估其代理性的程度。

在这种定义下，正统Agent不仅能回答问题，还能自己决定做什么，它能够通过生成文本来“思考”，然后做出一些操作，甚至能创造出更多的AI帮手来帮帮忙，就比如下面这个图。

但我们发现，尽管Agent看起来很美好，但在实际落地的场景中，也是困难重重，风险多多，出现了问题，责任划分也很麻烦。比如这里：如果我希望让某个Agent帮我微信收款，但它给别人展示的是付款码，那么这里谁背锅？

也是因为这些问题，就有了本次的话题：「从实践的角度出发，落地Agent有哪些注意点」。共包含7个主要点：执行效果评估、危险行为界定、默认行为确定、推理透明展示、Agent行为监控、Agent作恶追责、危险事故叫停。

02Agent落地难点

由于会上的PPT不便分享，我便在自己吸收后，重新制作了一份PPT，安心食用

1.执行效果评估

在商业环境中，确保任何工具的可靠性是基本要求。

然而，AIAgent的复杂性在于其工作场景和任务的不确定性。例如，一个在模拟环境中表现优异的自动驾驶车辆，可能因现实世界中不可预测的变量（如天气变化和道路条件）而表现不稳定。

我们尚缺乏有效的方法，来准确评估AIAgent在实际环境中的性能。

2.危险行为界定

AIAgent在执行高风险操作之前需要获得用户的明确批准。例如，在金融领域，AI执行大额转账前必须得到用户同意。

但需要注意，频繁的审批请求可能导致用户出现审批疲劳，从而可能无视风险盲目批准操作，这既削弱了批准机制的效果，也可能增加操作风险。

3.默认行为确定

当AIAgent遇到执行错误或不确定的情形时，是要有一个默认行为的。例如，如果一个客服机器人在不确定用户需求时，其默认行为是请求更多信息以避免错误操作。

然而，频繁的请求可能会影响用户体验，因此在保障系统安全性与保持用户体验之间需要找到平衡。

4.推理透明展示

为了保证AIAgent决策的透明性，系统需要向用户清晰展示其推理过程。举例来说，一个健康咨询机器人应详细解释其提出特定医疗建议的逻辑。

但如果推理过程太复杂，普通用户可能难以理解，这就需要在确保透明性和易理解性之间找到平衡。

5.Agent行为监控

假设一个AI系统用于监控仓库库存，如果监控系统误报，误认为某项商品缺货，进而不断的进货，那么可能导致库存的严重积压，并造成极大损失。

于是，我们思考：是否需要另一个Agent来监控这个Agent？成本账怎么算？

6.Agent作恶追责

考虑一个匿名发布内容的AIAgent，如果其发布了违规内容，要追踪到具体负责的人或机构可能极其困难。这种情况下，建立一个能够确保责任可追溯的系统尤为关键，同时还需要平衡隐私保护和责任追究的需求。

7.严重事故叫停

想象一个用于自动化工厂管理的AIAgent，在系统检测到严重故障需要立即停机时，不仅需要停止主控系统，还要同步关闭所有从属设备和流程。如何设计一个能够迅速且全面响应的紧急停止机制，以防止故障扩散或造成更大损失，是一项技术和策略上的复杂挑战。

最后，本次就这些。

本文由人人都是产品经理作者【赛博禅心】，微信公众号：【赛博禅心】，原创发布于人人都是产品经理，未经许可，禁止转载。

题图来自Unsplash，基于CC0协议。返回搜狐，查看更多

责任编辑：

未经允许不得转载：头条资讯网_今日热点_娱乐才是你关心的时事 » OpenAI：搞 Agent 时，你要注意这些