作者：里克·福尔格曼
加利福尼亚州的一位房东在租户搬离后有21天时间退还押金，或寄送一份详细的扣款清单。若故意错过这一期限，罚款最高可达押金的两倍。而这一时限并不区分信件是由真人还是由软件发出；无论哪种情况，都必须有人为此承担责任。
我经常思考这个问题。在我们公司 Get Covered，如今我们在超过 300 万套出租房源上运行着 16 个 AI 智能体。当我们构建这些智能体时，技术层面的问题反倒显得更容易解决。真正棘手的问题是：每个智能体究竟该向谁汇报？
瑞克·福尔格曼，Get Covered 的首席运营官。
大多数企业即将面临同样的问题，而做好准备的却寥寥无几。德勤2026年AI现状调查发现，目前有23%的企业至少在一定程度上使用了智能体 AI，而74%的企业预计将在两年内开始使用。
与此同时，Gartner 预测，到 2027 年底，超过 40% 的智能体 AI 项目将被取消。
这些数字表明，应当像管理受监管岗位的员工那样来管理代理，制定书面规则、明确职责范围、配备管理人员，并定期进行审查。
以下是我们行之有效的方法，也是我建议任何决策者在扩展规模时重点关注的事项。
从已经有一套规则的工作开始
对于智能体而言，最佳的早期候选场景是那些规则早已存在于某处、而非依赖于任何人的头脑之中的任务：例如一项法律条文、一份合同条款，或供应商协议中的一项保险要求。
获取供应商的保险证明文件。在整个行业中，物业团队每周平均要为每处物业花费约三小时通过电子邮件催收这些文件。这项工作既繁琐，却又完全可标准化。
诸如此类的分配任务为决策者带来了两大优势：其一，智能体拥有可供对照其输出的客观依据；其二，您的团队能够在无需就判断标准展开争论的情况下对结果进行审计。
麦肯锡最新发布的《人工智能现状》研究报告发现，那些从人工智能中获得显著利润回报的少数企业——约占受访企业的6%——其工作流程被彻底重新设计的可能性几乎是其他企业的3倍。
以我的经验来看，这种重新设计首先从将规则书面化开始。如果新员工在入职第一天都难以按照你对某项决策的描述去执行，那么一线客服人员也一样无法做到。
通过工作流设置自主性
我经常与科技高管交流，他们常常会问某个AI系统是否具备自主性，仿佛这是一项产品固有的、一成不变的属性。实际上，同一个智能体在不同场景下应当以不同程度的自主性运行。
在 Get Covered，我们为每位代理设置了不同的权限级别。例如，针对证书将于下月到期的供应商，提醒通知可以自动发送；而针对已申请情感支持动物的居民，其回复则绝不会自动发出。
对于任何领导团队而言，一项有益的练习是列出每位客服人员将参与的每一个工作流程，并针对每个环节提出一个问题：如果这一操作出现错误，我们多久才能发现，到那时又会付出怎样的代价？快速发现且成本低廉，就能为客服人员争取更大的回旋余地。
为每位客服人员分配一位拥有姓名的负责人
在我职业生涯的早期，我了解到，每一项自动化的信贷决策最终都必须向客户、监管机构，或两者同时作出解释。仅仅说“是模型做出的决定”从来都不是一个令人满意的答复。
这一点仍然成立，只是如今代理人开展业务的频率更高、覆盖的系统也比任何承保模型都要多。
因此，我们公司每位代理人都有一位最终责任人，就像团队或预算一样。该责任人会审查其错误日志，决定何时扩大或缩小其自主权，并对此承担责任。
所有权还能避免一个更隐性的问题。当多个团队各自独立地部署代理时，没有人能够察觉这些代理之间是否存在相互矛盾之处。
约束实际位于何处
在当今的市场环境中，模型不断优化是不可避免的。一家公司对于“由谁决定什么”的清晰界定并不会自动改善。Gartner 的取消预测正印证了这一点：大多数失败的代理项目之所以失败，是因为没有人明确其价值或有效管控风险，而这二者本质上都是管理层面的问题。
对于即将迈入2027年的决策者们，我的建议是：像对待一名在受监管岗位上工作的新员工一样来管理每一个智能体。为其制定明确的规则，限定其职责范围，并指派一名主管，负责核查其工作并评估其绩效。
这样做 的公司随着时间推移将能够赋予客服人员更多职责，因为他们将拥有足以证明其合理性的依据。而那些跳过这一步的企业，则将在2027年忙着解释为何其软件做出了无人批准的举动。
Rick Folgmann 是 Get Covered 公司的首席运营官，这是一家保险科技公司，只需轻点几下即可提供经济实惠的财产保险保障。他在金融与保险行业拥有超过25年的高管领导经验。
插图：多姆·古兹曼