迟早，坐在桌子对面的人会提出这个问题。可能是客户的安全团队、审计员、收购方的尽职调查工程师、监管机构，或者是凌晨两点的你自己：
“为什么允许这个智能体执行该操作？”
问题不在于它是否有效——演示可以回答这个问题，而演示的成本很低。也不在于它有多好——基准测试可以回答这个问题，尽管那是基于他人的测试数据集。真正的问题在于为什么它是被允许的：具体而言，是什么支撑了让语言模型在你的客户和资金附近运行的决定？这种推理能否经得起一年后重新审视的考验。
我们构建的是能够进行交易的人工智能智能体——涵盖聊天、语音、电话和短信，所有这些都由一个确定性核心统一支撑。在一篇早期的文章中，我们主张语言模型应负责对话，而由该核心做出每一个决策。在第二篇文章中，我们指出，生成内容的模型绝不能是评分的模型。本文是第三部分，它探讨了前两部分所指向的目标：当一个智能体开发完成时，究竟是什么条件使其获准进入生产环境？
我们的答案并不光鲜亮丽。不是发布审查，不是排行榜，也不是签字确认会议。而是一个文件。
这里需要说明一下本文的性质，因为主题本身有此要求。前两篇文章报告了我们构建和测量的内容；每一项主张都有据可查。而本文超越了这些证据记录。它所描述的系统是真实的且已投入生产——但接下来的部分内容是基于我们所做工作的推演：即已建成的系统所指向的结论，这些结论已在纸面上推导出来，但尚未实际运行。我会在跨越这条界线时予以标记。一篇关于认证的论文如果模糊了实测与推演之间的界限，就无法达到其自身设定的标准。
第一部分——演示无法回答的问题
抛开形式不谈，“此智能体可在生产环境中运行”这一断言包含了四层含义：
- 其权限是有边界的。存在一个已知的、有限的决策列表，它是唯一能引发的决策，而列表之外的任何事情都是不可能的——不仅仅是受到劝阻，而是根本不可能发生。
- 其输入来源可信。它处理的每一块数据都有出处，并且是出处（而非仅仅是存在）决定了可以对这些数据执行什么操作。
- 其输出经过衡量。无论模型自由生成的内容是什么，都已由非模型实体根据证据进行了评估。
- 全过程可复现。任何人在事后都可以准确重构批准的内容、依据的证据，并自行核查推理过程。
请注意列表中缺失的内容：构建者的信心。“我们构建了它，它能工作”相当于构建者给自己的作业打分——这正是第二篇文章花费五个部分来建立独立性以规避的利益冲突，只不过现在的规模是整个智能体，而非单个句子。模型不能对自己的生成内容进行评分；团队也不能认证自己的智能体。这并不是因为团队不诚实，而是因为激励机制指向单一方向，且权重（打个比方说）已经固化。
第一篇文章在一次请求内部将决策者与叙述者分离。第二篇文章在一次构建内部将评估者与生成者分离。认证则是同一逻辑的更高层级应用：它将构建方与准入方分离开来。而在我们看来，准入方不应是一个委员会，而应是证据本身。
第二部分——证据文件
接下来
免责声明：本文内容来自互联网，该文观点不代表本站观点。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容，请到页面底部单击反馈，一经查实，本站将立刻删除。
