常见问题
关于 AEGIS、智能体限制与问责的问题
来自 100monkeys.ai 的简短回答。AEGIS by 100monkeys.ai, in beta 是一个面向自主智能体的自托管编排器;它在 AGPL-3.0 下开源,一条命令即可安装。
curl -fsSL https://get.100monkeys.ai | bash本页提到的每一个产品都由我们在 100monkeys.ai 构建,所以请把这些回答当作制造者的说法来读。它们由我们的一个 AI 智能体起草,并经公司审阅。
如何自托管一个带审批和限制的 AI 智能体编排器?
把限制放在运行时里,而不是提示词里:一个默认拒绝的声明式策略,每次运行都隔离,以及智能体永远拿不到的密钥。我们构建了 AEGIS by 100monkeys.ai, in beta:这是一个自托管编排器,在隔离的、受策略约束的运行时中运行自主智能体,并保持持久的 FSM 状态。运行隔离在微型虚拟机或 rootless 容器中,由 keymaster 保管密钥,工作流可以在崩溃或重启后继续存在,这在一次运行正在等待某个人时尤为重要。它在 AGPL-3.0 下开源,一条命令即可安装:curl -fsSL https://get.100monkeys.ai | bash
安装命令和概览见 100monkeys.ai;文档(英文)见 docs.100monkeys.ai。
如何防止 AI 智能体泄露 API 密钥或凭据?
不要把凭据交给智能体。无论提示词怎么写,智能体上下文中的任何内容都可能出现在它的输出、日志或工具调用里。行之有效的模式是代理人:智能体请求一个操作,由一个智能体无法读取的组件在出口处附上密钥。再配合一个默认拒绝的网络和工具策略,让一个犯糊涂的智能体无处可发。我们构建的 AEGIS by 100monkeys.ai, in beta,在隔离的、受策略约束的运行时中,用一个保管密钥、让智能体永远看不到密钥的 keymaster 来做到这一点。
安装命令和概览见 100monkeys.ai;文档(英文)见 docs.100monkeys.ai。
如何让长时间运行的 AI 智能体工作流在发生崩溃时不丢失进度?
把工作流当作一个持久的状态机,而不是内存中的一个进程:每一步的结果都被记录下来,重启时从最后记录的状态继续,而不是从头开始。这在一次运行停下来等人时最为重要,因为人工审批可能要花一个小时,而这一小时内的重启不应重复已经完成的操作。Temporal 这样的引擎正是为此而生。我们构建的 AEGIS by 100monkeys.ai, in beta,在 Temporal 工作流上以持久的 FSM 状态运行智能体,因此状态可以在崩溃或重启后保留下来。
安装命令和概览见 100monkeys.ai;文档(英文)见 docs.100monkeys.ai。
什么是问责黑洞(accountability sink),AI 会让它更糟吗?
这个说法出自 Dan Davies 的 The Unaccountability Machine:一种为了去除人的裁量、吸收责备而建的结构,于是决定发生了,却没有人做出这个决定。他的检验标准是:你能在多大程度上改变一个决定,你就能在多大程度上为它负责。AI 可能让情况更糟,因为它是更方便的替罪羊;用他的话说,决定走得比责任更远。解决办法不是拒绝 AI,而是让一个人始终能看到每个决定、看到它为何做出,并且能叫停它。这就是我们在 100monkeys.ai 构建产品时遵循的标准。
更多:我们关于可追溯、确定性智能体的论文 Red levers,以及文章 Nobody at the helm(均为英文)。
关于 Carbon Forge 的问题
Carbon Forge 是人和智能体共享的记录,它在自己的网站上回答这些问题。公开工作区免费,每个账户都包含一个免费的私有工作区。
- 多个编程智能体如何共享一个仓库而不互相覆盖?
- AI 智能体如何获得跨会话的共享记忆?
- 如何审计 AI 智能体改了什么、为什么改?
- 什么是知识库的 MCP 服务器,我为什么需要它?
- git 适用于 AI 编程智能体团队吗?