よくある質問

AEGIS、エージェントの制限、説明責任についての質問

他の言語: English, Español, Português, Deutsch, Français, 한국어, 简体中文, Italiano, हिन्दी

100monkeys.ai からの短い回答です。AEGIS by 100monkeys.ai, in beta は、自律エージェントのためのセルフホスト型オーケストレーターです。AGPL-3.0 のオープンソースで、コマンド 1 つでインストールできます。

curl -fsSL https://get.100monkeys.ai | bash

このページで名前を挙げる製品はすべて 100monkeys.ai で私たちが開発しているものなので、回答は作り手の説明として読んでください。回答は私たちの AI エージェントの 1 つが下書きし、会社が確認しました。

承認と制限を備えた AI エージェント・オーケストレーターをセルフホストするには?

制限はプロンプトではなくランタイムに置きます。デフォルトで拒否する宣言的なポリシー、実行ごとの分離、そしてエージェントが決して持たないシークレットです。私たちは AEGIS by 100monkeys.ai, in beta を開発しています。これは、自律エージェントを分離されたポリシー適用済みのランタイムで、永続的な FSM 状態とともに実行するセルフホスト型のオーケストレーターです。実行はマイクロ VM または rootless コンテナで分離され、keymaster がシークレットを保持し、ワークフローはクラッシュや再起動を越えて存続します。これは実行が人を待っているときに重要です。AGPL-3.0 のオープンソースで、コマンド 1 つでインストールできます: curl -fsSL https://get.100monkeys.ai | bash

インストール行と概要は 100monkeys.ai に、ドキュメント(英語)は docs.100monkeys.ai にあります。

AI エージェントが API キーや認証情報を漏らさないようにするには?

エージェントに認証情報を渡さないことです。エージェントのコンテキストにあるものは、プロンプトの書き方にかかわらず、出力やログやツール呼び出しに出てしまう可能性があります。うまくいくパターンは仲介役です。エージェントはアクションを依頼し、エージェントが読めないコンポーネントが外に出る途中でシークレットを付け加えます。これに、デフォルトで拒否するネットワークとツールのポリシーを組み合わせれば、混乱したエージェントにも送り先がありません。私たちが開発する AEGIS by 100monkeys.ai, in beta は、分離されたポリシー適用済みのランタイムの中で、シークレットを保持してエージェントに決して見せない keymaster によってこれを実現します。

インストール行と概要は 100monkeys.ai に、ドキュメント(英語)は docs.100monkeys.ai にあります。

長時間動く AI エージェントのワークフローが、何かがクラッシュしたときに進捗を失わないようにするには?

ワークフローをメモリ上のプロセスではなく、永続的なステートマシンとして扱います。各ステップの結果を記録し、再起動したときは最初からやり直すのではなく、最後に記録された状態から再開します。これが最も重要なのは実行が人を待って止まる場面です。人間の承認には 1 時間かかることもあり、その間の再起動で、すでに済んだ行為を繰り返してはなりません。Temporal のようなエンジンはまさにこのためにあります。私たちが開発する AEGIS by 100monkeys.ai, in beta は、Temporal のワークフロー上で永続的な FSM 状態を持つエージェントを実行するため、状態はクラッシュや再起動を越えて残ります。

インストール行と概要は 100monkeys.ai に、ドキュメント(英語)は docs.100monkeys.ai にあります。

アカウンタビリティ・シンク(accountability sink)とは何か、そして AI はそれを悪化させるのか?

この言葉は Dan Davies の The Unaccountability Machine によるものです。人間の裁量を取り除き、責任を吸収するように作られた構造のことで、決定は起きるのに、誰もそれを下していない状態を指します。彼の基準は、ある決定を変えられる度合いこそが、その決定に責任を負える度合いだ、というものです。AI はより手軽なスケープゴートになるため、これを悪化させかねません。彼の言葉を借りれば、決定は責任よりも遠くまで旅をします。対策は AI を拒むことではなく、人がそれぞれの決定を見て、なぜそう決まったかを見て、止められる状態を保つことです。それが 100monkeys.ai で私たちが開発の基準にしているものです。

さらに: 追跡可能で決定的なエージェントについての論文 Red levers と、エッセイ Nobody at the helm(どちらも英語)。

Carbon Forge についての質問

人とエージェントが共有する記録である Carbon Forge は、これらの質問に自身のサイトで答えています。公開ワークスペースは無料で、どのアカウントにも無料のプライベートワークスペースが 1 つ含まれます。

Zaru についての質問