ब्लॉग · गाइड · 28 अक्टूबर 2026
प्रोडक्शन में AI एजेंटों के लिए ट्रेसबिलिटी चेकलिस्ट: क्या दर्ज करें, किस पर हस्ताक्षर करें, समीक्षक को क्या दिखाएँ
प्रकटीकरण: 100monkeys.ai एक ओपन-सोर्स एजेंट ऑर्केस्ट्रेटर AEGIS बनाता है और नीचे उद्धृत awesome-agent-traceability सूची का रखरखाव करता है। यह चेकलिस्ट किसी विक्रेता से बँधी नहीं है: हर बिंदु खुले टूल से पूरा किया जा सकता है, और किसी के लिए हमारे उत्पादों की ज़रूरत नहीं है। इसका मसौदा हमारे एक AI एजेंट ने तैयार किया और कंपनी ने इसकी समीक्षा की; यह हिन्दी संस्करण मूल अंग्रेज़ी गाइड का अनुवाद है।
जब कोई AI एजेंट किसी असली सिस्टम पर कार्य करता है, तो बाद में कोई न कोई पूछेगा कि उसने क्या किया और क्यों। यह चेकलिस्ट वह काम है जो उस सवाल के आने से पहले करना है: हर रन में क्या दर्ज करें, लॉग पर भरोसा किया जा सके इसके लिए किस पर हस्ताक्षर करें, और समीक्षा करने वाले व्यक्ति के सामने क्या रखें। हर बिंदु awesome-agent-traceability सूची के किसी खुले मानक या टूल का नाम लेता है।
यह ढाँचा हमारे पेपर Red levers: traceable, deterministic agents in production (अंग्रेज़ी में) से आता है, जो किसी एजेंट सिस्टम को प्रोडक्शन में तब सुरक्षित मानता है जब कोई व्यक्ति उसके हर निर्णय को, उसके कारण को देख सके, और उसे रोक सके। लॉगिंग पहली बात के लिए है, दर्ज किया गया कारण दूसरी के लिए, और समीक्षा का चरण तीसरी के लिए।
भाग 1. क्या दर्ज करें
चरण 1. हर रन को एक पहचान दें
हर रन की शुरुआत में उसे एक id दें और उसे हर मॉडल कॉल, टूल कॉल और साइड इफ़ेक्ट तक ले जाएँ। इसके बिना लॉग घटनाओं का ढेर है जिसे कोई समूहों में नहीं बाँट सकता। जनरेटिव AI के लिए OpenTelemetry सिमैंटिक कन्वेंशन के trace और span id का उपयोग करें, जो मॉडल कॉल, एजेंट चरणों और टूल इनवोकेशन के लिए साझा नाम तय करते हैं, ताकि अलग-अलग फ़्रेमवर्क के ट्रेस एक ही तरह पढ़े जा सकें। एजेंट span के कन्वेंशन एजेंट बनाने और चलाने को कवर करते हैं।
चरण 2. अनुरोध और इरादे को शब्दों में दर्ज करें
दर्ज करें कि एजेंट से क्या माँगा गया, किसने माँगा, और उसे क्या कारण दिया गया। फिर हर परिणाम वाले कार्य पर एजेंट का अपना एक-पंक्ति का कारण दर्ज करें। कार्य के क्षण में लिखा गया कारण सबूत है; बाद में गढ़ा गया कारण एक कहानी है।
चरण 3. मॉडल और उसकी सेटिंग्स दर्ज करें
हर मॉडल कॉल के लिए: प्रदाता, मॉडल का नाम और संस्करण, आउटपुट बदलने वाले पैरामीटर (temperature, अधिकतम टोकन, दिए गए टूल) और टोकन की गिनती। जिस व्यवहार को किसी मॉडल संस्करण से नहीं जोड़ा जा सकता, उसे प्रदाता के अपडेट के बाद दोहराया नहीं जा सकता।
चरण 4. हर टूल कॉल को उसके इनपुट और आउटपुट के साथ दर्ज करें
टूल का नाम, आर्ग्युमेंट, नतीजा और समय दर्ज करें। निजी डेटा को सहेजने के बाद नहीं, पहले छिपाएँ; Presidio एक खुला विकल्प है। जिस टूल कॉल ने कहीं कुछ लिखा, उसे यह भी दर्ज करना चाहिए कि उसने क्या बदला: diff, रिकॉर्ड id, संदेश id।
चरण 5. हर नीति निर्णय दर्ज करें
अगर किसी नीति इंजन ने किसी कॉल को अनुमति दी या मना किया, तो वह निर्णय और उसे लेने वाला नियम दर्ज करें। Open Policy Agent ठीक इसी के लिए निर्णय लॉग रखता है। मना करना उतना ही सहेजने योग्य है जितना अनुमति देना: यह दिखाता है कि सीमा टिकी रही।
चरण 6. पहचान और पहुँच का दायरा दर्ज करें
दर्ज करें कि रन ने कौन-सा क्रेडेंशियल या टोकन इस्तेमाल किया और वह क्रेडेंशियल किन चीज़ों तक पहुँच सकता था, उसका गुप्त मान नहीं। समीक्षक का सवाल अक्सर होता है "क्या यह इससे बुरा कर सकता था", और जवाब वह दायरा है जो उसके पास था।
चरण 7. रन को दोबारा चलाने योग्य बनाएँ
काम को दोबारा चलाने लायक पर्याप्त जानकारी सहेजें: इनपुट, हर चरण पर स्थिति, और घटनाओं का क्रम। Temporal जैसे ड्यूरेबल एक्ज़ीक्यूशन इंजन वर्कफ़्लो का इवेंट इतिहास रखते हैं, जिससे वर्कफ़्लो को निर्धारित (deterministic) तरीके से दोबारा चलाया जा सकता है।
भाग 2. किस पर हस्ताक्षर करें
चरण 8. लॉग को केवल-जोड़ने-योग्य और श्रृंखलाबद्ध बनाएँ
जो रिकॉर्ड बाद में फिर से लिखा जा सकता है, वह कुछ साबित नहीं करता। घटनाओं को केवल-जोड़ने-योग्य (append-only) स्टोर में लिखें और हर प्रविष्टि को हैश से पिछली प्रविष्टि से जोड़ें, ताकि हटाई या बदली गई प्रविष्टि श्रृंखला तोड़ दे। IETF का SCITT वर्किंग ग्रुप केवल-जोड़ने-योग्य पारदर्शिता सेवाओं में दर्ज हस्ताक्षरित कथनों को परिभाषित करता है, जो इसके लिए तैयार ढाँचा है।
चरण 9. एजेंट ने जो बनाया उस पर हस्ताक्षर करें
जब कोई रन कोई आर्टिफ़ैक्ट (बिल्ड, रिपोर्ट, जारी की गई फ़ाइल) बनाता है, तो उसके साथ यह हस्ताक्षरित कथन जोड़ें कि वह कैसे बना। in-toto Attestation Framework ऐसे कथन ले जाता है, और SLSA बिल्ड के स्रोत-प्रमाण (provenance) के स्तर तय करता है। मीडिया के लिए C2PA विनिर्देश हस्ताक्षरित स्रोत-प्रमाण मैनिफ़ेस्ट जोड़ता है, AI द्वारा बनाई या संपादित सामग्री के लिए भी।
चरण 10. स्वीकृति पर हस्ताक्षर करें
अगर किसी व्यक्ति ने किसी कार्य को स्वीकृति दी, तो दर्ज करें कि किसने, कब, और ठीक-ठीक क्या देखकर स्वीकृति दी। स्वीकृति को सामग्री से बाँधें: अगर स्वीकृति के बाद कार्य बदल जाए, तो वह स्वीकृति मान्य नहीं रहती।
भाग 3. समीक्षक को क्या दिखाएँ
चरण 11. सारांश नहीं, असल कार्य दिखाएँ
समीक्षक को वह ईमेल, diff या चलने वाली कमांड दिखनी चाहिए, जो रन के अपने आउटपुट से बनी हो। स्वीकृति चाहने वाले उसी मॉडल का लिखा सारांश समीक्षा की सतह नहीं है।
चरण 12. कार्य के बगल में कारण दिखाएँ
एजेंट के दर्ज इरादे को उसके किए बदलाव के बगल में रखें। "यह पंक्ति यहाँ क्यों है" का जवाब उस वाक्य से मिलना चाहिए जो पंक्ति के शामिल होते समय लिखा गया।
चरण 13. जिन सीमाओं में वह चला उन्हें दिखाएँ
रन के बगल में नीति और क्रेडेंशियल का दायरा दिखाएँ। जो समीक्षक देखता है कि एजेंट केवल एक ब्रांच पर लिख सकता था, वह रन को उस समीक्षक से अलग पढ़ता है जिसे मानना पड़ता है कि वह हर चीज़ तक पहुँच सकता था।
चरण 14. समीक्षक को रोकने का साधन दें
हर समीक्षा स्क्रीन पर मना करने का तरीका होना चाहिए, और वह मनाही टिकनी चाहिए। Red levers में उद्धृत EU AI Act का अनुच्छेद 14 चाहता है कि उच्च-जोखिम सिस्टम की निगरानी करने वाले लोग "intervene in the operation of the high-risk AI system or interrupt the system" (उच्च-जोखिम AI सिस्टम के संचालन में हस्तक्षेप कर सकें या सिस्टम को रोक सकें)। इसे यहाँ उद्धृत करना नियंत्रण के स्वरूप के बारे में है, अनुपालन का दावा नहीं।
खुद को जाँचें
पिछले हफ़्ते का एक रन चुनें और केवल रिकॉर्ड से जवाब देने की कोशिश करें: किसने माँगा, एजेंट ने क्या कॉल किया, क्या बदला, किस नीति के तहत, किसने स्वीकृति दी, और क्या रिकॉर्ड तब से बदला जा सकता था। हर सवाल जिसका आप जवाब नहीं दे पाते, ऊपर के किसी चरण से जुड़ता है।
हम इसे कैसे लागू करते हैं
हम इस सूची के कुछ हिस्सों के लिए टूल बनाते हैं। AEGIS by 100monkeys.ai, in beta एक सेल्फ़-होस्टेड ऑर्केस्ट्रेटर है जो एजेंटों को अलग-थलग, नीति-लागू रनटाइम में टिकाऊ स्थिति के साथ चलाता है; How to give an orchestrator an approval step (अंग्रेज़ी में) इसके स्वीकृति गेट को उदाहरण के रूप में दिखाता है, और यह इंस्टॉल गाइड इसे सर्वर पर चालू करती है। Carbon Forge कोड और लेखन को एक ही रिकॉर्ड में रखता है, जहाँ blame शामिल किए जाने के समय लिखा गया इरादा दिखाता है।