अप्रूवल लैडर: AI टीम बिना पूछे कितना कर सकती है, यह कैसे तय करें

सार

जो कारोबार AI एजेंटों को अपने रिकॉर्ड पर काम करने देते हैं, उन्हें हर कामकाजी दिन तय करना पड़ता है कि एजेंट कौन-से काम अकेले कर सकता है, किनके लिए किसी व्यक्ति की मंजूरी चाहिए, और जैसे-जैसे एजेंट खुद को साबित करे, यह रेखा कैसे खिसके। प्रमुख गवर्नेंस फ्रेमवर्क जोखिम के अनुपात में निगरानी मांगते हैं और कामकाज के नियम हर संगठन पर छोड़ देते हैं। यह पेपर एक अप्रूवल लैडर (मंजूरी की सीढ़ी) प्रस्तावित करता है। यह एजेंट के हर काम को दो धुरियों पर ग्रेड करता है, काम का असर कहां तक पहुंचता है और क्या उसे पलटा जा सकता है, हर ग्रेड को एक मंजूरी स्तर देता है, और उन कामों के लिए एक संशोधक (modifier) जोड़ता है जो बहुत सारे रिकॉर्ड पर असर डालते हैं या कारोबार के बाहर से आई सामग्री से शुरू हुए हों। आजादी केवल पलटे जा सकने वाले आंतरिक कामों में बढ़ती है, और केवल एजेंट के अपने मंजूर हुए काम से मिले सबूत पर, जिसमें उस सबूत की सांख्यिकीय ताकत बताई जाती है। पेपर इस लैडर को 2026 में संशोधित EU Artificial Intelligence Act, NIST AI Risk Management Framework, ISO/IEC 42001, सिंगापुर के एजेंटिक AI गवर्नेंस फ्रेमवर्क, अत्यधिक एजेंसी (excessive agency) पर OWASP के मार्गदर्शन, भारत की AI Governance Guidelines और Digital Personal Data Protection Act, 2023, और 1978 से ऑटोमेशन के स्तरों और ऑटोमेशन बायस पर हुए शोध के सामने रखता है। फिर यह एक असली प्रोडक्ट, MatruOS, के कामों को लैडर पर ग्रेड करता है और बताता है कि प्रोडक्ट कहां पीछे है।

Section 1सवाल

AI एजेंट पहले के बिजनेस सॉफ्टवेयर से एक ऐसी बात में अलग है जो यहां मायने रखती है: वह खुद चुनता है कि आगे क्या करना है। नियम-आधारित वर्कफ्लो हर बार शर्त पूरी होने पर एक ही काम करता है। एजेंट स्थिति को पढ़ता है, कई कामों में से एक चुनता है और उसे करता है। यही चुनाव उसे ऐसे मामले संभालने देता है जिनके लिए किसी ने नियम नहीं लिखा, और यही उसे ऐसे गलत चुनाव भी करने देता है जिनका किसी ने अंदाजा नहीं लगाया था।

बिजनेस सिस्टम में काम ठोस होते हैं: इनवॉइस का ड्राफ्ट बनाना, खरीद बिल पोस्ट करना, भुगतान दर्ज करना, कीमत बदलना, स्टॉक दोबारा मंगाना, ग्राहक को जवाब देना, पेमेंट रिमाइंडर भेजना, कर्मचारी का रिकॉर्ड बदलना, डुप्लीकेट हटाना। गलत होने पर हर एक का नतीजा अलग होता है। गलत ड्राफ्ट, जिसे कोई व्यक्ति देख लेता है, एक मिनट खाता है। जिस ग्राहक ने भुगतान कर दिया है, उसे भेजा गया रिमाइंडर साख को नुकसान पहुंचाता है। गलत दर्ज हुआ भुगतान तब तक बुक्स को बिगाड़े रखता है जब तक किसी की नजर न पड़े। गलत खाते में गया भुगतान शायद कभी वापस न आए।

पूरे एजेंट के लिए एक ही ऑन-ऑफ स्विच बहुत मोटा औजार है। अगर हर बदलाव के लिए मंजूरी चाहिए, तो मंजूरी देने वाला व्यक्ति अड़चन बन जाता है, और खंड 4.7 अनुमान लगाता है कि इसकी कीमत क्या है। अगर किसी चीज के लिए मंजूरी नहीं चाहिए, तो कारोबार अपना पैसा और साख एक ऐसे सिस्टम को सौंप देता है जो किसी न किसी दर से गलतियां करेगा। अप्रूवल लैडर इस सवाल का जवाब हर काम के लिए अलग-अलग, एक जैसे ढंग से, और इस तरह देता है कि सबूत जमा होने के साथ जवाब बदल सके।

Section 2फ्रेमवर्क क्या मांगते हैं, और क्या खुला छोड़ते हैं

2.1 EU Artificial Intelligence Act

Regulation (EU) 2024/1689, यानी EU Artificial Intelligence Act, के अनुच्छेद 14 के तहत उच्च जोखिम वाले AI सिस्टम ऐसे डिजाइन होने चाहिए कि इस्तेमाल के दौरान प्राकृतिक व्यक्ति (natural persons) उनकी प्रभावी निगरानी कर सकें। अनुच्छेद 14(4) प्रोवाइडरों से अपेक्षा करता है कि वे निगरानी के लिए तैनात लोगों को, जितना उचित और अनुपातिक हो, ये क्षमताएं दें: (a) सिस्टम की क्षमताएं और सीमाएं समझना और उसके कामकाज पर नजर रखना; (b) उसके आउटपुट पर जरूरत से ज्यादा भरोसा करने की प्रवृत्ति के प्रति सचेत रहना, जिसे एक्ट ऑटोमेशन बायस कहता है; (c) आउटपुट की सही व्याख्या करना; (d) आउटपुट का इस्तेमाल न करने, या उसे नजरअंदाज करने, बदलने या पलटने का फैसला करना; और (e) एक स्टॉप प्रक्रिया के जरिए सिस्टम में दखल देना या उसे रोकना। अनुच्छेद 26(2) डिप्लॉयरों से अपेक्षा करता है कि वे निगरानी का जिम्मा ऐसे लोगों को दें जिनके पास जरूरी योग्यता, प्रशिक्षण, अधिकार और सहयोग हो।

इनवॉइस का ड्राफ्ट बनाने या पेमेंट रिमाइंडर भेजने वाले ज्यादातर एजेंट इस एक्ट के तहत उच्च जोखिम वाले सिस्टम नहीं हैं। अनुबंध III (Annex III) में कुछ ऐसे उपयोग हैं जिनकी ओर बिजनेस एजेंट खिसक सकते हैं: बिंदु 4 के तहत भर्ती के लिए, पदोन्नति या बर्खास्तगी के फैसलों के लिए, और व्यक्तिगत व्यवहार या निजी गुणों या विशेषताओं के आधार पर काम बांटने के लिए इस्तेमाल होने वाला AI; बिंदु 5(b) के तहत प्राकृतिक व्यक्तियों की क्रेडिट-योग्यता आंकने के लिए इस्तेमाल होने वाला AI। अनुच्छेद 6(3) ऐसे Annex III सिस्टम को बाहर रखता है जो केवल एक सीमित प्रक्रियात्मक या तैयारी वाला काम करता है, पर यह छूट वहां कभी लागू नहीं होती जहां सिस्टम प्राकृतिक व्यक्तियों की प्रोफाइलिंग करता है। इसलिए जो एजेंट केवल ड्राफ्ट तैयार करता है ताकि कोई व्यक्ति फैसला करे, वह भी उच्च जोखिम वाला हो सकता है अगर वह अलग-अलग कर्मचारियों या ग्राहकों की प्रोफाइलिंग करता है।

एक्ट चरणों में लागू होता है। Regulation (EU) 2026/1744, यानी Digital Omnibus on AI, 24 जुलाई 2026 को Official Journal में प्रकाशित हुआ और 27 जुलाई 2026 को लागू हुआ। इसने Annex III के उच्च जोखिम वाले सिस्टमों के दायित्व, जिनमें अनुच्छेद 14 के डिजाइन संबंधी दायित्व और अनुच्छेद 26 के डिप्लॉयर दायित्व शामिल हैं, 2 दिसंबर 2027 तक आगे बढ़ा दिए, और Annex I के तहत उत्पादों में लगे उच्च जोखिम वाले सिस्टमों के दायित्व 2 अगस्त 2028 तक। किसी और तारीख पर भरोसा करने से पहले कारोबार मौजूदा समेकित (consolidated) पाठ जांच लें।

जहां एक्ट लागू नहीं होता, वहां भी अनुच्छेद 14 कानून में इस बात का सबसे साफ बयान है कि सार्थक निगरानी के लिए क्या चाहिए, और यूरोपीय ग्राहकों को सप्लाई करने वाले भारतीय कारोबार इसकी भाषा अनुबंधों और सप्लायर प्रश्नावलियों में देखते हैं।

2.2 NIST AI Risk Management Framework

NIST AI Risk Management Framework 1.0 (NIST AI 100-1, जनवरी 2023) AI जोखिम से जुड़े काम को चार फंक्शन में बांटता है: Govern, Map, Measure और Manage। उप-श्रेणी MAP 3.5 कहती है कि मानवीय निगरानी की प्रक्रियाएं परिभाषित, आंकी और दस्तावेजित की जाएं। GOVERN 3.2 कहती है कि नीतियां मानव-AI व्यवस्थाओं और निगरानी के लिए भूमिकाएं और जिम्मेदारियां तय करें। Generative AI Profile (NIST AI 600-1, जुलाई 2024) जनरेटिव सिस्टम के खास जोखिम जोड़ती है, जिनमें गढ़ा हुआ (confabulated) आउटपुट और सूचना की विश्वसनीयता शामिल हैं। फ्रेमवर्क स्वैच्छिक है और सीमाएं तय करना हर संगठन पर छोड़ता है।

2.3 ISO/IEC 42001:2023

ISO/IEC 42001:2023 एक AI मैनेजमेंट सिस्टम की अपेक्षाएं तय करता है, जिसके आधार पर किसी संगठन का सर्टिफिकेशन हो सकता है। यह संगठन से AI के जोखिम और प्रभाव आंकने (क्लॉज 6.1.2 से 6.1.4 और 8.2 से 8.4) और Annex A में से या उससे आगे जाकर नियंत्रण चुनने की अपेक्षा करता है। मानवीय मंजूरी कहां हो, यह इन्हीं चुनावों में से एक है; स्टैंडर्ड इसे तय नहीं करता।

2.4 भारत का Digital Personal Data Protection Act, 2023

जहां एजेंट व्यक्तिगत डेटा प्रोसेस करता है, वहां Digital Personal Data Protection Act, 2023 (डिजिटल व्यक्तिगत डेटा संरक्षण अधिनियम, आगे DPDP Act) लागू होता है। Digital Personal Data Protection Rules, 2025 13 नवंबर 2025 को अधिसूचित हुए, और ज्यादातर दायित्व, जिनमें धारा 8 के दायित्व भी शामिल हैं, 13 मई 2027 से लागू होते हैं। 2026 की शुरुआत में MeitY ने कुछ दायित्वों के लिए यह अवधि घटाने पर परामर्श किया था, इसलिए मौजूदा अधिसूचना जांच लें। चार प्रावधान सीधे एजेंटों से जुड़ते हैं।

धारा 8(1)

डेटा फिड्यूशियरी उस प्रोसेसिंग के लिए जिम्मेदार है जो वह खुद करता है या उसकी ओर से कोई डेटा प्रोसेसर करता है। कोई कारोबार यह जिम्मेदारी अपने AI वेंडर पर नहीं डाल सकता।

धारा 8(3)

जहां व्यक्तिगत डेटा का इस्तेमाल संबंधित व्यक्ति पर असर डालने वाला फैसला लेने में होने की संभावना हो, या उसे किसी दूसरे डेटा फिड्यूशियरी को बताया जाए, वहां फिड्यूशियरी को उसकी पूर्णता, सटीकता और एकरूपता सुनिश्चित करनी होती है। जो कलेक्शन एजेंट किसी व्यक्तिगत ग्राहक को डिफॉल्टर चिह्नित करता है, या जो HR एजेंट किसी कर्मचारी के खिलाफ कोई निष्कर्ष दर्ज करता है, वह ऐसा ही फैसला ले रहा है।

धारा 8(5)

व्यक्तिगत डेटा के उल्लंघन (breach) के खिलाफ उचित सुरक्षा उपाय। अनुसूची (Schedule) का मद 1 इन्हें न अपनाने पर ₹250 करोड़ तक के जुर्माने का प्रावधान करता है।

धारा 8(10), 11 और 13

फिड्यूशियरी के पास शिकायतें सुलझाने का तरीका होना चाहिए, और डेटा प्रिंसिपल को प्रोसेसिंग का सारांश पाने और शिकायत के निवारण का अधिकार है। कारोबार इन्हें तभी पूरा कर सकता है जब उसे पता हो कि किसी व्यक्ति के बारे में कौन-से फैसले एजेंट ने प्रस्तावित किए और उन्हें किसने मंजूर किया।

2.5 India AI Governance Guidelines, 2025

भारत में AI के लिए कोई अलग कानून नहीं है। India AI Governance Guidelines, जो इलेक्ट्रॉनिकी और सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने IndiaAI Mission के तहत 5 नवंबर 2025 को जारी कीं, बाध्यकारी नहीं हैं। इनका "People First" सिद्धांत मानव-केंद्रित डिजाइन और मानवीय निगरानी की बात करता है, जिसे टिप्पणीकार अहम फैसलों के बिंदुओं पर एक व्यक्ति के शामिल रहने (person in the loop) के रूप में पढ़ते हैं, और ये गाइडलाइंस ऐसी जवाबदेही प्रस्तावित करती हैं जो इस बात पर निर्भर हो कि किसी पक्ष का काम क्या है, जोखिम का स्तर क्या है और क्या उसने उचित सावधानी (due diligence) बरती। जो कारोबार एजेंट के हर अहम काम के लिए दिखा सके कि उसे किसने और किस जानकारी के आधार पर मंजूर किया, उसके पास वह रिकॉर्ड है जिसकी due diligence की दलील को जरूरत होती है।

2.6 सबमें एक जैसी कमी

इनमें से हर एक ऐसी निगरानी मांगता है जो जोखिम के अनुरूप हो, दस्तावेजित हो और योग्य लोगों को सौंपी गई हो, और हर एक कारोबार पर छोड़ देता है कि हर काम के लिए इसका मतलब क्या है। व्यवहार में संगठन दो में से किसी एक गलती की ओर झुकते हैं: हर चीज पर मंजूरी, जिसे लोग पढ़ना छोड़ देते हैं, या किसी वेंडर के प्रेजेंटेशन के भरोसे दी गई व्यापक आजादी।

Section 3संबंधित शोध और यह पेपर क्या जोड़ता है

3.1 ऑटोमेशन के स्तर

Sheridan और Verplank (1978) ने US Office of Naval Research के लिए समुद्र के नीचे चलने वाले टेलीऑपरेटरों पर एक रिपोर्ट में दस स्तर बताए, ऐसे कंप्यूटर से लेकर जो कोई मदद नहीं देता, ऐसे कंप्यूटर तक जो अकेले काम करता है और इंसान को नजरअंदाज करता है। Parasuraman, Sheridan और Wickens (2000) ने प्रस्ताव रखा कि किसी काम के हर चरण के लिए स्तर अलग-अलग चुना जाए: जानकारी जुटाना, उसका विश्लेषण करना, फैसला चुनना और कार्रवाई लागू करना। उन्होंने इस चुनाव को पहले मानवीय प्रदर्शन पर उसके असर (काम का बोझ, स्थिति की समझ, लापरवाही और कौशल) से आंका, और दूसरे, ऑटोमेशन की विश्वसनीयता और गलत फैसले या कार्रवाई की कीमत से। एयर ट्रैफिक के अपने उदाहरण में उन्होंने उच्च जोखिम वाले कामों के लिए फैसला चुनने के चरण को ऑटोमेशन के निचले स्तर पर रखने की सलाह दी। लैडर यही पाबंदी उस चरण पर लागू करता है जिस पर एजेंट का चुनाव कारोबार के रिकॉर्ड पर असर डालता है या किसी बाहरी पक्ष तक पहुंचता है।

Shneiderman (2020, 2022) का तर्क था कि उच्च ऑटोमेशन और उच्च मानवीय नियंत्रण एक-दूसरे के विरोधी नहीं हैं, और सिस्टम दोनों के लिए डिजाइन होने चाहिए। Feng, McDonald और Zhang (2025) ने AI एजेंटों के लिए स्वायत्तता के खास स्तर प्रस्तावित किए, जो इस आधार पर परिभाषित हैं कि हर स्तर पर उपयोगकर्ता की भूमिका क्या है।

3.2 मानवीय भागीदारी के लिए जोखिम मैट्रिक्स

सिंगापुर का Model AI Governance Framework (दूसरा संस्करण, 2020) नुकसान की संभावना और गंभीरता के मैट्रिक्स से यह चुनता है कि इंसान लूप के भीतर हो, लूप के ऊपर हो या लूप से बाहर। Model AI Governance Framework for Agentic AI, जिसे सिंगापुर की Infocomm Media Development Authority ने 22 जनवरी 2026 को शुरू किया और मई 2026 में अपडेट किया, संगठनों से ऐसे चेकपॉइंट तय करने को कहता है जिन पर एजेंट को मानवीय मंजूरी चाहिए, खासकर संवेदनशील कामों से पहले, और यह जांचने को कहता है कि वे मंजूरियां कारगर हैं या नहीं। OWASP Top 10 for Large Language Model Applications (2025) अत्यधिक एजेंसी (LLM06) और प्रॉम्प्ट इंजेक्शन (LLM01) को प्रमुख जोखिमों में गिनाता है, और सलाह देता है कि एजेंट के फंक्शन और अनुमतियां सीमित हों और ज्यादा असर वाले कामों के लिए मानवीय मंजूरी जरूरी हो।

3.3 यहां नया क्या है

जोखिम के आधार पर मानवीय भागीदारी को ग्रेड करना स्थापित तरीका है, और यह पेपर इसका दावा नहीं करता। यह चार चीजें जोड़ता है:

1. 1पलटने की गुंजाइश को पहुंच से अलग धुरी के रूप में, बिजनेस रिकॉर्ड के लिए एक व्यावहारिक कसौटी के साथ (खंड 4.2)।
2. 2आजादी केवल पलटे जा सकने वाले आंतरिक काम में कमाई जाती है, और सबूत की सांख्यिकीय ताकत अंकों में बताई जाती है (खंड 6)।
3. 3दायरे और स्रोत के लिए एक संशोधक, जो थोक कामों और बाहरी सामग्री से शुरू हुए कामों को कवर करता है (खंड 4.5)।
4. 4भारत के DPDP Act से जोड़, और एक प्रोडक्ट के कामों की असली सूची की लैडर पर ग्रेडिंग, जिसमें यह भी है कि वह कहां पीछे है (खंड 8 और परिशिष्ट)।

Section 4किसी काम को ग्रेड करना

4.1 पहली धुरी: पहुंच

पहुंच का मतलब है कि किसी काम का असर कितनी दूर तक जाता है।

रिकॉर्ड हटाने को पलटने की गुंजाइश पर ग्रेड किया जाता है और यह R2 में आता है: सॉफ्ट डिलीट V1 है और स्थायी डिलीट V3।

4.2 दूसरी धुरी: पलटने की गुंजाइश

पलटने की गुंजाइश का मतलब है कि असर को कितना पूरी तरह वापस लिया जा सकता है। कसौटी व्यावहारिक है।

इस कसौटी पर बाहरी पक्ष तक पहुंचने वाला हर संदेश V3 है: बाद में माफी मांगने से संदेश ग्राहक के फोन से नहीं हटता। जिस दस्तावेज का कानूनी असर ऐसे जवाबी दस्तावेज से रद्द होता है जो दूसरे पक्ष को भी मिलता है, जैसे क्रेडिट नोट या परचेज ऑर्डर का रद्दीकरण, वह V2 है; जिस संदेश से वह भेजा गया, उसे अलग से V3 ग्रेड किया जाता है।

4.3 दोनों धुरियों को जोड़ना

दोनों धुरियां एक-दूसरे से जुड़ी हैं, क्योंकि ज्यादा पहुंच का मतलब अक्सर पलटने में ज्यादा कठिनाई होता है, पर दोनों एक नहीं हैं। खरीद बिल पोस्ट करना R2 और V1 है। पेमेंट रिमाइंडर भेजना R3 और V3 है, भले ही उसका वित्तीय असर शून्य हो। केवल पहुंच पर ग्रेड करने से बाहर जाने वाले संदेशों का जोखिम कम आंका जाता है, और पैसे वाली कसौटी इसे पूरी तरह चूक जाती है।

4.4 मंजूरी के पांच स्तर

4.5 डिफॉल्ट मैपिंग

n/a वाले खाने संभव नहीं हैं। पढ़ने से कुछ नहीं बदलता, इसलिए पलटने को कुछ नहीं होता। ड्राफ्ट का तब तक कोई असर नहीं जब तक कोई उसका इस्तेमाल न करे, इसलिए वह हमेशा V0 है; जो काम ड्राफ्ट को रिकॉर्ड या संदेश में बदलता है, उसे अलग से ग्रेड किया जाता है। बाहरी पक्ष तक पहुंचने वाली हर चीज ऊपर की कसौटी पर V3 है। पैसे या कानूनी असर वाला काम हमेशा कम से कम एक रिकॉर्ड छोड़ता है।

कौन-सा स्तर कहां लागू होता है। L0 पढ़ने के कामों को कवर करता है। L1 वहां लागू होता है जहां कारोबार किसी सेक्शन को केवल सुझावों तक रखना चुनता है, और वह ऐसा किसी भी खाने के लिए कर सकता है। कुछ भी बदलने वाले हर काम के लिए शुरुआती स्तर L2 है; ड्राफ्ट तैयार करके रोकना परिभाषा से ही L2 है। L3 और L4 केवल कमाए जा सकते हैं, और केवल दो खानों में: ऐसे आंतरिक बदलाव जिन्हें कारोबार अकेले सुधार सकता है (R2 के साथ V0 या V1)। L4 इससे भी आगे केवल R2 के साथ V0 तक सीमित है, जैसे टैग करना और छांटना, और वह भी दूसरी और ऊंची सीमा पार करने के बाद।

स्थिर खाने। R3 और R4 की हर चीज, और हर ऐसा आंतरिक बदलाव जिसे पलटना महंगा या असंभव हो, L2 पर ही रहता है, एजेंट का रिकॉर्ड कितना भी अच्छा हो। यहां एक भी गलती वापस नहीं ली जा सकती, और खंड 6.2 दिखाता है कि व्यक्ति को हटाने को सही ठहराने के लिए कितना सबूत चाहिए।

दायरे और स्रोत का संशोधक। जो काम वैसे L3 या L4 पर चलता, वह L2 पर रोका जाता है जब इनमें से कोई भी बात सही हो:

• वह कारोबार की तय सीमा से ज्यादा रिकॉर्ड पर असर डालता है, जैसे 5,000 आइटमों में कीमत का बदलाव।
• उसकी कुल रकम कारोबार की तय सीमा से ज्यादा है।
• वह कारोबार के बाहर की सामग्री से शुरू हुआ, जैसे किसी सप्लायर का ईमेल या किसी ग्राहक की चैट, जिसमें छिपे हुए निर्देश डाले गए हो सकते हैं।
• एजेंट उस तरह के तय संख्या से ज्यादा बदलाव उस घंटे या दिन में पहले ही कर चुका है।

कारोबार हमेशा सख्ती बढ़ा सकता है। वह किसी भी काम को निचले स्तर पर रोक सकता है, किसी काम को पूरी तरह ब्लॉक कर सकता है, या किसी रकम से ऊपर के हर बदलाव के लिए मंजूरी जरूरी कर सकता है। वह किसी स्थिर खाने को ढीला नहीं कर सकता।

4.6 L2 को कारगर बनाना

ज्यादातर अहम काम L2 पर होते हैं, और निगरानी सबसे ज्यादा यहीं चूकती है। Parasuraman और Manzey (2010) ने उपलब्ध सबूतों की समीक्षा में पाया कि भरोसेमंद ऑटोमेशन की निगरानी करने वाले लोग उस पर कम ध्यान से नजर रखने लगते हैं, खासकर जब दूसरे काम भी उनका ध्यान खींच रहे हों, और महीने के अंत में ज्यादातर फाइनेंस टीमों की यही हालत होती है। यह असर अनुभवी लोगों में भी उतना ही दिखता है जितना नए लोगों में, और सावधान रहने के निर्देश इसे खत्म नहीं करते। जो व्यक्ति दिन में सैकड़ों सही बदलाव मंजूर करता है, उसके अगला बदलाव बिना पढ़े मंजूर कर देने का खतरा रहता है।

इसलिए लैडर मंजूरी के चरण के डिजाइन को नियंत्रण का हिस्सा मानता है, अनुच्छेद 14(4)(a), (b) और (d) के अनुरूप:

हर रोका गया बदलाव खुद को समझाता है

क्या बदलेगा, एजेंट इसे क्यों प्रस्तावित करता है और उसने किन रिकॉर्ड पर भरोसा किया।

संख्या कम रहती है,

क्योंकि पलटा जा सकने वाला आंतरिक काम कमाने के बाद L3 पर चला जाता है, और L2 पर वही बदलाव बचते हैं जो ध्यान के लायक हैं।

असामान्य चीज चिह्नित होती है

किसी रकम से ऊपर के बदलाव, किसी नए पक्ष के साथ, या सामान्य पैटर्न से हटकर।

व्यक्ति मंजूर करने से पहले संपादित कर सकता है,

ताकि उसे खामी वाले बदलाव और उपयोगी काम गंवाने के बीच चुनना न पड़े।

नामंजूरी के साथ कारण जाता है,

जिससे एजेंट सीख सके।

4.7 मंजूरी की कीमत: एक उदाहरण

मान लीजिए किसी सिरेमिक टाइल निर्माता की AI टीम दिन में 120 बदलाव मंजूरी के लिए रोकती है, और एक व्यक्ति हर एक पर 20 सेकंड लगाता है। यह दिन में 40 मिनट है, यानी 22 कामकाजी दिनों में लगभग 15 घंटे (26 दिनों में 17 घंटे)। मान लीजिए 120 में से 70 बुक्स में पोस्ट होने वाले खरीद बिल हैं (R2, V1)। अगर यह श्रेणी L3 कमा ले और व्यक्ति इसकी जगह बाद में 10 प्रतिशत नमूना जांचे, जिसमें हर एक पर वही 20 सेकंड लगना माना गया है, तो रोज का मंजूरी का काम घटकर 57 बदलाव, यानी लगभग 19 मिनट रह जाता है। ये आंकड़े केवल उदाहरण के लिए हैं; कारोबार को एक हफ्ते अपनी मंजूरियों का समय मापना चाहिए।

Section 5व्यक्तिगत डेटा

जहां एजेंट का कोई काम किसी व्यक्ति के बारे में कुछ तय करने के लिए व्यक्तिगत डेटा का इस्तेमाल करता है, वहां लैडर DPDP Act से ली गई तीन शर्तें जोड़ता है।

फैसले से पहले सटीकता।

धारा 8(3) के तहत डेटा पूर्ण, सटीक और एकरूप होना चाहिए। जो एजेंट किसी व्यक्तिगत ग्राहक को क्रेडिट होल्ड पर डालने का प्रस्ताव रखता है, उसे वे लेजर एंट्री दिखानी चाहिए जिन पर उसने भरोसा किया, ताकि मंजूरी देने वाला उन्हें जांच सके। ऐसे फैसले L2 पर रहते हैं।

न्यूनतम पहुंच।

एजेंट केवल उतने व्यक्तिगत डेटा तक पहुंचे जितना उसकी भूमिका को चाहिए। कलेक्शन एजेंट को ग्राहकों के संपर्क और लेजर चाहिए; उसे वेतन के रिकॉर्ड नहीं चाहिए। भूमिका-आधारित पहुंच (role-based access) मंजूरी से अलग एक नियंत्रण है।

किसने फैसला किया, इसका रिकॉर्ड।

किसी व्यक्ति पर असर डालने वाले हर फैसले के लिए कारोबार को यह दिखा पाना चाहिए कि क्या उसे किसी एजेंट ने प्रस्तावित किया, किसने, कब और किस डेटा के आधार पर उसे मंजूर किया। यह रिकॉर्ड धारा 8(10) के शिकायत संबंधी दायित्व और धारा 11 और 13 के तहत डेटा प्रिंसिपल के अधिकारों के काम आता है।

Section 6आजादी कमाना

6.1 नियम

एजेंट उसी तरह आजादी पाता है जैसे कोई नया कर्मचारी: अपने काम के सबूत पर, किसी खास श्रेणी में, हाल की अवधि में। किसी प्रदर्शन, किसी वेंडर के दावों या किसी दूसरे कारोबार से मिला सबूत इस बारे में कुछ नहीं बताता कि यह एजेंट यहां यह काम कैसे करेगा।

R2 कामों की कोई श्रेणी, जिसमें V0 या V1 हो, L2 से L3 पर तब जा सकती है जब ये सभी बातें सही हों:

1. 1उस श्रेणी में एजेंट के न्यूनतम संख्या में बदलाव किसी व्यक्ति ने बिना संपादन के मंजूर किए हों।
2. 2वे मंजूरियां हाल की किसी अवधि के भीतर हों।
3. 3उस अवधि में उस श्रेणी का कोई बदलाव नामंजूर न हुआ हो।
4. 4अधिकार रखने वाला कोई व्यक्ति स्तर बढ़ाने को स्वीकार करे।

संपादन के बाद दी गई मंजूरी दिखाती है कि आउटपुट में सुधार की जरूरत थी, इसलिए वह नहीं गिनी जाती। श्रेणी के हिसाब से रोके गए बदलावों में से कितनों में संपादन करना पड़ा, यह अपने आप में एक उपयोगी पैमाना है कि एजेंट कहां सबसे कमजोर है।

श्रेणी वापस L2 पर तब लौटती है जब कोई व्यक्ति L3 पर किए गए किसी बदलाव को पलटता है, या जब कारोबार एजेंट के निर्देश, टूल या उसके पीछे के मॉडल को इस तरह बदलता है जिससे उसका व्यवहार बदल सकता हो। आजादी हर श्रेणी के लिए अलग से कमाई जाती है: जिस एजेंट ने 300 खरीद बिल सही पोस्ट किए हैं, उसने स्टॉक एडजस्टमेंट पर अपनी समझ के बारे में कुछ नहीं दिखाया है।

6.2 बिना गलती का सिलसिला कितना कम साबित करता है

अगर n स्वतंत्र मामलों में कोई गलती नहीं हुई, तो असली गलती दर की एक-तरफा 95 प्रतिशत ऊपरी सीमा 1 − 0.05^(1/n) है। Hanley और Lippman-Hand (1983) ने दिखाया कि जब n लगभग 30 या उससे ज्यादा हो, तो यह 3 ÷ n के करीब होती है, जिसे "rule of three" कहा जाता है।

10 जैसी सीमा किसी व्यक्ति को स्तर बढ़ाने पर विचार करने का संकेत देती है; तालिका दिखाती है कि यह कितना कम साबित करती है। इसी वजह से लैडर कमाई गई आजादी को उन बदलावों तक सीमित रखता है जिन्हें कारोबार अकेले सुधार सकता है, हर स्थिर खाने पर एक व्यक्ति रखता है, और पहली बार पलटे जाने पर ही आजादी वापस ले लेता है। किसी न पलटे जा सकने वाले काम के लिए 0.1 प्रतिशत से कम गलती दर दिखाने के लिए लगभग 3,000 लगातार, स्वतंत्र, बिना गलती के मामले चाहिए, जो कुछ ही कारोबार किसी एक श्रेणी के लिए जुटा पाएंगे। ज्यादा संख्या वाले कारोबारों को ऊंची सीमाएं रखनी चाहिए।

Section 7मॉडल की सीमाएं

मंजूरियां स्वतंत्र नहीं होतीं। ऊपर की सीमा मानती है कि मामले स्वतंत्र हैं। एक हफ्ते की सारी मंजूरियां उन्हीं गिने-चुने सप्लायरों या उसी दस्तावेज लेआउट से जुड़ी हो सकती हैं। रोजमर्रा के मामलों पर बिना गलती की मंजूरियां असामान्य मामलों के बारे में कम बताती हैं, और गलतियां वहीं इकट्ठा होती हैं।

मंजूरी की गुणवत्ता नहीं मापी जाती। मंजूरी तभी सबूत है जब व्यक्ति ने बदलाव जांचा हो। लैडर ध्यान से दी गई मंजूरी और आदतन दी गई मंजूरी में फर्क नहीं कर सकता, और ऑटोमेशन बायस का मतलब है कि सबूत तब सबसे कमजोर हो सकता है जब वह सबसे मजबूत दिखे।

पलटने की गुंजाइश हमेशा पहले से पता नहीं होती। जिस रिकॉर्ड को अंदर ही सुधारा गया, वह शायद पहले ही एक्सपोर्ट, शेयर हो चुका हो या बाहर उस पर भरोसा किया जा चुका हो। जो भी रिकॉर्ड एक्सपोर्ट, लिंक या इंटीग्रेशन के जरिए सिस्टम से बाहर जाता है, उसे कम से कम V2 माना जाना चाहिए।

बाहर से आए निर्देश। जो एजेंट सप्लायर के ईमेल या ग्राहक के संदेश पढ़ता है, उसे उनके जरिए निर्देश दिए जा सकते हैं (OWASP LLM01)। खंड 4.5 का स्रोत संशोधक ऐसे कामों को L2 पर रोकता है, पर ऐसे छिपे निर्देश को नहीं पकड़ सकता जो पहले ही किसी ड्राफ्ट को प्रभावित कर चुका है और जिसे फिर कोई व्यक्ति मंजूर कर देता है। मंजूरी देने वाले को वह स्रोत दिखना चाहिए जिस पर एजेंट ने काम किया।

मॉडल बदलते हैं। जब पीछे का मॉडल अपग्रेड होता है, तो पुराने मॉडल के तहत जुटाया गया सबूत शायद लागू न रहे। कमाई गई आजादी को रीसेट करना खोई हुई प्रगति जैसा लग सकता है; इसका विकल्प है ऐसे सिस्टम के सबूत पर भरोसा करना जो अब मौजूद ही नहीं है।

Section 8MatruOS इस लैडर के सामने कहां खड़ा है

MatruOS एक बिजनेस सिस्टम है जिसमें AI सदस्य कारोबार के लोगों के साथ काम करते हैं, और हर सदस्य की एक भूमिका होती है, जैसे अकाउंटेंट या कलेक्शन अधिकारी। यह खंड लिखे जाने के समय बने हुए नियंत्रणों का वर्णन करता है, जिन्हें प्रोडक्ट के कोड से ग्रेड किया गया है, और बताता है कि वे लैडर से कहां अलग हैं।

8.1 दो नियंत्रण व्यवस्थाएं

सेक्शन डायल। कारोबार कलेक्शन, स्टॉक, ग्राहक जवाब, सोशल मीडिया और बुककीपिंग के लिए एक स्तर तय कर सकता है: Suggest (AI शब्दों में प्रस्ताव रखता है और कुछ नहीं बदलता), Ask me (हर बदलाव किसी व्यक्ति का इंतजार करता है) या Auto (रोजमर्रा के बदलाव आगे बढ़ जाते हैं)। जब किसी सेक्शन का स्तर तय होता है, तो ऐसे AI बदलाव जिनका काम प्रोडक्ट की "हमेशा इंतजार" (always-wait) सूची में है, हर स्तर पर किसी व्यक्ति का इंतजार करते हैं। इस सूची में भेजना या जवाब देना, किसी एक इनवॉइस का भुगतान दर्ज करना, मंजूर करना, हस्ताक्षर करना, हटाना, निरस्त (void) करना, रद्द करना, निकालना और प्रकाशित करना शामिल हैं। जिस सेक्शन का कोई स्तर तय नहीं है, जो शुरुआती स्थिति है, वह हर AI सदस्य की अपनी सेटिंग पर चलता है। जब लोग किसी सेक्शन में 30 दिनों के भीतर 10 AI बदलाव मंजूर कर चुके हों और कोई नामंजूर न हुआ हो, तो MatruOS अगला स्तर ऑफर करता है; कोई स्तर तय न होने की स्थिति से यह ऑफर Auto का होता है।

Auto mode लूप। पांच लूप रोजमर्रा के काम के पूरे हिस्से चलाते हैं: ग्राहकों के ऑर्डर लेना, भुगतान पाना, ग्राहकों को जवाब देना, स्टॉक बनाए रखना और कोटेशन का फॉलो-अप। आज कारोबार हर लूप को Watch (लूप दिखाता है कि वह क्या करता) या Ask (हर कदम किसी व्यक्ति का इंतजार करता है) पर रख सकता है। ग्राहकों को जवाब देने वाले लूप में यह कदम मामला किसी AI सदस्य को सौंपता है, और फिर जवाब डायल के जवाब वाले सेक्शन के हिसाब से चलता है; Ask पर शुरू हुआ लूप अपने आप उस सेक्शन का स्तर तय नहीं करता। जब लूप के लिए जरूरी ऐप और भूमिकाएं मौजूद हों, तो लूप Ask पर शुरू होता है। 20 देखे गए मामलों में 95 प्रतिशत मेल खाने के बाद MatruOS Watch से Ask का ऑफर देता है। दो और स्तर, Auto (रोजमर्रा के कदम आगे बढ़ जाते हैं) और Hands off (रोजमर्रा के काम की रोज की सूची के बिना Auto), बने हुए हैं पर अभी कारोबारों के लिए खुले नहीं हैं। जैसा बनाया गया है, Auto पर कोई लूप एक दिन में 3 मामले विफल होने के बाद अपने आप Ask पर लौट आता, दिन में अधिकतम 25 कदम चलाता जब तक कारोबार कोई और संख्या तय न करे, और हर कदम पर एक रकम की सीमा रख सकता था। कुछ कदम फिर भी किसी व्यक्ति के पास जाते: भुगतान पाने वाले लूप में 45 दिन से ज्यादा देर वाले इनवॉइस के रिमाइंडर; फॉलो-अप लूप में 24 दिन से ज्यादा पुराने कोटेशन।

Inbox का जवाब सहायक। ग्राहकों के आने वाले संदेशों का जवाब एक रिप्लाई असिस्टेंट देता है, जो शुरू से चालू रहता है और जिसमें AI जवाब चालू होते हैं। जब कारोबार का कोई तय जवाब फिट नहीं होता, तो AI जवाब लिखता है और वह बिना किसी व्यक्ति के ग्राहक को चला जाता है। सुरक्षा उपाय ऐसे जवाब रोकते हैं जो बहुत लंबे हों, जिनमें ऐसे लिंक हों जो कारोबार ने नहीं दिए, या ऐसी रकम का जिक्र हो जो कारोबार ने कभी नहीं बताई, और पहला जवाब बताता है कि वह ऑटोमेटेड है। यह असिस्टेंट सेक्शन डायल, संगठन के नियमों या पॉज स्विच का पालन नहीं करता; कारोबार Inbox सेटिंग में AI जवाब बंद करता है।

हर सेटिंग में रुकने वाले काम। कुछ काम प्रोडक्ट में ऐसे चिह्नित हैं कि जब कोई AI सदस्य उनका प्रस्ताव रखे तो उन्हें हमेशा किसी व्यक्ति की जरूरत होती है, जिनमें जर्नल पोस्ट करना और रिवर्स करना और किसी अवधि को बंद करना शामिल हैं। हटाना हमेशा इंतजार करता है। सोशल मीडिया पर प्रकाशित करना व्यक्ति का काम है; AI सदस्य केवल पोस्ट का ड्राफ्ट बना सकते हैं।

संगठन के नियम। एडमिनिस्ट्रेटर काम ब्लॉक कर सकता है, नामित कामों के लिए या किसी सीमा से ऊपर लाइन रकम वाले AI बदलावों के लिए मंजूरी जरूरी कर सकता है, महीने और विभाग के हिसाब से AI खर्च की सीमा तय कर सकता है, किसी भी चैनल पर एक AI सदस्य द्वारा एक घंटे में भेजे जाने वाले संदेशों की सीमा तय कर सकता है (बदला न जाए तो 20; पहले से तैयार रिमाइंडर नहीं गिने जाते), और पूरी AI टीम को रोक (pause) सकता है। ये नियम AI सदस्यों के अपने बदलावों पर लागू होते हैं। रकम की सीमा बदलाव की सबसे बड़ी एक लाइन रकम, टैक्स से पहले, की तुलना सीमा से करती है। ₹9 लाख का दस लाइनों वाला बिल ₹1 लाख की सीमा में नहीं रुकता अगर कोई भी लाइन उससे ज्यादा न हो। ड्राफ्ट इनवॉइस जारी करना, चैट ऑर्डर का बिल बनाना और सेल्स ऑर्डर का इनवॉइस बनाना पहले से मौजूद रिकॉर्ड से काम करते हैं और इस सीमा में नहीं पकड़े जाते; कोटेशन को बदलना, डील का इनवॉइस बनाना और आइटम सूची से कीमत ली गई लाइनें पकड़ी जाती हैं। जैसा बनाया गया है, ये नियम Auto पर चलने वाले लूपों पर लागू नहीं होंगे, जिनकी अपनी रोज की सीमा और रकम की सीमा होगी।

AI के काम के रिकॉर्ड। रोके गए बदलाव AI सदस्य के नोट के साथ Approvals में दिखते हैं। AI सदस्यों के बदलाव ऑडिट लॉग में उसी सदस्य के नाम से दर्ज होते हैं जिसने उन्हें किया, और साथ में यह कि किसी व्यक्ति ने हर एक को मंजूर किया या नामंजूर। जब कोई व्यक्ति भेजने से पहले ड्राफ्ट संपादित करता है, तो उसके हटाए गए शब्द एक सुझाए गए सबक के रूप में रखे जाते हैं।

8.2 स्तरों की तुलना

8.3 प्रोडक्ट लैडर से कहां पीछे है

Inbox असिस्टेंट के AI जवाब बिना किसी व्यक्ति के जाते हैं,

और न डायल, न संगठन के नियम, न पॉज स्विच उन तक पहुंचते हैं। लैडर बाहर जाने वाले हर संदेश को L2 पर स्थिर रखता है।

बिना सेक्शन स्तर के संदेश और भुगतान।

जब कोई सेक्शन स्तर तय नहीं है, जो शुरुआती स्थिति है, तो रोजमर्रा के काम के लिए भरोसेमंद माना गया AI सदस्य बिना मंजूरी के संदेश भेज सकता है, जिनमें उसके अपने शब्दों में फॉलो-अप भी शामिल हैं, और भुगतान दर्ज कर सकता है। परिशिष्ट की "Auto पर चलता है" वाली हर पंक्ति भी उस स्थिति में ऐसे सदस्य के लिए बिना रुके चलती है। लैडर बाहर जाने वाले हर संदेश और हर भुगतान को L2 पर स्थिर रखता है।

Auto पर लूप, खुलने के बाद।

जैसा बनाया गया है, Auto पर भुगतान पाने वाला लूप 45 दिन तक देर वाले इनवॉइस के रिमाइंडर, और फॉलो-अप लूप 24 दिन तक पुराने कोटेशन के फॉलो-अप, बिना मंजूरी भेजता, और किसी लूप को Auto पर करने से डायल में उसका सेक्शन भी Auto पर चला जाता। ये स्तर अभी खुले नहीं हैं; इनके खुलने से पहले जरूरी बदलाव हमने दर्ज कर लिया है।

कुछ पैसे और कानूनी असर वाले काम बिना किसी व्यक्ति के चल सकते हैं।

इनवॉइस बनाना, ड्राफ्ट इनवॉइस जारी करना, चैट ऑर्डर का बिल बनाना, क्रेडिट नोट जारी करना, ग्राहक के क्रेडिट को किसी इनवॉइस के सामने लगाना, कई इनवॉइस पर एक भुगतान दर्ज करना, एडवांस दर्ज करना, बैंक स्टेटमेंट की एंट्री पोस्ट करना, खरीद बिल पोस्ट करना और परचेज ऑर्डर बनाना, जब इनका सेक्शन Auto पर हो, बिना मंजूरी के चल सकते हैं। डिलीवर हो चुके सेल्स ऑर्डर का इनवॉइस बनाना किसी सेक्शन में नहीं आता और AI सदस्य की अपनी सेटिंग पर चलता है। लैडर इन्हें L2 पर स्थिर रखता है।

आजादी पूरे सेक्शन या लूप के लिए तय होती है।

एक सेक्शन या लूप में अलग-अलग ग्रेड के काम मिले होते हैं।

संपादन के बाद दी गई मंजूरियां स्तर बढ़ाने में गिनी जाती हैं।

लैडर इन्हें बाहर रखता है।

केवल आंशिक रीसेट।

जैसा बनाया गया है, Auto पर लूप एक दिन में बार-बार विफल होने पर Ask पर लौटते, पर किसी व्यक्ति के बदलाव पलटने या मॉडल बदलने पर नहीं। सेक्शन डायल में कोई अपने आप रीसेट नहीं है।

आंशिक दायरा संशोधक।

जैसा बनाया गया है, Auto पर लूप दिन के कदमों की संख्या और हर कदम की रकम सीमित करते। कोई भी व्यवस्था रिकॉर्ड की संख्या के आधार पर थोक बदलावों को, या बाहरी सामग्री से शुरू हुए बदलावों को, एक वर्ग के रूप में नहीं रोकती।

रकम की सीमा टैक्स से पहले केवल एक-एक लाइन पढ़ती है और रिकॉर्ड-आधारित कामों को चूक जाती है,

जैसा खंड 8.1 में बताया गया है।

हमने इन्हें प्रोडक्ट के काम के रूप में दर्ज किया है। जब तक ये पूरे नहीं होते, जो कारोबार लैडर की सुरक्षा चाहता है, उसे हर सेक्शन को Ask me पर रखना चाहिए, हर AI सदस्य को हर बदलाव से पहले पूछने पर सेट करना चाहिए, लूपों को Watch या Ask पर रखना चाहिए, और Inbox सेटिंग में रिप्लाई असिस्टेंट के AI जवाब बंद करने चाहिए।

AI से गलती हो सकती है। ऊपर के नियंत्रण यह सीमित करते हैं कि किसी व्यक्ति के देखने से पहले कोई गलती कहां तक पहुंच सकती है, ऊपर बताए गए अपवादों के भीतर।

8.4 तरीका

प्रोडक्ट को 31 अक्टूबर 2026 को चल रहे रिलीज (commit fe49e480) के कोड से ग्रेड किया गया, और नियम-कानून उसी तारीख को जांचे गए। इस पेपर के हर नए संस्करण से पहले लाइव प्रोडक्ट पर ग्रेडिंग दोहराई जाएगी।

Section 9निष्कर्ष

अप्रूवल लैडर एजेंट के हर काम को इस आधार पर ग्रेड करता है कि उसका असर कहां तक पहुंचता है और क्या उसे पलटा जा सकता है। कारोबार के बाहर पहुंचने वाली, पैसा हिलाने वाली या कारोबार द्वारा अकेले न सुधारी जा सकने वाली हर चीज रोकी जाती है, और पलटा जा सकने वाला आंतरिक काम उस श्रेणी में बिना गलती की मंजूरियों पर आजादी कमा सकता है, जिसमें हर बार स्तर बढ़ाने को कोई व्यक्ति स्वीकार करता है। अच्छे नतीजों का सिलसिला जितना दिखता है उससे कम साबित करता है, और खंड 6.2 की तालिका बताती है कि कितना कम।

परिशिष्ट: लैडर पर ग्रेड किए गए MatruOS के काम

31 अक्टूबर 2026 को commit fe49e480 पर प्रोडक्ट के कोड से ग्रेड किया गया। इनवॉइस की ड्यू डेट से पहले और बाद के शेड्यूल्ड रिमाइंडर ज्यादातर कारोबार प्रकारों के लिए शुरू से चालू रहते हैं, और कोई चैनल जुड़ते ही बिना किसी व्यक्ति के चले जाते हैं। ये ऐसे नियम हैं जिन्हें कारोबार बदल या बंद कर सकता है, और यह ग्रेडिंग केवल AI के कामों को कवर करती है।

स्रोत

31 अक्टूबर 2026 को जांचे गए। नियम-कानून उसी तारीख की स्थिति के अनुसार बताए गए हैं।

1. 1Regulation (EU) 2024/1689 (Artificial Intelligence Act), Articles 6, 14 and 26 and Annex III, EUR-Lex
2. 2Regulation (EU) 2026/1744 (Digital Omnibus on AI), Official Journal, 24 July 2026, EUR-Lex. Summaries: White & Case; Mayer Brown, 30 July 2026
3. 3NIST AI 100-1, AI Risk Management Framework 1.0, January 2023: MAP 3.5 and GOVERN 3.2.
4. 4NIST AI 600-1, Generative Artificial Intelligence Profile, July 2024
5. 5ISO/IEC 42001:2023, Artificial intelligence: Management system
6. 6Digital Personal Data Protection Act, 2023 and Rules, 2025, MeitY: Sections 8(1), 8(3), 8(5), 8(10), 11, 13 and the Schedule.
7. 7India AI Governance Guidelines, Ministry of Electronics and Information Technology, IndiaAI Mission, 5 November 2025. IndiaAI; commentary, JSA
8. 8Personal Data Protection Commission and Infocomm Media Development Authority, Singapore (2020). Model Artificial Intelligence Governance Framework, second edition.
9. 9Infocomm Media Development Authority, Singapore (2026). Model AI Governance Framework for Agentic AI, updated May 2026
10. 10OWASP (2025). Top 10 for Large Language Model Applications: LLM01 Prompt Injection, LLM06 Excessive Agency
11. 11Sheridan, T. B. and Verplank, W. L. (1978). Human and computer control of undersea teleoperators. MIT Man-Machine Systems Laboratory, report for the Office of Naval Research.
12. 12Parasuraman, R., Sheridan, T. B. and Wickens, C. D. (2000). A model for types and levels of human interaction with automation. IEEE Transactions on Systems, Man, and Cybernetics, Part A, 30(3), 286–297. https://doi.org/10.1109/3468.844354
13. 13Parasuraman, R. and Manzey, D. H. (2010). Complacency and bias in human use of automation: an attentional integration. Human Factors, 52(3), 381–410.
14. 14Hanley, J. A. and Lippman-Hand, A. (1983). If nothing goes wrong, is everything all right? Interpreting zero numerators. JAMA, 249(13), 1743–1745.
15. 15Shneiderman, B. (2022). Human-Centered AI. Oxford University Press.
16. 16Feng, K. J. K., McDonald, D. W. and Zhang, A. X. (2025). Levels of autonomy for AI agents. arXiv:2506.12469.

बदलावों का ब्योरा

• 1.4 (31 अक्टूबर 2026): Inbox रिप्लाई असिस्टेंट जोड़ा गया; पेआउट और खरीद मंजूरी की सीमाएं ग्रेडिंग में शामिल की गईं।
• 1.3 (31 अक्टूबर 2026): AI सदस्यों के लिखे संदेशों के लिए शुरुआती स्थिति की कमियां, रकम की सीमा का ब्योरा, ग्राहकों को जवाब देने के लिए Ask पर लूप।
• 1.2 (31 अक्टूबर 2026): कोड की समीक्षा के बाद प्रोडक्ट वाला खंड दोबारा लिखा गया, Auto mode लूप जोड़े गए और परिशिष्ट सुधारा गया।
• 1.1 (31 अक्टूबर 2026): Regulation (EU) 2026/1744 के हिसाब से EU AI Act की तारीखें अपडेट की गईं; पलटने की गुंजाइश की व्यावहारिक कसौटी के साथ ग्रिड दोबारा बनाया गया; दायरे और स्रोत का संशोधक जोड़ा गया; संबंधित शोध, India AI Governance Guidelines और सटीक सांख्यिकीय सीमाएं जोड़ी गईं; कमियां बताने के लिए प्रोडक्ट वाला खंड दोबारा लिखा गया; परिशिष्ट जोड़ा गया।
• 1.0 (अक्टूबर 2026): पहला संस्करण।