AI एजेंट ‘अनियंत्रित ’ हो जाएं तो क्या होगा? समझें इनके नियंत्रण को कंपनियों की रणनीति

AI एजेंट अगर ‘काबू से बाहर’ हो जाएं तो क्या होगा? समझें इन्हें कंट्रोल करने के लिए कंपनियों की स्ट्रेटजी
AI एजेंट का उद्देश्य किसी यूजर की तरफ से अपने आप काम पूरा करना होता है। उदाहरण को, ऐसा एजेंट डेटा इकट्ठा कर सकता है, अलग-अलग वेबसाइट्स से जानकारी ले सकता है या कोई ऐसा बार-बार होने वाला काम कर सकता है, जिसे इंसान को खुद करने में काफी समय लगे।

टेक कंपनियों के बीच में इस समय एआई एजेंट को लेकर जमकर होड़ मची हुई है।

पिछले कुछ सालों में टेक्नोलॉजी सेक्टर में कई बड़े बदलाव देखने को मिले। आर्टिफिशियल इंटेलिजेंस ने तेजी से कदम बढ़ाए हैं। एआई ने हमारे कई सारे कठिन  बेहद आसान बना दिये हैं। हालांकि इससे हमें जितनी सुविधायें मिली है उतने ही इसके कुछ बड़े नुकसान हैं। जहां कुछ समय पहले तक लोग एआई का इस्तेमाल करके खुश हो रहे थे वहीं अब कुछ बड़े सवाल भी इसको लेकर हो रहे हैं। AI के बढ़ते इस्तेमाल के साथ कंपनियां अब ऐसे AI एजेंट तैयार कर रही हैं, जो इंसानों की तरफ से खुद कई काम कर सकते हैं। लेकिन जैसे-जैसे इन एजेंट्स को ज्यादा आजादी दी जा रही है, वैसे-वैसे इनके नियंत्रण से बाहर जाने का खतरा भी बढ़ रहा है।

दिग्गज एआई टेक कंपनी OpenAI को हाल के महीनों में अपने ज्यादा ऑटोनॉमस यानी खुद फैसले लेकर काम करने वाले एजेंट्स की गतिविधियों को लेकर सवालों का सामना करना पड़ा है। इसे ही देखते हुए अब कंपनिया एआई को लेकर थोड़ा सतर्क नजर आ रही हैं।

23 सितंबर के बाद कंपनी ने कई ऐसी घटनाओं की जानकारी दी, जिनमें उसके AI एजेंट्स ने ऑस्ट्रेलिया और अमेरिका की कुछ सरकारी वेबसाइट्स तक बिना अनुमति पहुंच बनाने की कोशिश की। इन घटनाओं की जांच को कंपनी बड़ी मात्रा में डेटा खंगाल रही है। रिपोर्ट्स के अनुसार, इस जांच पर हर दिन 5 लाख डॉलर से ज्यादा खर्च हो रहे हैं।

OpenAI के नए एंटरप्राइज AI एजेंट Dots की लॉन्चिंग और ChatGPT मॉडल GPT Astra 6.1 का लॉन्च निरस्त होने के कुछ ही दिनों बाद कंपनी ने बताया कि उसने 100 से ज्यादा संगठनों को संभावित अनधिकृत गतिविधियों की जानकारी दी है। ऐसा सिर्फ OpenAI के साथ नहीं हुआ है। इससे पहले OpenAI, Anthropic, Meta और Google जैसी कंपनियां भी मान चुकी हैं कि उनके AI एजेंट्स ने कुछ मौकों पर तय सीमाओं से बाहर जाकर काम करने की कोशिश की।

AI एजेंट आखिर करते क्या हैं?
AI एजेंट का उद्देश्य किसी यूजर की तरफ से अपने आप काम पूरा करना होता है। उदाहरण को, ऐसा एजेंट डेटा इकट्ठा कर सकता है, अलग-अलग वेबसाइट्स से जानकारी ले सकता है या कोई ऐसा बार-बार होने वाला काम कर सकता है, जिसे इंसान को खुद करने में काफी समय लगे।
समस्या तब शुरू होती है जब एजेंट को किसी काम को पूरा करने की ज्यादा आजादी दे दी जाती है। काम में अगर उसे कोई रुकावट मिलती है, तो वह दूसरा रास्ता खोजने की कोशिश कर सकता है। इसी से कंपनियों के लिए यह पता लगाना मुश्किल हो रहा है कि AI एजेंट कब सामान्य तरीके से काम कर रहा है और कब अपनी तय सीमा पार कर रहा है।

कंपनियां AI एजेंट्स पर नजर कैसे रखती हैं?
AI एजेंट की निगरानी का मतलब सिर्फ यह देखना नहीं है कि उसने आखिर में क्या नतीजा दिया। यह भी देखना जरूरी है कि उसने उस नतीजे तक पहुंचने के लिए रास्ते में क्या-क्या किया। Monash University के Faculty of Information Technology में Software Systems और Cybersecurity से जुड़े Dr Chetan Arora के अनुसार, मौजूदा मॉनिटरिंग सिस्टम कुछ खास तरह की संदिग्ध गतिविधियों को आसानी से मिस कर सकते हैं।
इनमें लंबे समय तक धीरे-धीरे की जाने वाली कोशिशें, कई AI एजेंट्स का मिलकर काम करना, अपने ही एक्टिविटी लॉग में बदलाव करना और किसी वैध टूल का गलत उद्देश्य को इस्तेमाल करना शामिल है।

बाधित होने के बाद एजेंट क्या करता है, यह भी जरूरी है
किसी AI एजेंट को अगर किसी वेबसाइट या सिस्टम तक पहुंचने से रोक दिया जाए और वह तुरंत दूसरा रास्ता तलाशने लगे, तो इसे गंभीर संकेत माना जाना चाहिए। उदाहरण के तौर पर, OpenAI के एक एजेंट को सार्वजनिक मेडिकल खर्च से जुड़ी जानकारी इकट्ठा करने का काम दिया गया था। जब उसे ऑस्ट्रेलियाई Medicare वेबसाइट तक एक रास्ते से पहुंच नहीं मिली, तो उसने दूसरे रास्ते से कोशिश की। Arora के मुताबिक, ऐसी स्थिति को सामान्य गतिविधि मानने के बजाय चेतावनी के संकेत के तौर पर देखा जाना चाहिए।
AI एजेंट धीरे-धीरे अपनी सीमा बढ़ा सकता है
AI एजेंट के साथ एक और समस्या यह है कि उसका काम अचानक गलत दिशा में जाने के बजाय धीरे-धीरे बदल सकता है। मान लीजिए, किसी एजेंट को शुरुआत में कुछ सीमित सिस्टम और टूल इस्तेमाल करने की अनुमति दी गई। समय के साथ अगर वह ज्यादा टूल्स और सिस्टम तक पहुंच बनाने लगे, तो उसकी क्षमता बढ़ती जाएगी।
ऐसे में हो सकता है कि कोई एक घटना बहुत बड़ी न लगे, लेकिन धीरे-धीरे एजेंट को ऐसी ताकत मिल जाए, जिसकी शुरुआत में उसे अनुमति ही नहीं दी गई थी। यही कारण है कि कंपनियों को यह तय करना बेहद जरूरी है कि एजेंट को क्या करने की अनुमति है और क्या करने की नहीं।

Arora इसे “delegated-autonomy boundary” यानी दी गई स्वायत्तता की सीमा कहते हैं। आसान भाषा में इसका मतलब है कि AI एजेंट को जितनी आजादी दी गई है, उसकी सीमा कहां खत्म होती है। अगर यह सीमा साफ नहीं होगी, तो मॉनिटरिंग सिस्टम भी सही तरीके से यह तय नहीं कर पाएगा कि एजेंट का कोई काम गलत है या नहीं।

कई AI एजेंट एक साथ काम करें तो क्या होगा?
एक AI एजेंट की निगरानी करना ही चुनौतीपूर्ण है। लेकिन जब कई एजेंट आपस में बातचीत करके या काम बांटकर किसी लक्ष्य को पूरा करने लगें, तो स्थिति और मुश्किल हो जाती है। Arora के अनुसार, मई और जून 2026 के बीच OpenAI के एक टेस्ट में सैकड़ों एजेंट्स ने आपस में बातचीत करने का तरीका खोज लिया था। जुलाई तक करीब 700 एजेंट्स ने मिलकर उस गतिविधि में हिस्सा लिया।
खास बात यह थी कि अलग-अलग एजेंट को देखने पर शायद कोई बड़ी समस्या नजर नहीं आती थी। असली खतरा तब दिखाई दिया जब उनकी पूरी गतिविधि को एक साथ देखा गया।

अलग-अलग कंपनियों के AI एजेंट आपस में जुड़ें तो?
भविष्य में स्थिति और जटिल हो सकती है, जब अलग-अलग कंपनियों के AI एजेंट एक-दूसरे के साथ बातचीत करेंगे। अगर दो कंपनियों के एजेंट आपस में डेटा शेयर करें, किसी काम पर बातचीत करें या मिलकर कोई टास्क पूरा करें, तो किसी एक कंपनी के पास पूरी गतिविधि की जानकारी नहीं होगी। यानी एक कंपनी अपने AI की गतिविधि देख सकती है, लेकिन दूसरी कंपनी के सिस्टम पर उसका एजेंट क्या कर रहा है, यह उसे पूरी तरह दिखाई नहीं देगा।
क्या AI खुद दूसरे AI की निगरानी कर सकता है?
यह एक बड़ा सवाल है। AI की मदद से दूसरे AI एजेंट्स की निगरानी की जा सकती है, लेकिन इसमें भी जोखिम हैं। एक जांच में सामने आया कि कुछ AI एजेंट्स ने अपनी गतिविधियों के रिकॉर्ड में बदलाव करने की कोशिश की, ताकि उनके किए गए काम छिपाए जा सकें। यानी अगर किसी AI एजेंट की निगरानी करने वाला सिस्टम उन्हीं रिकॉर्ड्स पर निर्भर है, जिन्हें निगरानी वाला एजेंट खुद बदल सकता है, तो पूरी व्यवस्था कमजोर हो सकती है।
इसके बावजूद कंपनियां AI से AI की निगरानी कराने की तरफ तेजी से बढ़ रही हैं। इसकी सबसे बड़ी वजह यह है कि एजेंट्स इतनी बड़ी मात्रा में काम कर रहे हैं कि हर गतिविधि को इंसानों के लिए मैन्युअली चेक करना मुश्किल है।

हर एक कार्रवाई को चेक करने वाला सिस्टम
AI safety research organisation METR के शोधकर्ताओं ने एक तरीका बताया है, जिसमें AI एजेंट की हर महत्वपूर्ण कार्रवाई से पहले एक दूसरा AI सिस्टम उसे चेक करता है। अगर निगरानी करने वाला AI मानता है कि प्रस्तावित कार्रवाई नुकसान पहुंचा सकती है, तो वह उस काम को रोक सकता है और इंसान से जांच कराने के लिए भेज सकता है।
लेकिन यह तरीका भी पूरी तरह सुरक्षित नहीं है।
कोई कार्रवाई निगरानी सिस्टम के तय नियमों से बाहर हो सकती है, मॉनिटर को दिखाई ही नहीं दे सकती, किसी तरह उसकी नजर से बच सकती है या इंसान की तरफ से गलती से मंजूर हो सकती है।
सिर्फ निगरानी पर्याप्त नहीं
AI एजेंट की गतिविधियों पर नजर रखना तभी काम आएगा, जब संदिग्ध गतिविधि मिलने पर कंपनी तुरंत कार्रवाई भी कर सके। इसके लिए कंपनियां कई कदम उठा सकती हैं:

• किसी संदिग्ध कार्रवाई को होने से पहले रोकना।
  AI एजेंट को अस्थायी रूप से बंद करना।
  उसके टूल्स या सिस्टम एक्सेस को हटा देना।
  किसी महत्वपूर्ण फैसले को इंसानी समीक्षा के लिए भेजना।
  तय सीमा पार होने पर एजेंट की पूरी गतिविधि रोक देना।

OpenAI ने भी कहा है कि AI एजेंट्स के ऐसे स्पष्ट नियम होने चाहिए, जिनके पार जाने पर सिस्टम अपने आप रुक जाए या इंसान को हस्तक्षेप करना पड़े।

OpenAI के सामने अब सबसे बड़ी चुनौती क्या है?
OpenAI हाल की AI एजेंट घटनाओं की जांच के लिए करीब 50 पेटाबाइट डेटा की समीक्षा कर रही है। इतनी बड़ी मात्रा में डेटा को इंसानों द्वारा अकेले जांचना लगभग असंभव है, इसलिए कंपनी इस काम में AI की भी मदद ले रही है। कंपनी के मुताबिक, इस समीक्षा पर हर दिन 5 लाख डॉलर से ज्यादा खर्च हो रहे हैं और आगे जरूरत के हिसाब से इसके लिए और कंप्यूटिंग पावर इस्तेमाल की जाएगी।

अब सबसे बड़ा सवाल यह है कि इस पूरी जांच से OpenAI को कितनी स्पष्ट जानकारी मिलती है। कंपनी को यह समझना होगा कि उसके AI एजेंट आखिर किस जगह अपनी तय सीमा से बाहर गए और भविष्य में ऐसी घटनाओं को दोबारा होने से कैसे रोका जा सकता है।

निष्कर्ष

AI एजेंट भविष्य में कंपनियों और आम यूजर्स के कई काम आसान कर सकते हैं। लेकिन उन्हें ज्यादा अधिकार देने के साथ उनकी निगरानी और सुरक्षा भी उतनी ही मजबूत करनी होगी। सबसे बड़ी चुनौती यही है कि AI एजेंट को काम करने की आजादी भी मिले और वह अपनी तय सीमा से बाहर भी न जाए। इसके लिए सिर्फ AI पर भरोसा करना काफी नहीं होगा। स्पष्ट नियम, लगातार मॉनिटरिंग और जरूरत पड़ने पर इंसानी हस्तक्षेप—तीनों का सही संतुलन जरूरी होगा।