AI के गलत इस्तेमाल पर क्यों जरूरी है सख्त गवर्नेंस, बांग्लादेश के AI ऑपरेशन से भारत को क्या सीखना चाहिए?

Anthropic की AI मिसयूज रिपोर्ट के बाद AI गवर्नेंस पर बहस तेज हो गई है। भारत में AI के गलत इस्तेमाल को रोकने के लिए सख्त नियम और जवाबदेही जरूरी है।

10 सितंबर को Anthropic ने 154 पेज की एक 'थ्रेट इंटेलिजेंस रिपोर्ट' जारी की। इसमें दिसंबर 2025 से अगस्त 2026 के बीच करीब नौ महीनों में AI के गलत इस्तेमाल से जुड़े मामलों का ब्योरा दिया गया। इसके दो दिन बाद Anthropic के CEO डारियो अमोदेई ने एक ब्लॉग लिखकर AI इंडस्ट्री से 'फ्रंटियर AI' के विकास की रफ्तार धीमी करने की अपील की। इसके कुछ ही घंटों बाद OpenAI के सैम ऑल्टमैन और एलन मस्क ने भी इस विचार से सहमति जताई।

इन दोनों दस्तावेजों को साथ पढ़ने पर AI गवर्नेंस को लेकर एक बड़ा सवाल सामने आता है कि आने वाले समय में सुरक्षा और जवाबदेही का ढांचा किस दिशा में जाना चाहिए। Anthropic ने अपनी रिपोर्ट में AI के गलत इस्तेमाल से जुड़े मामलों को नुकसान की 7 कैटेगरी में बांटा है। इनमें सरकारी मदद से चलाए गए ऑपरेशन से लेकर अकेले काम करने वाले लोगों तक के मामले शामिल हैं। इन घटनाओं को सार्वजनिक करना पारदर्शिता की दिशा में एक महत्वपूर्ण कदम है।

AI अब सिर्फ कंटेंट बनाने का टूल नहीं, बन रहा है 'ऑर्केस्ट्रेशन लेयर'

रिपोर्ट का सबसे महत्वपूर्ण पहलू AI के गलत इस्तेमाल का बदलता स्वरूप है। AI अब केवल नुकसानदायक कंटेंट बनाने वाला टूल नहीं रह गया है। यह धीरे-धीरे एक 'ऑर्केस्ट्रेशन लेयर' यानी ऐसा सिस्टम बन रहा है, जो दूसरे सॉफ्टवेयर से जुड़कर किसी पूरे ऑपरेशन के कई चरणों को एक साथ चला सकता है। इसका मतलब है कि पहले जिस काम के लिए ज्यादा लोगों, ज्यादा समय और ज्यादा जानकारी की जरूरत होती थी, उसे अब कम संसाधनों के साथ अंजाम दिया जा सकता है। Anthropic इस क्षमता को 'अपलिफ्ट' (Uplift) कहता है। इसका मतलब है AI की मदद से किसी नुकसानदायक गतिविधि की रफ्तार, उसका पैमाना और उसकी गहराई बढ़ जाना।

बांग्लादेश का AI ऑपरेशन दिखाता है 'अपलिफ्ट' का असर

Anthropic की रिपोर्ट में बांग्लादेश में गलत जानकारी फैलाने वाले एक ऑपरेशन की पहचान की गई। बताया गया कि यह ऑपरेशन लगभग पूरी तरह ऑटोमेटेड था। इसमें AI ने कंटेंट तैयार किया, दूसरे सॉफ्टवेयर ने उस कंटेंट को वीडियो में बदला और शेड्यूलिंग एल्गोरिदम ने उन्हें सही समय पर पब्लिश किया। इस पूरे ऑपरेशन में एक व्यक्ति, 29 अकाउंट और करीब 1500 मनगढ़ंत कहानियों का इस्तेमाल किया गया। यही वह बदलाव है जिसे Anthropic 'अपलिफ्ट' के तौर पर देखता है। AI ने केवल कंटेंट तैयार नहीं किया, बल्कि अलग-अलग तकनीकी प्रणालियों को जोड़कर पूरे ऑपरेशन को ज्यादा बड़े पैमाने पर चलाने में मदद की।

AI से बायोलॉजिकल हथियारों की रिसर्च को लेकर भी चिंता

Anthropic की रिपोर्ट का एक और गंभीर पहलू AI के संभावित बायोलॉजिकल दुरुपयोग से जुड़ा है। Anthropic का कहना है कि अपने सबसे शक्तिशाली मौजूदा मॉडल्स के मामले में वह अब यह भरोसा नहीं दिला सकता कि कोई शातिर व्यक्ति बायोलॉजिकल हथियारों की रिसर्च में AI से कोई महत्वपूर्ण मदद नहीं ले पाएगा। यह सिर्फ एक सामान्य चेतावनी नहीं है। यह इस बात की स्वीकारोक्ति भी है कि AI के बढ़ते जोखिमों के साथ सुरक्षा उपाय और गवर्नेंस उतनी तेजी से आगे नहीं बढ़ पाए हैं।

डारियो अमोदेई ने AI डेवलपमेंट धीमा करने की अपील की

Anthropic के CEO डारियो अमोदेई ने अपनी चेतावनी में कहा कि गर्मियों के बाद से AI बहुत तेजी से आगे बढ़ रहा है। उनके मुताबिक, आने वाले 6 से 12 महीनों में खतरनाक AI एजेंट्स यानी 'Rogue AI Agents' का झुंड इंटरनेट पर बड़ी समस्या पैदा कर सकता है। दुनिया की सबसे ताकतवर AI कंपनियों में शामिल तीन बड़े नामों ने, जो एक-दूसरे से आगे निकलने के लिए अरबों डॉलर खर्च कर रहे हैं, एक ही वीकेंड में AI विकास की रफ्तार पर गहरी चिंता जताई है। लेकिन सबसे बड़ा सवाल यह है कि क्या कंपनियां अपनी मर्जी से लंबे समय तक विकास की रफ्तार धीमी रख सकती हैं?

AI डेवलपमेंट धीमा करने के बजाय गवर्नेंस तेज करने की जरूरत

मैंने X पर एक सीधा सवाल उठाया था कि क्या AI का विकास अपनी मर्जी से धीमा करना वास्तव में संभव है। इसके सामने कई तरह के दबाव हैं। कॉम्पिटिशन, पैसा और जियोपॉलिटिक्स कंपनियों को लगातार आगे बढ़ने के लिए प्रेरित करते हैं। इसके अलावा चीन का किसी ऐसे संभावित समझौते से बाहर रहना भी एक बड़ी चुनौती है।

वेंचर कैपिटलिस्ट चामथ पालिहापिटिया ने भी इस पर एक तर्क रखा। उनका कहना था कि जब बाजार की अग्रणी कंपनी काम की रफ्तार कम करने की बात करती है, तो इसके पीछे ऐसी व्यवस्था की मांग हो सकती है, जिससे उसकी मौजूदा बढ़त बनी रहे। इसलिए बहस को सिर्फ यह सवाल बनाने के बजाय कि AI डेवलपमेंट को कैसे धीमा किया जाए, ज्यादा महत्वपूर्ण सवाल यह होना चाहिए कि AI गवर्नेंस को कैसे तेज किया जाए।

भारत के IT नियमों से AI गवर्नेंस को मिल सकता है आधार

जब मैंने प्रधानमंत्री नरेंद्र मोदी के नेतृत्व वाली सरकार में इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी राज्य मंत्री के तौर पर काम किया, तब हमने 'Safe, Trusted and Accountable' यानी सुरक्षित, भरोसेमंद और जवाबदेह तकनीक के सिद्धांतों पर भारत का अकाउंटिबिलिटी फ्रेमवर्क प्लेटफॉर्म तैयार किया था।

2021 के IT नियमों के जरिए बड़े पैमाने पर काम करने वाले डिजिटल प्लेटफॉर्म्स के लिए कानूनी जिम्मेदारियां तय की गई थीं। यह ढांचा उस समय तैयार किया गया था, जब आज के कई AI जोखिम उतने स्पष्ट नहीं थे। Anthropic की रिपोर्ट के बाद यह सवाल फिर सामने आता है कि क्या इसी तरह के जवाबदेही आधारित ढांचे को AI के नए दौर के लिए भी आगे बढ़ाने की जरूरत है।

बांग्लादेश का मामला भारत के लिए क्यों महत्वपूर्ण है?

बांग्लादेश में सामने आया AI-आधारित गलत सूचना फैलाने का मामला भारत जैसे बड़े और बहुभाषी लोकतंत्र के लिए भी महत्वपूर्ण है। इस ऑपरेशन में इस्तेमाल की गई तकनीकों में ऑटोमेटेड अकाउंट बनाना, बड़े पैमाने पर AI से कंटेंट तैयार करना और ग्रामीण दर्शकों के लिए कंटेंट को ऑप्टिमाइज करना शामिल था।

ऐसी तकनीकें किसी भी ऐसे लोकतंत्र में इस्तेमाल हो सकती हैं जहां बड़ी आबादी और कई भाषाओं में बोलने वाले मतदाता मौजूद हों। भारत में करीब 95 करोड़ योग्य मतदाता हैं और देश में अलग-अलग राज्यों में लगातार चुनाव होते रहते हैं। AI की मदद से अलग-अलग भाषाओं में गलत जानकारी तैयार करना आसान हो सकता है, जबकि उसका पता लगाना ज्यादा मुश्किल हो सकता है। ऐसे में प्लेटफॉर्म्स से संदिग्ध गतिविधियों का पता लगाने और उन्हें रोकने की जिम्मेदारी तय करना नियमों में जरूरत से ज्यादा दखल नहीं, बल्कि लोकतांत्रिक व्यवस्था की सुरक्षा का हिस्सा माना जा सकता है।

AI मॉडल्स की 'डिस्टिलेशन' और बड़े पैमाने पर API इस्तेमाल का खतरा

Anthropic की रिपोर्ट में अलीबाबा से जुड़े 'डिस्टिलेशन कैंपेन' का भी उल्लेख है। इसमें किसी प्रतियोगी की क्षमताओं की नकल करने के उद्देश्य से 151 मिलियन AI एक्सचेंज किए जाने की बात सामने आई। यह चिंता भारतीय AI मॉडल्स के लिए भी प्रासंगिक हो सकती है। अगर किसी AI मॉडल की क्षमताओं को बड़े पैमाने पर कॉपी या डिस्टिल करने के लिए व्यवस्थित तरीके से API का इस्तेमाल किया जाता है, तो इसके लिए स्पष्ट नियमों की जरूरत हो सकती है।

इसी तरह निगरानी से जुड़े मामले भी यह सवाल उठाते हैं कि AI सिर्फ संचार का साधन न रहकर उन लोगों के लिए नियंत्रण का माध्यम बन सकता है, जिनके पास ऐसी तकनीक मौजूद है। ऐसी स्थिति में भारतीय संविधान के अनुच्छेद 21 के तहत निजता के अधिकार से जुड़े सवाल भी महत्वपूर्ण हो जाते हैं।

AI के लिए किन सुरक्षा उपायों की जरूरत है?

भारत में AI के बढ़ते इस्तेमाल के साथ कई तरह के सुरक्षा उपायों पर विचार किया जा सकता है। एक निश्चित पैमाने से बड़े हर AI प्लेटफॉर्म के लिए यह जरूरी किया जा सकता है कि अगर उसे किसी बड़े गलत इस्तेमाल का पता चलता है, तो इसकी जानकारी CERT-In और किसी निर्धारित AI सुरक्षा प्राधिकरण को दी जाए।

इसी तरह बांग्लादेश जैसे ऑपरेशन से निपटने के लिए राजनीतिक और जनहित से जुड़े संदर्भों में AI से बनाए गए कंटेंट पर अनिवार्य वॉटरमार्किंग की व्यवस्था की जा सकती है। इससे लोगों और प्लेटफॉर्म्स के लिए AI-जनरेटेड कंटेंट की पहचान करना आसान हो सकता है।

'Agentic AI' को भी प्लेटफॉर्म जवाबदेही के दायरे में लाना होगा

AI अब केवल टेक्स्ट या तस्वीरें बनाने तक सीमित नहीं है। कई नए AI सिस्टम दूसरे सॉफ्टवेयर से जुड़कर कई चरणों वाले काम खुद पूरा कर सकते हैं। इन्हें 'Agentic AI' कहा जाता है। ऐसे सिस्टम सिर्फ कंटेंट तैयार नहीं करते, बल्कि वास्तविक दुनिया में कई तरह के कार्य भी कर सकते हैं। इसलिए प्लेटफॉर्म जवाबदेही से जुड़े नियमों में एजेंटिक AI को स्पष्ट रूप से शामिल करने की जरूरत है।

इसके साथ ही व्यवस्थित तरीके से AI मॉडल्स की 'डिस्टिलेशन' और धोखाधड़ी के जरिए बड़े पैमाने पर API एक्सेस हासिल करने पर भी स्पष्ट नियम बनाए जा सकते हैं। ऐसे मामलों को कानून के तहत स्पष्ट रूप से परिभाषित करना और जरूरत पड़ने पर अपराध की श्रेणी में रखना भी विचार का विषय हो सकता है।

सिर्फ स्वैच्छिक जानकारी से नहीं बनेगा प्रभावी AI गवर्नेंस

AI गवर्नेंस के लिए केवल कंपनियों के स्वैच्छिक रूप से जानकारी देने पर निर्भर रहना पर्याप्त नहीं हो सकता। इसके लिए ऐसी कानूनी संस्था की जरूरत हो सकती है, जिसके पास जरूरी जानकारी मांगने, AI सिस्टम का ऑडिट कराने और नियमों का उल्लंघन होने पर प्रतिबंध लगाने जैसी शक्तियां हों।

AI से जुड़े गवर्नेंस जोखिमों को नियंत्रित करने के लिए सिर्फ कंपनियों की स्वैच्छिक पहल के बजाय कानूनी रूप से लागू होने वाले जवाबदेही तंत्र की जरूरत पर जोर दिया जा रहा है।

AI गवर्नेंस में भारत की भूमिका क्यों अहम है?

भारत इस बहस में एक अलग स्थिति में है। भारत न तो अमेरिका है, जहां नीतिगत दिशा प्रशासन के मुताबिक बदल सकती है, और न ही EU, जहां नियमन की महत्वाकांक्षा और तकनीकी समझ के बीच बहस होती रहती है।

भारत दुनिया का सबसे बड़ा लोकतंत्र है और बड़े पैमाने पर टेक्नोलॉजी पॉलिसी लागू करने का अनुभव रखता है। DPI, UPI, आधार और IT नियम इसके उदाहरण हैं। साथ ही भारत के सामने यह सुनिश्चित करने की जिम्मेदारी भी है कि AI से मिलने वाले लाभ देश के करीब 1.4 अरब नागरिकों तक पहुंचें और इसका फायदा केवल कुछ अमेरिकी या चीनी टेक्नोलॉजी कंपनियों तक सीमित न रहे।

AI सुरक्षा पर कंपनियों की चेतावनी सरकारों के लिए संकेत

सिलिकॉन वैली की बड़ी AI कंपनियों के प्रमुखों की ओर से AI विकास की रफ्तार और उसके जोखिमों को लेकर चिंता जताना कहीं न कहीं सरकारों के लिए नीति बनाने का संकेत है। भारत के लिए चुनौती यह है कि वह AI के विकास को रोकने के बजाय ऐसा कानूनी ढांचा तैयार करे, जिसमें सुरक्षा, जवाबदेही और पारदर्शिता अनिवार्य और लागू करने योग्य हों। AI तेजी से बदल रहा है। ऐसे में गवर्नेंस को भी उसी रफ्तार से आगे बढ़ाने की जरूरत है, ताकि तकनीक का इस्तेमाल समाज और लोकतंत्र के लिए सुरक्षित तरीके से हो सके।

(लेखक पूर्व सांसद और भारत सरकार में इलेक्ट्रॉनिक्स एवं सूचना प्रौद्योगिकी राज्य मंत्री रह चुके हैं। वर्तमान में वे केरल बीजेपी के प्रदेश अध्यक्ष और नेमोम से विधायक हैं।)