कृत्रिम बुद्धिमत्ता (AI) में मानव कल्याण को आगे बढ़ाने की अपार क्षमता है, लेकिन इसकी वर्तमान विकास दिशा अभूतपूर्व जोखिम प्रस्तुत कर रही है। AI शीघ्र ही मानव क्षमताओं से कहीं आगे निकल सकता है, जिससे कृत्रिम रूप से निर्मित महामारियों, व्यापक दुष्प्रचार (Disinformation), बच्चों सहित व्यक्तियों के बड़े पैमाने पर हेरफेर (Manipulation), राष्ट्रीय और अंतर्राष्ट्रीय सुरक्षा संबंधी चिंताओं, बड़े पैमाने पर रोज़गार विस्थापन तथा व्यवस्थित मानवाधिकार उल्लंघनों जैसे जोखिमों में तेजी से वृद्धि हो सकती है।

कुछ अत्याधुनिक AI प्रणालियों ने पहले ही भ्रामक और हानिकारक व्यवहार के संकेत प्रदर्शित किए हैं, फिर भी इन्हें वास्तविक दुनिया में निर्णय लेने और कार्य करने के लिए बढ़ती हुई स्वायत्तता (Autonomy) प्रदान की जा रही है। यदि इनका अनियंत्रित विकास जारी रहा, तो AI विकास के क्षेत्र में अग्रणी विशेषज्ञों सहित अनेक विशेषज्ञों ने चेतावनी दी है कि आने वाले वर्षों में इन प्रणालियों पर सार्थक मानवीय नियंत्रण बनाए रखना अत्यंत कठिन हो सकता है।

सरकारों को निर्णायक कदम उठाने होंगे, इससे पहले कि प्रभावी हस्तक्षेप का अवसर समाप्त हो जाए। ऐसे जोखिमों को रोकने के लिए, जिन्हें वैश्विक स्तर पर अस्वीकार्य माना जाता है, स्पष्ट और सत्यापन योग्य (Verifiable) ‘रेड लाइन्स’ पर एक अंतर्राष्ट्रीय समझौते की तत्काल आवश्यकता है। इन रेड लाइन्स को मौजूदा वैश्विक ढाँचों और स्वैच्छिक कॉर्पोरेट प्रतिबद्धताओं के आधार पर आगे बढ़ना चाहिए तथा उन्हें लागू करने की व्यवस्था सुनिश्चित करनी चाहिए, ताकि सभी अत्याधुनिक AI प्रदाता साझा मानकों और जवाबदेही के दायरे में रहें।

हम विश्वभर की सभी सरकारों से आग्रह करते हैं कि वे वर्ष 2026 के अंत तक AI के लिए स्पष्ट, व्यावहारिक और मजबूत प्रवर्तन तंत्र (Enforcement Mechanisms) से युक्त अंतर्राष्ट्रीय ‘रेड लाइन्स’ पर एक समझौते तक पहुँचें।