सुप्रीम कोर्ट ने AI को बताया ‘विनाशकारी’, फर्जी केस उद्धरणों पर जताई चिंता; हर स्तर पर इंसानी निगरानी जरूरी

नई दिल्ली: सुप्रीम कोर्ट ने आर्टिफिशियल इंटेलिजेंस (AI) के इस्तेमाल को लेकर गंभीर चिंता जताई है और कुछ परिस्थितियों में इसे “विनाशकारी” तक बताया है। कोर्ट ने स्पष्ट कहा है कि न्याय व्यवस्था के हर स्तर पर इंसानी निगरानी अनिवार्य है और AI पर पूरी तरह निर्भरता खतरनाक साबित हो सकती है।

फर्जी AI-जनित संदर्भों पर सुप्रीम कोर्ट की आपत्ति

सुप्रीम कोर्ट ने राष्ट्रीय कंपनी कानून न्यायाधिकरण (NCLT) के एक फैसले को रद्द करते हुए यह टिप्पणी की। मामले में कोर्ट ने पाया कि निर्णय में ऐसे कानूनी उदाहरण और केस लॉ का हवाला दिया गया था जो वास्तविक नहीं थे, बल्कि आर्टिफिशियल इंटेलिजेंस टूल्स की मदद से तैयार किए गए थे। कोर्ट ने कहा कि इस तरह के मनगढ़ंत और गलत संदर्भ न्यायिक प्रक्रिया की विश्वसनीयता को गंभीर रूप से प्रभावित करते हैं।

‘जहरीली गैस’ से की तुलना

अपनी टिप्पणी में सुप्रीम कोर्ट ने AI के दुरुपयोग की तुलना अत्यंत खतरनाक रसायन मिथाइल आइसोसाइनेट (MIC) से करते हुए कहा कि फर्जी और काल्पनिक सामग्री का न्यायिक प्रक्रिया में उपयोग “अदृश्य, कपटी और विनाशकारी” प्रभाव डाल सकता है। कोर्ट ने कहा कि जब तक इस तरह की त्रुटियों का पता चलता है, तब तक यह न्याय प्रणाली की नींव को नुकसान पहुंचा चुकी होती हैं।

हर स्तर पर इंसानी हस्तक्षेप जरूरी

सुप्रीम कोर्ट ने अपने फैसले में जोर देकर कहा कि न्याय प्रणाली में AI का उपयोग सहायक उपकरण के रूप में हो सकता है, लेकिन अंतिम निर्णय और सत्यापन पूरी तरह मानव नियंत्रण में रहना चाहिए। कोर्ट ने यह भी चेतावनी दी कि AI पर अत्यधिक निर्भरता कानूनी पेशेवरों को लापरवाह बना सकती है, जिससे गंभीर गलतियां होने का खतरा बढ़ जाता है।

मामले की पृष्ठभूमि

यह टिप्पणी Essel Infraprojects के दिवालियापन से जुड़े NCLT के एक फैसले को रद्द करते समय सामने आई, जिसमें गलत और AI-जनित संदर्भों का उपयोग पाया गया था।