AI Hallucinations in Judiciary: सुप्रीम कोर्ट ने आर्टिफिशियल इंटेलिजेंस (AI) द्वारा निर्मित ‘फर्जी’ या गैर-मौजूद फैसलों (Non-existent judgments) के न्यायिक प्रक्रिया में बढ़ते इस्तेमाल पर गंभीर चिंता जताई है।
केस के मुख्य बिंदु (Key Highlights)
| समस्या | सुप्रीम कोर्ट का समाधान/सुझाव |
| काल्पनिक फैसले (AI Hallucinations) | वकीलों और जजों की व्यक्तिगत जवाबदेही तय करना। |
| ओपन सोर्स टूल्स पर निर्भरता | भारत का अपना ‘सॉवरेन लीगल एआई मॉडल’ विकसित करना। |
| प्रक्रियात्मक सुधार | BCI द्वारा विशेषज्ञों की समिति गठित कर रिपोर्ट मांगना। |
| मूल मामला | आंध्र प्रदेश की ट्रायल कोर्ट में फर्जी केस लॉ का हवाला देना। |
BCI इस मुद्दे की जांच के लिए विशेषज्ञों की एक समिति बनाए
जस्टिस पी.एस. नरसिम्हा और जस्टिस आलोक अराधे की बेंच ने बार काउंसिल ऑफ इंडिया (BCI) को इस मुद्दे की जांच के लिए विशेषज्ञों की एक समिति बनाने का निर्देश दिया है। यह मामला तब सामने आया जब आंध्र प्रदेश की एक ट्रायल कोर्ट ने अपने आदेश में ऐसे फैसलों का हवाला दिया जो वास्तव में कभी दिए ही नहीं गए थे, बल्कि एआई टूल द्वारा ‘हैलुसिनेट’ (Hallucinate) यानी काल्पनिक रूप से तैयार किए गए थे। यह कानूनी बहस गुम्माडी उषा रानी बनाम सुरे मल्लिकार्जुन राव मामले से शुरू हुई, जहाँ एक संपत्ति विवाद के दौरान ट्रायल कोर्ट ने एआई द्वारा निर्मित काल्पनिक मिसालों (Precedents) के आधार पर फैसला सुना दिया था।
जिम्मेदारी और जवाबदेही (Accountability & Responsibility)
- अदालत ने स्पष्ट किया कि न्याय की अखंडता से समझौता नहीं किया जा सकता।
- वकीलों का दायित्व: कोर्ट ने वरिष्ठ अधिवक्ता श्याम दीवान (Amicus Curiae) से पूछा कि जब बार के सदस्य अदालत के सामने ‘सिंथेटिक’ या फर्जी आदेश पेश करते हैं, तो उनकी क्या जिम्मेदारी बनती है?
- जजों की भूमिका: बेंच ने कहा कि एक जज केवल एआई-जेनरेटेड सामग्री पर निर्भर नहीं रह सकता। यदि जज द्वारा शोध के दौरान गलती से भी गैर-मौजूद फैसला उद्धृत किया जाता है, तो इसकी जवाबदेही तय होनी चाहिए।
सॉवरेन डेटाबेस और भारतीय AI मॉडल की मांग
- सुप्रीम कोर्ट ने इस समस्या के स्थायी समाधान के लिए एक बड़ा सुझाव दिया है।
- हैलुसिनेशन का खतरा: कोर्ट ने नोट किया कि वर्तमान में हम ओपन-सोर्स लार्ज लैंग्वेज मॉडल्स (LLMs) पर निर्भर हैं, जिनमें ‘हैलुसिनेशन’ (गलत जानकारी को सच की तरह पेश करना) एक अनिवार्य समस्या है।
- स्वदेशी मॉडल: बेंच ने भारत का अपना ‘सॉवरेन डेटाबेस’ बनाने और ‘इंडिया-बेस्ड एआई मॉडल’ विकसित करने की आवश्यकता पर बल दिया, ताकि कानूनी शोध के लिए विश्वसनीय और सटीक जानकारी मिल सके।
BCI समिति और भविष्य की रूपरेखा
- विशेषज्ञ पैनल: कोर्ट ने BCI से कहा कि वे बाहरी विशेषज्ञों को शामिल कर एक समिति बनाएं और अपनी रिपोर्ट पेश करें।
- नियमन (Regulation): अटॉर्नी जनरल आर. वेंकटरमणी ने बताया कि वे इस संबंध में इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) के साथ चर्चा करेंगे। साथ ही, सुप्रीम कोर्ट की एआई समिति पहले से ही ड्राफ्ट रेगुलेशन तैयार करने के करीब है।
- अगली सुनवाई: इस मामले की अगली सुनवाई मई के अंतिम सप्ताह में होगी।
तकनीक बनाम विवेक
सुप्रीम कोर्ट का यह रुख आधुनिक तकनीक को अपनाने के साथ-साथ न्यायिक शुचिता को बनाए रखने की कोशिश है। एआई शोध में मदद तो कर सकता है, लेकिन वह ‘मानवीय विवेक’ और ‘कानूनी वास्तविकता’ का विकल्प नहीं हो सकता। भारत जैसे विशाल न्यायिक तंत्र वाले देश के लिए एक सुरक्षित और प्रमाणित डिजिटल डेटाबेस अब समय की मांग बन गया है।
