AI Hallucination: ChatGPT से तैयार ब्रीफ में फर्जी पुलिस गवाही और गढ़े हुए गवाह पेश; वकील पर $5,000 का जुर्माना; न्यू मैक्सिको सुप्रीम कोर्ट

अदालत की सख्त टिप्पणी और रुख

सुनवाई के दौरान जस्टिस सी. शैनन बेकन (Justice C. Shannon Bacon) ने वकील की लापरवाही पर कड़ी नाराजगी जताई: “काउंसिल, क्या आप खबरें देखते हैं? रेडियो सुनते हैं? दुनिया में क्या चल रहा है इसके बारे में कुछ पढ़ते हैं? क्योंकि वकीलों द्वारा एआई हॉल्यूसिनेशन पर भरोसा करने की समस्या हर दिन की मुख्य खबर (Headlines) बन चुकी है।” — जस्टिस सी. शैनन बेकन

अदालत का अंतिम आदेश

1. अवमानना का दोषी और पेनल्टी: वकील को कोर्ट की अवमानना का दोषी मानते हुए $5,000 का जुर्माना लगाया गया।
2. अनुशासनात्मक कार्रवाई: वकील का मामला आगे की जांच और लाइसेंस संबंधी कार्रवाई के लिए अटॉर्नी डिसिप्लिनरी बोर्ड को भेज दिया गया है।
3. केस हस्तांतरण: आरोपी की अपील याचिका से एरोन्स को हटाकर न्यू मेक्सिको की पब्लिक डिफेंडर किम चावेज़ कुक को यह केस सौंप दिया गया है।

सांता फे (न्यू मैक्सिको, अमेरिका): आर्टिफिशियल इंटेलिजेंस (AI) के अनियंत्रित और बिना सत्यापन के इस्तेमाल पर कानूनी जगत में एक बेहद गंभीर मामला सामने आया है। न्यू मैक्सिको सुप्रीम कोर्ट ने हत्या के मामले में अपील दाखिल करने वाले एक डिफेंस लॉयर पर अदालत में ChatGPT द्वारा गढ़ी गई फर्जी पुलिस गवाही और झूठे गवाहों के बयान पेश करने के आरोप में $5,000 (लगभग ₹4.2 लाख) का जुर्माना लगाया है। शीर्ष अदालत ने वकील को अदालत की अवमानना (Contempt of Court) का दोषी ठहराया और मामले को आगे की अनुशासनात्मक कार्रवाई के लिए ‘अटॉर्नी डिसिप्लिनरी बोर्ड’ को रेफर कर दिया।

अदालत की सख्त टिप्पणियां और पीठ का रुख

1. ‘वकीलों द्वारा AI हेलुसिनेशन का शिकार होना रोज की हेडलाइन है’ सुनवाई के दौरान जब वकील ने तर्क दिया कि वह AI की गलतियों से अनजान था, तो जस्टिस सी. शैनन बेकन ने कड़ी फटकार लगाते हुए कहा: “काउंसिल, क्या आप खबरें देखते हैं? क्या आप रेडियो सुनते हैं? क्या आप दुनिया में क्या चल रहा है इसके बारे में कुछ पढ़ते हैं? क्योंकि वकीलों द्वारा एआई मतिभ्रम (AI Hallucinations) पर भरोसा करने की समस्या हर दिन अखबारों की पहली सुर्खी (Above-the-fold story) बनी हुई है।”

2. मुवक्किल के प्रति असंवेदनशीलता और पश्चाताप का अभाव

• पीठ ने आदेश में दर्ज किया कि अपील ब्रीफ में “पूरी तरह से मनगढ़ंत गवाहों की झूठी गवाहियां” शामिल थीं।
• अदालत ने टिप्पणी की कि वकील ने अपने मुवक्किल के प्रति घोर लापरवाही और पश्चाताप का अभाव दिखाया, विशेषकर तब जब मामला उम्रकैद की सजा पाए मुवक्किल की अपील से जुड़ा था।

Also Read; China News: तलाक के दौरान पूर्व पति ने छिपाए ₹19 करोड़…चीनी महिला के खुलासे से भड़का जनाक्रोश, घरेलू हिंसा-आर्थिक शोषण पर छिड़ी वैश्विक बहस

मामले की पृष्ठभूमि (हत्या की अपील में AI का सहारा)

• मूल मामला: सांता फे के निजी वकील स्टीफन एरोन्स अपने मुवक्किल ऑस्कर रेनी सैंडोवल का प्रतिनिधित्व कर रहे थे, जिसे अपने बच्चों की मां की हत्या के जुर्म में दोषी ठहराकर उम्रकैद की सजा सुनाई गई थी।
• चैटजीपीटी पर अत्यधिक निर्भरता: अपील ड्राफ्ट तैयार करते समय वकील ने ट्रायल ट्रांसक्रिप्ट और केस फाइल्स को चैटजीपीटी में अपलोड कर दिया, यह सोचकर कि चैटबॉट एक त्रुटिहीन सारांश (Bulletproof Summary) तैयार करेगा।
• फर्जी गवाही का निर्माण: चैटजीपीटी ने अपने हेलुसिनेशन के तहत मामले में ऐसे काल्पनिक गवाह और मनगढ़ंत पुलिस बयान जोड़ दिए जो मूल ट्रायल रिकॉर्ड में थे ही नहीं (जैसे शूटर द्वारा ‘काली पैंट और सफेद शर्ट’ पहनने का काल्पनिक दावा)।
• बिना सत्यापन दाखिल ब्रीफ: वकील ने एआई द्वारा तैयार किए गए इस सारांश को बिना मूल रिकॉर्ड से क्रॉस-चेक किए सीधे न्यू मैक्सिको सुप्रीम कोर्ट में मुख्य अपील ब्रीफ के रूप में दाखिल कर दिया।

वकील की सफाई और कानूनी परिणाम

• ‘ईमानदार भूल’ का तर्क: वकील स्टीफन एरोन्स ने अपनी गलती स्वीकार करते हुए कहा कि उन्हें यह अंदाजा नहीं था कि चैटबॉट तथ्यों को इस हद तक मनगढ़ंत बना सकता है। उन्होंने इसे एक ‘ईमानदार भूल’ (Honest Mistake) बताते हुए कहा कि यह शक्तिशाली लेकिन अस्थिर तकनीक पर निर्भर सभी पेशेवरों के लिए एक बड़ा सबक है।
• अदालत की कार्रवाई:
  • वकील पर $5,000 का सीधा जुर्माना लगाया गया।
  • पेशेवर कदाचार (Professional Misconduct) की जांच के लिए मामला राज्य के अटॉर्नी डिसिप्लिनरी बोर्ड को भेजा गया।
  • अदालत ने हत्या की लंबित अपील से उक्त वकील को हटाकर न्यू मैक्सिको की पब्लिक डिफेंडर किम शावेज कुक को मुवक्किल का नया वकील नियुक्त किया।

न्यायिक प्रणाली में AI हॉल्यूसिनेशन (AI Hallucination in Judiciary)

AI हॉल्यूसिनेशन उस स्थिति को कहते हैं जब कोई लार्ज लैंग्वेज मॉडल (LLM) जैसे ChatGPT पूरी तरह से गलत, काल्पनिक या मनगढ़ंत तथ्य, केस लॉ या साइटेशन (Citations) को सच की तरह पेश करने लगता है। हाल के दिनों में अमेरिका सहित दुनिया भर की अदालतों में वकीलों द्वारा AI जनरेटेड फर्जी साइटेशन और केस लॉ दाखिल करने पर कोर्टों द्वारा भारी जुर्माना और अवमानना की कार्रवाई की जा रही है।

विधिक प्रासंगिकता

न्यायिक इतिहास में पूर्व में कई अमेरिकी वकीलों पर चैटजीपीटी द्वारा गढ़ी गई फर्जी केस-साइटेशन (Fake Precedents) पेश करने पर जुर्माने लगे हैं, किंतु किसी आपराधिक अपील में गवाहों के पूरे बयान और साक्ष्य ही मनगढ़ंत बनाकर पेश करने का यह पहला अत्यधिक गंभीर मामला बन गया है।

AI Hallucination: मामले का संक्षिप्त विवरण (At a Glance)