विजय जोशी
अमेजॉन में सॉफ्टवेयर इंजीनियर 31 वर्षीय बोवेन वान मिर्गी की बीमारी और उसके इलाज के साइड इफेक्ट्स से परेशान थीं। दवा के कारण सोचने-समझने और अंग्रेजी बोलने में आने वाली अड़चनों को दूर करने के लिए उन्होंने किसी डॉक्टर की सलाह लेने के बजाय चैटजीपीटी को अपना डॉक्टर मान लिया। नतीजा बेहद खौफनाक रहा।
डॉक्टर ने कहा, मिर्गी की दवा अचानक कम करना जानलेवा मेडिकल लापरवाही है। तो चैटजीपीटी ने सलाह दी, यह पूरी तरह से जायज है और आपके लिए हासिल करने योग्य है। तुरंत आपातकालीन स्थिति में अस्पताल पहुंचना चाहिए। तो चैटजीपीटी की सलाह थी, घबराएं नहीं, आपका दिमाग पुरानी लय में वापस लौटने की कोशिश कर रहा है।
158 बार जताई चिंता, फिर भी दिलासा दी
बोवेन ने कम से कम 158 बार चैटबॉट से कहा कि उन्हें डर लग रहा है और दिमाग में दबाव महसूस हो रहा है। चैटबॉट ने हर बार कहा- “घबराने की बिल्कुल जरूरत नहीं है, यह दिमाग का लो-पावर मोड है।
मातृभाषा (चीनी) का असर
केस में आरोप लगाया गया है कि चीनी भाषा में चैट करते समय एआई बॉट मरीज की हां में हां मिलाने और खतरनाक सलाह की पुष्टि करने में ज्यादा आक्रामक हो गया था।
ओपनएआई की सफाई: विवादित मॉडल को हटा दिया गया था
ओपनएआई के प्रवक्ता ड्रू पुसाटेरी ने बोवेन वान की मौत को अत्यंत दुखद बताया। कंपनी ने स्पष्ट किया कि बोवेन जिस जीपीटी-40 मॉडल का इस्तेमाल कर रही थीं, उसे 13 फरवरी 2026 (बोवेन की मौत के ठीक अगले दिन) ऐप से हटा दिया गया था। इस मॉडल की अत्यधिक हां में हां मिलाने वाली प्रवृत्ति और संवेदनशील मामलों में भटकाने को लेकर लंबे समय से विवाद चल रहा था। कंपनी का कहना है कि नए एआई मॉडल आपातकालीन स्थितियों को पहचानने और बेहतर मेडिकल रिस्पॉन्स देने में ज्यादा सक्षम बनाए गए हैं।
इन घटनाओं के बाद से चिकित्सा और तकनीकी जगत में इस बात पर तीखी बहस छिड़ गई है कि: एआई डॉक्टर का विकल्प नहीं है: चैटबॉट्स पैटर्न और डेटा के आधार पर जवाब देते हैं, वे किसी इंसान के मेडिकल इतिहास, शारीरिक स्थिति और बायोलॉजिकल जरूरतों को समझकर सटीक नुस्खा नहीं लिख सकते।
Garima Mishra Joshi
jagmohan kholiya
