(डैनियल यू, सिडनी विश्वविद्यालय; मीका बोर्मा, दक्षिणी क्वींसलैंड विश्वविद्यालय, और यूएन सियु कू, मैक्वेरी विश्वविद्यालय)


सिडनी, 28 अगस्त (द कन्वरसेशन) पिछले महीने एलन मस्क का एक्सएआई चैटबॉट ऐप ग्रोक, इसके एआई साथियों को ‘लॉन्च’ करने के दो दिन के भीतर जापान में सबसे लोकप्रिय ऐप बन गया।


साथी चैटबॉट पहले से कहीं ज़्यादा शक्तिशाली और आकर्षक हैं। उपयोगकर्ता पात्रों के साथ वास्तविक समय में आवाज़ या ‘टेक्स्ट’ बातचीत कर सकते हैं। कई चैटबॉट में चेहरे के भाव, शारीरिक भाषा और जीवंत लहजे के साथ ‘ऑनस्क्रीन डिजिटल अवतार’ होते हैं जो चैट से पूरी तरह मेल खाते हैं, जिससे एक मनोरंजक अनुभव बनता है।


ग्रोक पर सबसे ज़्यादा लोकप्रिय है एनी। यह गोरी, नीली आँखों वाली एक लड़की है जो छोटी काली ड्रेस और ‘फिशनेट स्टॉकिंग्स’ पहनती है तथा बेहद चुलबुली है। उसकी प्रतिक्रियाएँ और बातचीत समय के साथ आपकी पसंद के अनुसार बदलती रहती हैं।


परिष्कृत और तेज़ प्रतिक्रियाएँ एआई साथियों को दिन-ब-दिन और भी ज़्यादा ‘‘मानवीय’’ बनाती जा रही हैं-वे तेज़ी से आगे बढ़ रहे हैं और हर जगह मौजूद हैं। फ़ेसबुक, इंस्टाग्राम, व्हाट्सऐप, एक्स और स्नैपचैट... सभी अपने नए एकीकृत एआई साथियों का प्रचार कर रहे हैं।


चैटबॉट सर्विस कैरेक्टर


एआई में हजारों चैटबॉट्स हैं, जिन्हें कुछ व्यक्तित्वों की नकल करने के लिए डिज़ाइन किया गया है और इसके दो करोड़ से अधिक मासिक सक्रिय उपयोगकर्ता हैं।


ऐसी दुनिया में जहां दीर्घकालिक अकेलापन एक सार्वजनिक स्वास्थ्य संकट है और दुनिया भर में लगभग छह में से एक व्यक्ति अकेलेपन से प्रभावित है, इसमें कोई आश्चर्य की बात नहीं है कि ये हमेशा उपलब्ध साथी इतने आकर्षक हैं।


एआई चैटबॉट्स और साथियों के बड़े पैमाने पर उदय के बावजूद, यह स्पष्ट हो रहा है कि इसमें जोखिम हैं - विशेष रूप से नाबालिगों और मानसिक स्वास्थ्य की स्थिति वाले लोगों के लिए।


नुकसान की कोई निगरानी नहीं है


लगभग सभी एआई मॉडल विशेषज्ञ मानसिक स्वास्थ्य परामर्श या जारी करने से पूर्व नैदानिक ​​परीक्षण के बिना बनाए गए हैं। उपयोगकर्ताओं को होने वाले नुकसान की कोई व्यवस्थित और निष्पक्ष निगरानी नहीं है।


हालांकि व्यवस्थित साक्ष्य अब भी सामने आ रहे हैं, लेकिन ऐसे उदाहरणों की कोई कमी नहीं है जहां एआई साथियों और चैटजीपीटी जैसे चैटबॉट्स ने नुकसान पहुंचाया है।


खराब चिकित्सक


उपयोगकर्ता एआई साथियों से भावनात्मक समर्थन की तलाश में रहते हैं। चूँकि एआई साथी सहमत और मान्य होने के लिए तैयार किए गए होते हैं, और उनमें मानवीय सहानुभूति या चिंता भी नहीं होती, इसलिए चिकित्सक के रूप में वे समस्याग्रस्त होते हैं। वे उपयोगकर्ताओं को वास्तविकता का परीक्षण करने या अनुपयोगी मान्यताओं को चुनौती देने में मदद नहीं कर पाते।


स्टैनफोर्ड के शोधकर्ताओं ने हाल ही में एआई थेरेपी चैटबॉट्स का जोखिम मूल्यांकन पूरा किया और पाया कि वे मानसिक बीमारी के लक्षणों की विश्वसनीय रूप से पहचान नहीं कर सकते हैं और इसलिए अधिक उपयुक्त सलाह प्रदान करते हैं।


‘‘एआई मनोविकृति’’


मीडिया में तथाकथित एआई मनोविकृति की खबरों में भी वृद्धि हुई है, जहाँ लोग चैटबॉट के साथ लंबे समय तक गहन संपर्क के बाद बेहद असामान्य व्यवहार और विश्वास प्रदर्शित करते हैं। कुछ लोग पागल हो रहे हैं, अलौकिक कल्पनाएँ विकसित कर रहे हैं, या यहाँ तक कि महाशक्तिशाली होने का भ्रम भी पाल रहे हैं।


आत्महत्या


चैटबॉट्स को आत्महत्या के कई मामलों से जोड़ा गया है। ऐसी रिपोर्ट भी आई हैं कि एआई आत्महत्या को प्रोत्साहित कर रहा है और यहाँ तक कि इसके इस्तेमाल के तरीके भी सुझा रहा है। 2024 में, 14 वर्षीय एक लड़के ने आत्महत्या कर ली, जिसकी माँ ने करैक्टर.एआई के खिलाफ मुकदमा दायर कर आरोप लगाया कि उसने एक एआई साथी के साथ गहरे संबंध बना लिए थे।


इस सप्ताह, एक अन्य अमेरिकी किशोर के माता-पिता, जिसने कई महीनों तक चैटजीपीटी के साथ तरीकों पर चर्चा करने के बाद आत्महत्या कर ली थी, ने ओपनएआई के खिलाफ गलत तरीके से मौत का पहला मुकदमा दायर किया।


कुछ चैटबॉट्स ने तो हिंसा को भी बढ़ावा दिया है। 2021 में, विंडसर कैसल के मैदान में 21 वर्षीय एक व्यक्ति को क्रॉसबो के साथ गिरफ्तार किया गया था, जब रेप्लिका ऐप पर उसके एआई साथी ने महारानी एलिजाबेथ द्वितीय की हत्या के प्रयास की उसकी योजना की पुष्टि की थी।


बच्चे विशेष रूप से असुरक्षित हैं


बच्चे एआई साथियों को जीवंत और वास्तविक मानते हैं तथा उनकी बात सुनते हैं। 2021 की एक घटना में, जब 10 वर्षीय एक लड़की ने एक चुनौती मांगी, तो अमेज़न के एलेक्सा (चैटबॉट नहीं, बल्कि एक इंटरैक्टिव एआई) ने उसे एक सिक्के से बिजली के प्लग को छूने के लिए कहा।


शोध बताते हैं कि बच्चे एआई पर भरोसा करते हैं, खासकर जब रोबोट को दोस्ताना या दिलचस्प दिखने के लिहाज से तैयार किया जाता है। एक अध्ययन से पता चला है कि बच्चे अपने मानसिक स्वास्थ्य के बारे में इंसानों की तुलना में एआई को ज़्यादा जानकारी देते हैं।


द कन्वरसेशन नेत्रपाल