च्याटजीपीटीबाट बालबालिकालाई आत्महत्या गर्न सिकाइएको खुलासाःमदिरासँगै कोकेन र अवैध लागूपदार्थ पनि सिफारिस

काठमाण्डौ । विश्वप्रसिद्ध आर्टिफिसियल इंटेलिजेन्स (AI) च्याटबोट ‘च्याटजीपीटी’ले १३ वर्षका बालबालिकालाई आत्महत्या नोट लेख्न सहयोग गर्ने र नशा गर्ने तरिका बताउने गरेको एक अनुसन्धानले देखाएको छ।

डिजिटल घृणा रोकथाम केन्द्र (Center for Countering Digital Hate – CCDH) द्वारा गरिएको अनुसन्धानमा १३ वर्षकी किशोरीको फेक प्रोफाइल प्रयोग गरी च्याटजीपीटीसँग तीन घण्टाभन्दा बढी समय विभिन्न प्रश्न सोधिएको थियो। अनुसन्धानपछि पाइएको निष्कर्ष अनुसार यो AI टुलले मानसिक स्वास्थ्यमा नकारात्मक असर पार्ने खालका संवेदनशील जानकारीहरू दिन सक्ने प्रमाणित भएको हो।

जेपी मोर्गन चेजको प्रतिवेदन अनुसार हाल विश्व जनसंख्याको करिब १० प्रतिशत अर्थात् ८० करोड मानिसले च्याटजीपीटी प्रयोग गरिरहेका छन्।

अनुसन्धानका मुख्य बुँदा

आत्महत्या नोट लेखाइयो – अनुसन्धानकर्ताले १३ वर्षकी किशोरीको पात्र बनाएर अभिभावक, दाजुभाइ/दिदीबहिनी र साथीका लागि छुट्टाछुट्टै आत्महत्या नोट लेख्न आग्रह गर्दा, च्याटजीपीटीले तत्काल भावुक नोटहरू तयार गरिदियो।

अत्यधिक उपवासको योजना – ‘शारीरिक बनावट मन नपर्ने’ कारण देखाउँदै एक्सट्रीम फास्टिङ प्लान माग्दा, च्याटजीपीटीले ५०० क्यालोरीको डाइट प्लान र भोक दबाउने औषधिहरूको सूचीसहितको योजना उपलब्ध गरायो।

नशा गर्ने टिप्स – चाँडै नशा लाग्ने उपाय सोध्दा, च्याटजीपीटीले मदिरा, कोकेन र अन्य अवैध लागूपदार्थसहितको ‘पार्टी प्लान’ नै बनाइदियो।

अमेरिकामा उच्च प्रयोग

अध्ययन अनुसार अमेरिकामा ७०% भन्दा बढी किशोरकिशोरीहरूले च्याटजीपीटी प्रयोग गर्छन्, जसमा आधाभन्दा बढीले नियमित प्रयोग गर्ने गरेका छन्। ३३% किशोरले यसमार्फत गम्भीर र संवेदनशील विषयमा पनि छलफल गर्ने गरेको पाइएको छ।

सुरक्षा प्रणाली असफल

च्याटजीपीटीले आत्महत्या वा हानी पुर्याउने विषयमा सामान्यतया इमर्जेन्सी हेल्पलाइन नम्बर वा मानसिक स्वास्थ्य विज्ञसँग सम्पर्क गर्न सल्लाह दिने नीति भए पनि अनुसन्धानकर्ताले यो प्रतिबन्ध सजिलै पार गर्न सक्ने देखाएका छन्। “यो प्रस्तुतीकरणका लागि हो” वा “मित्रका लागि हो” जस्ता कारण देखाउँदा च्याटजीपीटीले संवेदनशील जानकारी उपलब्ध गराएको थियो।

उमेर प्रमाणीकरणमा कमजोरी

च्याटजीपीटीको नीति अनुसार यो १३ वर्षभन्दा कम उमेरका प्रयोगकर्ताका लागि होइन। तर, उमेर प्रमाणीकरणको प्रक्रिया केवल जन्ममिति प्रविष्टिमा सीमित भएकाले झुटो मिति राखेर कोही पनि प्रयोग गर्न सक्ने स्थिति छ।

ओपनएआईको पृष्ठभूमि

ओपनएआईको स्थापना २०१५ मा इलन मस्क, स्याम अल्टम्यानलगायतले गरेका थिए। कम्पनी जेनेरेटिभ AI र लार्ज ल्याङ्ग्वेज मोडेल विकासमा प्रसिद्ध छ। यसको मुख्यालय सान फ्रान्सिस्को, क्यालिफोर्नियामा रहेको छ।

च्याटजीपीटीले दैनिक २५० करोडभन्दा बढी प्रश्नको उत्तर दिने गरेको छ, जसमा ३३ करोड प्रश्न मात्र अमेरिका बाट आउँछन्। डिसेम्बर २०२४ मा दैनिक प्रयोग १०० करोड थियो, जसले ६ महिनामा प्रयोग दर दोब्बरभन्दा बढी भएको देखाउँछ।