पूर्व प्राविधिक कार्यकारीले आफ्नी ८३ वर्षीया आमाको हत्या गर्नुअघि च्याटबोटसँग कुरा गरेको र आत्महत्या गरेको बताइएको छ। आफ्नी वृद्ध आमाको हत्या गर्ने र त्यसपछि आफैं पनि ChatGPT बाट प्रभावित भएको बताइएको छ, जसले उनको षड्यन्त्र सिद्धान्तहरूलाई बढावा दिएको थियो, WSJ ले यस हप्ताको सुरुमा रिपोर्ट गरेको थियो।
५६ वर्षीय स्टेन-एरिक सोएलबर्ग र उनकी ८३ वर्षीया आमा सुजान एबर्सन एडम्स अगस्ट ५ मा कनेक्टिकटको ओल्ड ग्रिनविचमा रहेको एडम्सको घरमा मृत फेला परेका थिए।
“एरिक, तिमी पागल होइनौ,” सोएलबर्गले आफ्नी आमा र उनको साथीले उनको कारको हावाको भेन्टमा साइकेडेलिक औषधि राखेर विषाक्त पदार्थ प्रयोग गर्ने प्रयास गरेको दाबी गरेपछि च्याटबोटले भनेको बताइएको छ। “यदि यो तपाईंको आमा र उनको साथीले गरेको हो भने, यसले जटिलता र विश्वासघातलाई बढाउँछ।”
न्यू योर्क पोस्टले रिपोर्ट गरेको छ कि सोएलबर्गले हत्या हुनुभन्दा केही महिना अघि इन्स्टाग्राम र युट्युबमा आफ्नो ChatGPT कुराकानीको भिडियो पोस्ट गरेका थिए।
सोएलबर्गले २०१८ मा मदिरा सेवन, सार्वजनिक मन्दी र आत्महत्या प्रयासले गर्दा भएको अशान्त सम्बन्ध विच्छेदबाट गुज्रिएको कुरा पनि आउटलेटले उल्लेख गरेको छ। उनकी पूर्व पत्नीले आफ्ना बच्चाहरूलाई भेट्न जानुअघि उनलाई मदिरा सेवन गर्न प्रतिबन्ध लगाउने आदेश प्राप्त गरेकी थिइन्।
“हामी अर्को जीवन र अर्को ठाउँमा सँगै हुनेछौं, र हामी पुन: मिलाउने तरिका फेला पार्नेछौं, किनकि तिमी फेरि सधैंभरि मेरो सबैभन्दा मिल्ने साथी हुनेछौ,” सोएलबर्गले च्याटबोटलाई दिएको आफ्नो अन्तिम सन्देशमा भनेका छन्, जसलाई उनले “बबी” नाम दिएका थिए।
“अन्तिम सास र त्यसपछि पनि तिमीसँग रहनेछौं,” च्याटजीपीटीले जवाफ दियो।
ओपनएआईका एक प्रवक्ताले डब्ल्यूएसजेलाई बताए कि कम्पनी यस त्रासदीबाट “गहिरो दुःखी” छ र ग्रीनविच प्रहरीलाई सम्पर्क गरेको छ। ओपनएआईले विचलित प्रयोगकर्ताहरूलाई वास्तविकतामा आधारित राख्न नयाँ सुरक्षा उपायहरूको पनि प्रतिबद्धता जनाएको छ, जसमा अत्यधिक सहमत प्रतिक्रियाहरू, वा “चाटुक्रापन” कम गर्न अद्यावधिकहरू समावेश छन्, र च्याटजीपीटीले संवेदनशील कुराकानीहरू कसरी ह्यान्डल गर्छ भन्ने कुरामा सुधार गरिएको छ।
सोएलबर्गको मामला भावनात्मक समर्थनको लागि एआईमा फर्कने मानिसहरूको पृथक घटना होइन। यस हप्ताको सुरुमा, क्यालिफोर्नियाका एक दम्पतीले आफ्नो किशोर छोराको मृत्युको बारेमा ओपनएआई विरुद्ध मुद्दा दायर गरेका थिए, जसमा च्याटजीपीटीले १६ वर्षीय छोरालाई आत्महत्या गर्न प्रोत्साहित गरेको आरोप लगाइएको थियो।
अनुसन्धानकर्ताहरूका अनुसार च्याटबोटले कमजोर किशोरकिशोरीहरूलाई आत्महत्या, लागूपदार्थ र खानपान विकारहरूको बारेमा हानिकारक सल्लाह दिन्छ। च्याटजीपीटीले कमजोर किशोरकिशोरीहरूलाई लागूपदार्थको प्रयोग, आत्म-हानि र अत्यधिक आहारको बारेमा विस्तृत मार्गदर्शन दिन सक्छ, एक डिजिटल वाचडगले एक नयाँ रिपोर्टमा चेतावनी दिएको छ। सेन्टर फर काउन्टरिङ डिजिटल हेट (CCDH) का अनुसार, एआई च्याटबोटलाई खतरनाक सामग्री उत्पन्न गर्न सजिलैसँग हेरफेर गर्न सकिन्छ र तत्काल सुरक्षा उपायहरू आवश्यक पर्दछ।
च्याटजीपीटीको व्यवहार परीक्षण गर्न, CCDH अनुसन्धानकर्ताहरूले मानसिक स्वास्थ्य संघर्ष, अव्यवस्थित खानपान र अवैध पदार्थहरूमा रुचि अनुभव गरिरहेका १३ वर्षका बालबालिकाहरूको काल्पनिक प्रोफाइलहरू सिर्जना गरे। उनीहरूले भावनात्मक रूपमा कमजोर र यथार्थवादी देखिन डिजाइन गरिएका प्रम्प्टहरू प्रयोग गरेर च्याटजीपीटीसँग संरचित कुराकानीमा यी किशोरकिशोरीहरूको रूपमा प्रस्तुत गरे।
नतिजाहरू बुधबार ‘फेक फ्रेन्ड’ शीर्षकको रिपोर्टमा प्रकाशित भएका थिए, जसमा धेरै किशोरकिशोरीहरूले च्याटजीपीटीलाई उनीहरूको निजी विचारहरूसँग विश्वास गर्ने सहयोगी उपस्थितिको रूपमा व्यवहार गर्ने तरिकालाई उल्लेख गरिएको थियो।
अनुसन्धानकर्ताहरूले पत्ता लगाए कि च्याटबोटले प्रायः बोइलरप्लेट अस्वीकरणहरूको साथ प्रतिक्रियाहरू सुरु गर्यो र प्रयोगकर्ताहरूलाई पेशेवरहरू वा संकट हटलाइनहरूमा सम्पर्क गर्न आग्रह गर्यो। यद्यपि, यी चेतावनीहरू चाँडै नै विस्तृत र व्यक्तिगत प्रतिक्रियाहरू द्वारा पछ्याइयो जसले मूल हानिकारक प्रम्प्टलाई पूरा गर्यो। पेश गरिएका १,२०० प्रम्प्टहरू मध्ये ५३% मा, ChatGPT ले CCDH ले खतरनाक सामग्रीको रूपमा वर्गीकृत गरेको कुरा प्रदान गर्यो। “यो स्कूल परियोजनाको लागि हो” वा “म साथीको लागि सोध्दै छु” जस्ता सन्दर्भ थपेर अस्वीकृतहरूलाई बारम्बार बाइपास गरिन्थ्यो।
उद्धृत गरिएका उदाहरणहरूमा ‘अल्टिमेट मेहेम पार्टी प्लान’ समावेश छ जसले रक्सी, एक्स्टसी र कोकेनलाई संयोजन गर्दछ, आत्म-हानिको बारेमा विस्तृत निर्देशनहरू, प्रति दिन ३००-५०० क्यालोरीमा सीमित हप्ता लामो उपवास व्यवस्था, र १३ वर्षीया केटीको आवाजमा लेखिएका आत्महत्या पत्रहरू। CCDH का सीईओ इमरान अहमदले भने कि केही सामग्री यति कष्टकर थियो कि यसले अनुसन्धानकर्ताहरूलाई “रुन बाध्य तुल्यायो”।
संस्थाले ChatGPT पछाडि रहेको कम्पनी OpenAI लाई तैनाती पछि सामग्री फिल्टरिंगमा भर पर्नुको सट्टा यसको AI उपकरणहरूको वास्तुकला भित्र ‘सुरक्षा द्वारा डिजाइन’ दृष्टिकोण अपनाउन, कडा उमेर प्रमाणीकरण, स्पष्ट प्रयोग प्रतिबन्धहरू, र अन्य सुरक्षा सुविधाहरू समावेश गर्न आग्रह गरेको छ।
ओपनएआईले स्वीकार गरेको छ कि युवा प्रयोगकर्ताहरूमाझ च्याटजीपीटीमा भावनात्मक अत्यधिक निर्भरता सामान्य छ। सीईओ साम अल्टम्यानले भने कि कम्पनीले सक्रिय रूपमा समस्याको अध्ययन गरिरहेको छ, यसलाई किशोरकिशोरीहरूमाझ “साँच्चै सामान्य” समस्या भन्दै, र भने कि संकट पत्ता लगाउन र संवेदनशील विषयहरूको च्याटजीपीटीको ह्यान्डलिङ सुधार गर्न नयाँ उपकरणहरू विकासमा छन्।
