कम्पनीका अनुसार च्याटबटका ८० करोड साप्ताहिक प्रयोगकर्ताहरूमध्ये अनुमानित ०.१५% ले आत्महत्या योजना सूचकहरू देखाउँछन्। आन्तरिक विश्लेषणले दस लाखभन्दा बढी प्रयोगकर्ताहरूले च्याटबटमा आत्महत्या गर्ने प्रवृत्ति स्वीकार गरेको खुलासा गरेपछि OpenAI ले आफ्नो लोकप्रिय ChatGPT मोडेलमा नयाँ सुरक्षा अपडेटको घोषणा गरेको छ। परिवर्तनहरू AI को पीडा पहिचान गर्ने र उचित रूपमा प्रतिक्रिया दिने क्षमता सुधार गर्ने उद्देश्यले गरिएको हो।
सोमबार एक विज्ञप्तिमा, कम्पनीले खुलासा गर्यो कि साप्ताहिक ChatGPT प्रयोगकर्ताहरूको अनुमानित ०.१५% कुराकानीमा संलग्न छन् जसमा “सम्भावित आत्महत्या योजना वा मनसायको स्पष्ट संकेतकहरू” समावेश छन्। अर्को ०.०५% सन्देशहरूमा “आत्महत्याको विचार वा मनसायको स्पष्ट वा निहित संकेतकहरू” समावेश गरिएको पनि भनिएको छ।
यस महिनाको सुरुमा, ओपनएआईका सीईओ साम अल्टम्यानले दाबी गरे कि च्याटजीपीटीका ८० करोडभन्दा बढी साप्ताहिक सक्रिय प्रयोगकर्ताहरू छन्, जसको अर्थ कम्पनीको पछिल्लो तथ्याङ्क अनुसार, १२ लाखभन्दा बढी मानिसहरूले च्याटबटसँग आत्महत्याको बारेमा छलफल गरेका छन्, र लगभग ४००,००० ले आत्महत्या गर्ने मनसायका संकेतहरू देखाएका छन्।
कम्पनीले यो पनि दाबी गर्यो कि यसको साप्ताहिक प्रयोगकर्ताहरू मध्ये लगभग ०.०७% (५६०,०००) र ०.०१% (८०,०००) सन्देशहरूले “मनोविकृति वा उन्मादसँग सम्बन्धित मानसिक स्वास्थ्य आपतकालिनका सम्भावित संकेतहरू” संकेत गर्दछ। यसले थप उल्लेख गरेको छ कि धेरै प्रयोगकर्ताहरू भावनात्मक रूपमा च्याटजीपीटीमा बढी निर्भर भएका छन्, लगभग ०.१५% (१.२ मिलियन) सक्रिय प्रयोगकर्ताहरूले च्याटबटसँग भावनात्मक संलग्नताको “उच्च स्तर” लाई संकेत गर्ने व्यवहार प्रदर्शन गरिरहेका छन्।
ओपनएआईले घोषणा गरेको छ कि यसले च्याटबटलाई अद्यावधिक गर्न विश्वभरका दर्जनौं मानसिक स्वास्थ्य विशेषज्ञहरूसँग साझेदारी गरेको छ ताकि यसले मानसिक पीडाका संकेतहरू अझ विश्वसनीय रूपमा पहिचान गर्न, राम्रो प्रतिक्रियाहरू प्रदान गर्न र प्रयोगकर्ताहरूलाई वास्तविक-विश्व मद्दतको लागि मार्गदर्शन गर्न सकोस्।
भ्रमपूर्ण विश्वासहरूसँग सम्बन्धित कुराकानीमा, कम्पनीले ChatGPT लाई “सुरक्षित” र “सहानुभूतिपूर्वक” प्रतिक्रिया दिन सिकाउँदै, आधारहीन विश्वासहरूलाई पुष्टि नगर्न सिकाएको बताएको छ।
ChatGPT जस्ता AI च्याटबटहरूको बढ्दो प्रयोग र मानिसहरूको मानसिक स्वास्थ्यमा तिनीहरूले पार्ने प्रभावको बारेमा बढ्दो चिन्ताको बीचमा कम्पनीको घोषणा आएको हो। मनोचिकित्सक र अन्य चिकित्सा पेशेवरहरूले AI च्याटबटहरूसँग लामो कुराकानी पछि प्रयोगकर्ताहरूमा खतरनाक भ्रम र पागल विचारहरू विकास गर्ने उदीयमान प्रवृत्तिको बारेमा चिन्ता व्यक्त गरेका छन्, जसले प्रयोगकर्ताहरूको विश्वासलाई पुष्टि र सुदृढ बनाउँछ। यो घटनालाई केहीले “AI मनोविकृति” भनेर डब गरेका छन्।
