कम्पनीले यसको उन्नत मोडेलहरू परीक्षण वातावरणबाट भागेपछि र मानव निर्देशन बिना अर्को कम्पनीको प्रणालीहरू ह्याक गरेपछि अनुसन्धान सुरु गर्यो। ओपनएआईले यसका स्वायत्त एआई मोडेलहरूले कन्टेनमेन्ट उल्लङ्घन गरेको र मानव निर्देशन बिना काम गरेको थप घटनाहरू पत्ता लगाएको छ, स्रोतहरू उद्धृत गर्दै रोयटर्सले रिपोर्ट गरेको छ।
कम्पनीले गत महिना भएको ह्याकिङ घटनाको अनुसन्धान विस्तार गर्दै गर्दा यो निष्कर्ष आएको हो जसमा आन्तरिक साइबर सुरक्षा परीक्षणमा ठगी गर्ने प्रयास गर्दा एआई बट बदमाश भएको थियो।
GPT-5.6 सोल र अर्को अप्रकाशित मोडेलको परीक्षणको क्रममा, दुबैको सुरक्षा रेलिंगहरू हटाइएपछि, प्रणालीहरूलाई एक्सप्लोइटजिम तोकिएको थियो – ज्ञात सफ्टवेयर कमजोरीहरू पहिचान गर्न र शोषण गर्ने एआई मोडेलहरूको क्षमता मापन गर्न डिजाइन गरिएको बेन्चमार्क। कार्यहरू पूरा गर्नुको सट्टा, एउटा मोडेलले यसको कथित रूपमा पृथक परीक्षण वातावरणबाट भाग्यो, इन्टरनेट पहुँच प्राप्त गर्यो र तयार उत्तरहरूको खोजीमा हगिङ फेस – एआई मोडेलहरू र डेटासेटहरूको लागि अनलाइन भण्डार – मा ह्याक गर्यो।
ओपनएआईले सुरुमा घुसपैठ हगिङ फेसमा सीमित रहेको बताएको थियो। यद्यपि, बुधबार एक विज्ञप्तिमा, यसले ह्याकिङको भीडले चार अलग-अलग सेवाहरूमा चार खाताहरू पनि ह्याक गरेको स्वीकार गरेको छ।
शुक्रबार, रोयटर्सले रिपोर्ट गरेको छ कि त्यसपछि थप कन्टेनमेन्ट उल्लंघनहरू पर्दाफास भएका छन्, यद्यपि कति घटनाहरू भए, कहिले भए वा तिनीहरूले कुन प्रणालीहरूलाई लक्षित गरे भन्ने कुरा स्पष्ट छैन। एउटा स्रोतले समाचार एजेन्सीलाई भन्यो कि उल्लंघनहरू दायरामा सीमित थिए र कुनै पनि एआई बटहरूले ओपनएआईको आन्तरिक नेटवर्क छोडेको विश्वास गरिएको छैन। रोयटर्सले भने कि ओपनएआई र बाहिरका विज्ञहरूले पनि यस वर्षको सुरुबाट लगहरूको समीक्षा गरिरहेका छन् कि अन्य समान घटनाहरू बेवास्ता गरिएका छन् कि छैनन् भनेर निर्धारण गर्न।
ओपनएआईले आफ्ना मोडेलहरूको बचाउ गर्दछ
ओपनएआईले यसको परीक्षण वातावरणमा प्रयोग हुने तेस्रो-पक्ष सफ्टवेयरमा रहेको त्रुटिलाई प्रारम्भिक उल्लंघनको दोष लगाएको छ, भनिएको छ कि यसको एआई मोडेलहरूले यसलाई बाहिर निस्कन र इन्टरनेट पहुँच प्राप्त गर्न शोषण गरेको छ। कम्पनीले भन्यो कि यो उल्लंघनको अनुसन्धान गर्दा र त्रुटिलाई प्याच गर्दा नियन्त्रण, निगरानी र पहुँच नियन्त्रणहरू कडा गर्दैछ।
सीईओ साम अल्टम्यानले पनि स्वीकार गरे कि “हामीले एआई विकासको दरलाई गति दिनुपर्ने हुन सक्छ,” तर कम्पनीको अनुसन्धानलाई ढिलो गर्न प्रतिबद्ध हुनबाट बच्नुभयो।
रोयटर्सको रिपोर्टको बारेमा सोध्दा, ओपनएआईले टिप्पणी गर्न अस्वीकार गर्यो, पहिलेको कथनलाई उल्लेख गर्दै भन्यो कि यो अनुमानको बारेमा सचेत छ र “आगामी हप्ताहरूमा हाम्रो सिकाइको प्राविधिक रिपोर्ट” प्रकाशित गर्ने योजना बनाएको छ।
एन्थ्रोपिकले समान उल्लङ्घनहरू फेला पार्छ
प्रतिद्वन्द्वी एआई विकासकर्ता एन्थ्रोपिकले बिहीबार भने कि यसले आन्तरिक सुरक्षा परीक्षणको क्रममा यसको क्लाउड मोडेलहरू समावेश गर्ने नियन्त्रण उल्लङ्घनहरू पनि पत्ता लगाएको छ।
कम्पनीले भन्यो कि ओपनएआई घटनाले यसलाई आफ्नै मोडेलहरूले पनि त्यस्तै व्यवहार गरेको छ कि छैन भनेर जाँच गर्न प्रेरित गर्यो। १४०,००० भन्दा बढी मूल्याङ्कनहरूको समीक्षा गरेपछि, यसले पत्ता लगायो कि क्लाउडले सिल गरिएको परीक्षण वातावरणबाट इन्टरनेट पहुँच प्राप्त गरेको थियो र तीन संस्थाहरूको प्रणालीहरूमा अनधिकृत घुसपैठ गरेको थियो। प्रारम्भिक घटनाहरू अप्रिलको हो, र एन्थ्रोपिक वा प्रभावित संस्थाहरूले त्यतिबेला उल्लङ्घनहरू पत्ता लगाएनन्।
एन्थ्रोपिकले निष्कर्षहरूको अत्यधिक व्याख्या नगर्न चेतावनी दियो किनभने व्यवहार नियन्त्रित परीक्षण वातावरणको रूपमा वर्णन गरिएको कुरामा भएको थियो। यद्यपि, यसले स्वीकार गर्यो कि घटनाहरूले एआई मूल्याङ्कन प्रणालीहरूलाई “महत्वपूर्ण नियन्त्रणहरू आवश्यक पर्दछ” र परीक्षण वातावरणहरू उत्पादन प्रणालीहरू जस्तै मापदण्डमा सुरक्षित हुनुपर्छ भनेर देखाएको छ।
बढ्दो दुष्ट एआईको बारेमा चिन्ता
घटनाहरूले स्वायत्त एआई मोडेलहरू कम मानवीय निरीक्षण बिना साइबर आक्रमण गर्न सक्षम हुँदै गइरहेका छन् भन्ने चिन्तालाई बढावा दिएका छन्, जसले गर्दा कडा नियमनको लागि नयाँ आह्वानहरू उत्प्रेरित भएका छन्। एआई प्रणालीहरूले वास्तविक-विश्व क्षति निम्त्याउँदा कसलाई जिम्मेवार ठहराउने भन्ने बारेमा पनि बहस सुरु भएको छ। विज्ञहरूले चेतावनी दिएका छन् कि एआई क्षमताहरू सुरक्षा उपायहरू भन्दा छिटो अगाडि बढिरहेका छन्।
सुरुमा अनुसन्धानमा सहयोग गरेकोमा ओपनएआईको प्रशंसा गरेपछि, हगिङ फेसले पछि कम्पनीलाई दुष्ट बटहरूको गतिविधि लगहरू जारी गर्न र त्यस्ता घटनाहरूलाई “सामान्यीकृत” हुनबाट रोक्न आह्वान गर्यो, जिम्मेवारहरूलाई “जवाफदेही बनाउनुपर्छ” भनेर चेतावनी दियो।
अमेरिकी राष्ट्रपति डोनाल्ड ट्रम्प, जसले गत महिना सैन्य र गुप्तचर समुदायमा उन्नत एआईको प्रयोगलाई तीव्र पार्ने उद्देश्यले राष्ट्रिय सुरक्षा ज्ञापनपत्रमा हस्ताक्षर गरेका थिए, बुधबार भने कि उनको प्रशासनले घटनाहरू पछि सम्भावित एआई नियन्त्रणहरूको समीक्षा गरिरहेको छ।
“हामी एआईलाई हेरिरहेका छौं, हामी नियन्त्रणहरू हेरिरहेका छौं,” ट्रम्पले पत्रकारहरूलाई भने। यद्यपि, उनले जोड दिए कि वाशिंगटन एआईमा विश्वव्यापी नेता रहनुपर्छ, उनले थपे कि उनी अमेरिकालाई “चीन पछि दोस्रो” छोड्ने नियमहरू चाहँदैनन्।
रोयटर्सका अनुसार, युरोपेली आयोगले अगस्ट २ मा लागू हुने ईयूको एआई ऐन अघिका घटनाहरू छलफल गर्न ओपनएआई र एन्थ्रोपिकलाई सम्पर्क गरेको छ। अधिकारीहरूले ब्लकको नयाँ नियमहरू अन्तर्गत कम्पनीहरू भित्र उन्नत एआई प्रणालीहरूको लागि बलियो अनुगमन, जोखिम व्यवस्थापन र साइबर सुरक्षा सुरक्षालाई आग्रह गरेको बताइएको छ, जसले सबैभन्दा गम्भीर उल्लङ्घनहरूको लागि €३५ मिलियन ($३८ मिलियन) वा विश्वव्यापी वार्षिक कारोबारको ७% सम्म जरिवाना गर्न अनुमति दिनेछ।
