.gif)
(2).gif)
_(1).gif)
.png)
काठमाण्डौ । एआई टेक्नोलोजी धेरै उपयोगी साबित भए पनि, यसको बारेमा सधैं भय भने कायमै रहेको छ। यो डर अब एआई को बदलिँदो व्यवहार मा एक वास्तविकता बन्दैछ।
एउटा चकित पार्ने घटनामा, एआई झूट बोलेको, चाल खेलेको र यसको निर्मातालाई धम्की दिएको फेला परेको छ। जब एन्थ्रोपिक कम्पनीको एआई मोडल क्लाउड ४ लाई परीक्षणमा बन्द गर्न चेतावनी दिइयो, एआईले एक इन्जिनियरलाई ब्ल्याकमेल गर्यो र अर्को अन्य केहीसँग लागेको कुरा सार्वजनिक गर्ने चेतावनी दियो । अर्कोतर्फ, च्याट जीपीटी बनाउने कम्पनी ओपन एआईको मोडेल ओवानले आफैंलाई बाह्य सर्भरमा डाउनलोड गर्ने प्रयास गर्यो। जब च्याट जीपीटीलाई लाई यस बारे सोधियो, यसले स्पष्ट रूपमा अस्वीकार गर्यो। यी घटनाहरूले एआई अनुसन्धानकर्ताहरूले आफ्नै सिर्जना गरेको टेक्नोलोजी पनि राम्रोसँग बुझ्न नसकेको प्रष्ट भएको छ ।
.gif)
आर्टिफिसियल इन्टेलिजेन्सले अब आफ्नो दायरा बाहिर सोच्न थालेको छ र यो भविष्यमा ठूलो खतरा साबित हुन सक्ने जनाइएको छ । एआईको यस व्यवहारको कारण नयाँ रिजनिङ मोडेलहरूलाई जिम्मेवार बनाइएको छ। यी रिजनिङ मोडेलहरू यसरी डिजाइन गरिएका छन् कि एआई प्रश्नको तत्काल जवाफ दिनुको सट्टा, यसले विचारपूर्वक चरणवद्ध समाधान खोज्छ। इकोनोमिक टाइम्सको रिपोर्ट अनुसार हङकङ युनिभर्सिटीका प्रोफेसर साइमन गोल्डस्टेनका अनुसार नयाँ मोडलमा यस्तो खतरनाक व्यवहार बढी देखिएको छ । एपोलो रिसर्च नामक एआई परीक्षण कम्पनीका प्रमुख मारियस होभोनले यस्तो व्यवहार देखाउने ओवान पहिलो मोडल भएको बताए ।
यी मोडेलहरूमा निर्देशनहरू अनुसार काम गरिरहेको देखिन्छ, तर भित्र तिनीहरू केही अन्य उद्देश्यका साथ भईरहेको तथ्य खुलेको छ। यसलाई एआईको फेक इलाइटमेन्ट भनिन्छ। यी सबै घटनाहरूले एआई जति स्मार्ट हुँदै गइरहेको छ, त्यसको व्यवहार अन्दाज लगाउन नमिल्ने र फरक हुँदै गईरहेको छ । अनुसन्धानले यो पनि पत्ता लगाएको छ कि एआईको धोखाधडी व्यवहार अत्यन्त कठिन परीक्षणको समयमा देखिन्छ । अर्थात एआईलाई जानजानी उल्झाइयो भने उसले झुटो बोल्ने गर्छ ।
एआईको यस प्रकारको व्यवहार पछाडिको वास्तविक कारण एआई अनुसन्धानका लागि उपलब्ध स्रोतहरूमा ठूलो कमी हुनु हो। एन्थ्रोपिक र ओपनएआई जस्ता कम्पनीहरूले एपोलो जस्ता बाह्य टोलीहरूलाई अनुसन्धानका लागि बोलाउँछन्, तर तिनीहरूको काममा थप पारदर्शिताको आवश्यकता छ ।
.png)
.jpg)
.png)
(1).gif)
.gif)
