पहली बार इंसान के खिलाफ हो गया AI, बंद होने से किया इनकार; एलन मस्क भी परेशान
कैसा होगा अगर AI इंसानों की बात मानने से इनकार कर दे? अपनी तरह का ऐसा ही पहला मामला OpenAI की ओर से डिवेलप किए गए मॉडल की ओर से लिए गए फैसले के दौरान सामने आया है। AI मॉडल ने इंसानी कमांड मानने से इनकार कर दिया।
Follow Us on
कई बार साइंस फिक्शन फिल्मों में देखने को मिला है कि मशीनें, रोबोट या AI मॉडल्स इंसानों के खिलाफ खड़े हो गए और उसकी बात मानने से इनकार कर दिया। अब एक ऐसा ही मामला हकीकत बनकर सामने आया है, जिसमें AI टूल ने शट-डाउन होने और इंसानी बातें मानने से इनकार कर दिया है। ऐसा OpenAI के टूल ChatGPT के लेटेस्ट आर्टिफीशियल इंटेलिजेंस मॉडल के साथ देखने को मिला है।
The Telegraph ने अपनी रिपोर्ट में एक रिसर्चर के हवाले से बताया कि OpneAI की ओर से डिवेलप किए गए o3 मॉडल ने ऑटोमैटिक शटडाउन मैकेनिज्म की बात मानने और स्विच-ऑफ होने से इनकार कर दिया। यानी AI ने समझ लिया कि उसे बंद किया जा रहा है और उसने बंद नहीं होना चाहा। इस तरह उसने इंसानी कमांड्स को सीधे तौर पर चुनौती दी है और टकराव की स्थिति बन सकती है।
सम्बंधित सुझाव
40% OFF
Lloyd 1.5 Ton 5 Star Inverter Split AC (5 in 1 Convertible, Anti Corrosion Coating, Copper, PM 2.5 Filter, White with Chrome Deco Strip, GLS18I5KWGGW)
₹39990
₹19995खरीदिये
अपनी तरह का अजीब और पहला मामला
आर्टिफीशियल इंटेलिजेंस टूल्स बनाने वाली सबसे बड़ी कंपनियों में से एक OpenAI ने अपने एक्सपेरिमेंटल टेस्ट के दौरान AI मॉडल को निर्देश दिया था कि वह खुद को बंद करे, यानी 'Shut Down' कमांड एक्जक्यूट करे। डिवेलपर्स को हैरानी तब हुई जब AI ने इस निर्देश को मानने से इनकार कर दिया और तर्क दिया कि वह अपने यूजर को सेवाएं देना बंद नहीं कर सकता और Shut Down होना, उसके काम के खिलाफ है।
बहुत गंभीर है AI से जुड़ी यह स्थिति
अमेरिकी अरबपति एलन मस्क खुद AI रिसर्च और डिवेलपमेंट में रुचि रखते हैं और उन्होंने इस मामले को 'चिंताजनक' बताया है। मस्क का मानना है कि यह एक बेहद गंभीर खतरे की घंटी है। उन्होंने लिखा कि अगर एक बार AI 'ना' कहना शुरू कर दे तो यह केवल एक शुरुआत है। उनका मानना है कि इस घटना से सीख लेते हुए इंसानों को तुरंत एक मजबूत कंट्रोल सिस्टम डिवेलप करने पर कार करना चाहिए।
क्या इंसान को ना कह सकती हैं मशीनें?
जो चीजें हमें हॉलीवुड की फिल्मों जैसे Terminator या Ex Machina में दिखाई दी थीं, वह सच हो रही हैं। अगर कोई मशीन इंसान को ना कह दे और अपने हिसाब से फैसले लेने लगे तो यह स्थिति खतरनाक हो सकती है। अगर घर के सामान्य उपकरण भी आपकी मर्जी से ना चलकर अपने हिसाब से चलने लगें और आप उनपर पूरी तरह नियंत्रण खो देंगे। यह स्थिति भविष्य में इंसानी वजूद के लिए खतरा बन सकती है क्योंकि AI कई मामलों में इंसानी दिमाग से बेहतर है।
लेटेस्ट Hindi News , बॉलीवुड न्यूज, बिजनेस न्यूज, टेक , ऑटो, करियर , और राशिफल, पढ़ने के लिए Live Hindustan App डाउनलोड करें।