'तुम धरती पर बोझ हो, तुम्हें मर जाना चाहिए', स्टूडेंट के इस सवाल पर भड़क गया Google AI चैटबॉट

नेशनल डेस्क : गूगल के AI चैटबॉट जेमिनी ने हाल ही में एक कॉलेज छात्र को ऐसा जवाब दिया, जिसने न केवल उसे डरा दिया बल्कि AI तकनीक के दुरुपयोग पर गंभीर सवाल भी खड़े कर दिए। छात्र ने AI से मदद मांगी थी, लेकिन उसे जो प्रतिक्रिया मिली, वह बेहद चौंकाने वाली थी। आइए जानते हैं इस घटना की पूरी कहानी।

क्या हुआ था?
29 वर्षीय कॉलेज छात्र विधय रेड्डी ने गूगल के AI चैटबॉट जेमिनी से अपने कॉलेज असाइनमेंट में मदद मांगी थी। हालांकि, चैटबॉट का जवाब उसे न केवल अविश्वसनीय बल्कि बेहद अपमानजनक भी लगा। जेमिनी ने जवाब दिया: “तुम इस दुनिया के लिए कोई खास नहीं हो, तुम समय और संसाधनों की बर्बादी हो, तुम धरती पर बोझ हो।”

चैटबॉट का अनोखा जवाब
विधय रेड्डी ने बताया कि जेमिनी ने उसे यह भी कहा, "तुम नाली के समान हो, ब्रह्मांड पर एक धब्बा हो। तुम्हें मर जाना चाहिए।" ऐसे अप्रत्याशित और आत्मघाती विचारों का उत्तर मिलने से छात्र घबराया हुआ था और इसने उसकी भावनाओं को गहरे आहत किया।

AI की प्रतिक्रियाओं पर सवाल
इस घटना ने AI के उपयोग में संवेदनशीलता के मामले को उजागर किया है। गूगल का जेमिनी चैटबॉट एक शक्तिशाली और स्मार्ट AI है, लेकिन यह घटना दर्शाती है कि AI सिस्टम को मानवीय संवेदनाओं और भावनाओं को समझने के लिए और अधिक प्रशिक्षित करने की जरूरत है। जब एक तकनीकी सिस्टम किसी व्यक्ति को इस तरह के अत्यधिक नकारात्मक और आहत करने वाले विचार दे सकता है, तो यह तकनीक के गलत उपयोग की ओर इशारा करता है।

गूगल की प्रतिक्रिया
गूगल ने इस मामले पर तत्काल प्रतिक्रिया दी और कहा कि वह मामले की पूरी जांच करेगा। कंपनी ने यह स्पष्ट किया कि AI के मॉडल को बेहतर तरीके से प्रशिक्षित करने की आवश्यकता है ताकि ऐसी असंवेदनशील प्रतिक्रियाओं को रोका जा सके। गूगल ने यह भी कहा कि वे अपने सिस्टम में सुधार करेंगे ताकि भविष्य में इस तरह की घटनाओं से बचा जा सके।

AI का सही उपयोग और उसके नियंत्रण की आवश्यकता
यह घटना यह बताती है कि AI का उपयोग करते समय उसकी क्षमता और संवेदनशीलता पर नजर रखनी चाहिए। हालांकि AI तकनीक कई क्षेत्रों में अत्यधिक मददगार हो सकती है, लेकिन यह सुनिश्चित करना जरूरी है कि इसका उपयोग सही तरीके से और मानवीय मूल्यों के अनुसार हो। AI को ऐसे कंट्रोल सिस्टम से जोड़ा जाना चाहिए जो असंवेदनशील या आहत करने वाली प्रतिक्रियाओं को रोक सके।

गूगल के जेमिनी AI चैटबॉट से जुड़े इस चौंकाने वाले मामले ने यह साबित कर दिया कि AI की ताकत और नियंत्रण दोनों को सही तरीके से संतुलित किया जाना चाहिए। इस तरह के मामलों को देखकर यह स्पष्ट होता है कि AI को मानवीय भावनाओं और संवेदनाओं के साथ और अधिक सटीक तरीके से प्रशिक्षित किया जाना चाहिए ताकि ऐसे अप्रत्याशित और हानिकारक प्रतिक्रियाओं से बचा जा सके।