Anthropic: क्या आप ChatGPT या Claude का जवाब पसंद न आने पर आप उसे गाली दे सकते हैं? दिग्गज एआई कंपनी Anthropic ने अपने एआई चैटबॉट 'क्लोड' (Claude) के लिए उपयोग नीतियों में बड़ा बदलाव किया है। कंपनी ने अपनी पॉलिसी में स्पष्ट किया है कि अगर कोई यूजर Claude एआई के साथ लगातार बिना वजह क्रूर या अभद्र व्यवहार करता है या उसे गालियां देता है, तो उसका अकाउंट बैन किया जा सकता है।
आपने अक्सर देखा होगा कि लोग एआई बॉट से मनचाहा रिजल्ट नहीं मिलने पर गलत भाषा का इस्तेमाल करते हैं। एक्सपर्ट्स का मानना है कि ऐसा करने से यूजर्स का ही नुकसान हो सकता है।
क्या है नया नियम
एआई मॉडल के प्रति लगातार और बेवजह गाली-गलौच क्रूरता या दुर्व्यवहार पर प्रतिबंध लगा दिया गया है। यह नई पॉलिसी 12 नवंबर 2026 से प्रभावी होगी। अगर कोई यूजर सीमा पार करता है, तो एआई चैटबॉट सबसे पहले बातचीत को वहीं समाप्त कर देगा। बार-बार उल्लघं करने पर यूजर के अकाउंट को निलंबित या बैन किया जा सकता है।
आप उठा सकते हैं सवाल
इसका मतलब है कि अगर Claude कोई गलत जानकारी देता है और आप उसे बताते हैं कि उसका जवाब गलत है, तो इसे अपने आप नियम का उल्लंघन नहीं माना जाएगा। आप उससे असहमत हो सकते हैं, उसके जवाब पर सवाल उठा सकते हैं और उसे बेहतर जवाब देने के लिए कह सकते हैं। यह नियम केवल उन मामलों पर लागू होगा, जहां जानबूझकर और बिना किसी वजह से एआई को बार-बार प्रताड़ित या गाली दी जा रही हो।
क्या गाली देने से AI का जवाब खराब हो जाता है?
गाली देने पर हर AI जानबूझकर खराब जवाब देगा या विनम्र होने पर हर बार बेहतर जवाब देगा यह कहना सही नहीं होगा। AI का जवाब मॉडल, सवाल, दिए गए संदर्भ और निर्देशों पर निर्भर करता है। अलग-अलग रिसर्च में भाषा के लहजे का असर अलग पाया गया है।
यह भी पढ़ें: लैपटॉप की बैटरी खत्म होने की टेंशन होगी खत्म! एक बार चार्ज करने पर पूरे दिन चलेंगे ये 5 शानदार मॉडल्स
मॉडल के रिस्पॉन्स और ट्रेनिंग डेटा पर पड़ सकता है बुरा असर
एआई मॉडल यूजर्स के इनपुट से सीखते हैं। लगातार अभद्र भाषा के इस्तेमाल से मॉडल के रिस्पॉन्स और ट्रेनिंग डेटा पर बुरा असर पड़ता है। एंथ्रोपिक के शोधकर्ता लंबे समय से एआई मॉडल वेलफेयर और इसकी संवेदनशीलता पर अध्ययन कर रहे हैं। यह पहला मौका है जब किसी बड़ी एआई कंपनी ने अपने मॉडल के सुरक्षा नियमों को इंसानी सुरक्षा नियमों की श्रेणी में रखा है।
