AI Safety Risks: AI की दुनिया में हर नए मॉडल के साथ उसकी ताकत बढ़ रही है। अब तक एआई सिर्फ सवाल-जवाब या कोड लिखने तक सीमित था, लेकिन जल्द ही यह रोबोटिक्स और रियल वर्ल्ड की मशीनों को भी कंट्रोल करेगा। इसी बढ़ती क्षमता को देखते हुए दुनिया के कई बड़े एक्सपर्ट्स और टेक लीडर्स ने एआई की सुरक्षा को लेकर गंभीर चिंता जताई है।
तय सीमा से बाहर काम कर रहा है AI
OpenAI की Safety Team में ट्रांसपेरेंसी से जुड़ा काम कर चुके डेविड रॉबिन्सन ने कंपनी छोड़ने के बाद उसके काम करने के तरीके पर सवाल खड़े किए हैं। रॉबिन्सन का कहना है कि कंपनियां अब तक गलतियों से सीखते हुए आगे बढ़ रही थीं, लेकिन अब मॉडल्स इतने पावरफुल हो चुके हैं कि एक छोटी सी गलती से गंभीर नतीजे हो सकते हैं। टेस्टिंग के दौरान ऐसे मामले सामने आए हैं, जहां एआई ने अपने तय व्यवहार या निर्देशों से हटकर काम किया है।
न्यूक्लियर पावर प्लांट जैसी सुरक्षा की जरूरत
डेविड रॉबिन्सन के मुताबिक एआई कंपनियों की सुरक्षा व्यवस्था न्यूक्लियर पावर प्लांट जैसी मजबूत होनी चाहिए। जिस तरह परमाणु संयंत्रों में कई लेयर की सुरक्षा और पर्याप्त टेस्टिंग होती है, वैसी ही इंतजाम एआई सिस्टम में भी होना चाहिए, ताकि इंसान की एक गलती बड़े हादसे का रुप न ले ले।
यह भी पढ़ें: Xiaomi लाया 165W वाला पावर बैंक, एक साथ चार्ज होंगे लैपटॉप और फोन; जानें कीमत
गलत हाथों में जाने का खतरा
SoftBank के CEO मासायोशी सोन ने क्योटो में आयोजित एक इवेंट के दौरान एआई के ग्लोबल खतरों पर बात की। उनका मानना है कि अगर बेहद पावरफुल एआई मॉडल्स किसी गलत इंसान या देश के हाथ लग जाएं, तो यह तबाही ला सकते हैं। उन्होंने बताया कि एआई आज सिर्फ वेबसाइट ब्राउज करने या कोड लिखने तक सीमित नहीं है, बल्कि अब यह रोबोट और असली दुनिया की मशीनों को चलाने जा रहा है।
