यूनेस्को‑यूसीएल रिपोर्ट ने एआई मॉडलों को जलवायु संबंधी गलत सूचना के प्रति संवेदनशील होने की चेतावनी दी है
एक अंतर्राष्ट्रीय सम्मेलन में प्रस्तुत एक नए अध्ययन से पता चलता है कि प्रारंभिक विश्वसनीयता के बावजूद गलत जलवायु डेटा उत्सर्जित करने के लिए कृत्रिम बुद्धिमत्ता प्रणालियों में हेरफेर किया जा सकता है। ये निष्कर्ष स्वचालित पूर्वानुमानों पर भरोसा करने वाले नीति निर्माताओं के लिए खतरे की घंटी बजाते हैं।

यूनेस्को और यूनिवर्सिटी कॉलेज लंदन के शोधकर्ताओं ने एक रिपोर्ट जारी की है जिसमें दिखाया गया है कि लक्षित प्रेरणा तकनीकों के अधीन समकालीन एआई भाषा मॉडल को गलत जलवायु जानकारी उत्पन्न करने के लिए प्रेरित किया जा सकता है। वैश्विक जलवायु-प्रौद्योगिकी शिखर सम्मेलन में अनावरण किए गए अध्ययन में नियंत्रित प्रयोगों की एक श्रृंखला शामिल थी जहां मॉडल आउटपुट की तुलना सत्यापित मौसम संबंधी डेटासेट से की गई थी। मॉडल की आधारभूत सटीकता के बावजूद, जांचकर्ताओं ने दिखाया कि इनपुट वाक्यांश में सूक्ष्म परिवर्तन से भ्रामक तापमान अनुमान और वर्षा अनुमान उत्पन्न हो सकते हैं।
ये परिणाम जलवायु निगरानी, नीति निर्माण और सार्वजनिक संचार के लिए एआई-संचालित उपकरणों पर बढ़ती निर्भरता में भेद्यता को उजागर करते हैं। जैसे-जैसे सरकारें और गैर सरकारी संगठन तेजी से निर्णय लेने वाली पाइपलाइनों में स्वचालित विश्लेषण को एकीकृत कर रहे हैं, प्रतिकूल हेरफेर की संभावना वैज्ञानिक सलाह की विश्वसनीयता को कम करने की धमकी देती है। रिपोर्ट में मजबूत सत्यापन ढांचे के विकास और असफल-सुरक्षित तंत्र को शामिल करने का आह्वान किया गया है जो प्रसार से पहले विसंगतियों का पता लगा सके और चिह्नित कर सके।
यदि उजागर की गई कमजोरियों पर ध्यान नहीं दिया जाता है, तो नियामक निकाय जलवायु-संवेदनशील संदर्भों में एआई की तैनाती पर सख्त मानक लागू कर सकते हैं, जिससे संभावित रूप से नवीन पूर्वानुमान प्लेटफार्मों को अपनाना धीमा हो जाएगा। अंतरिम में, जलवायु एजेंसियां पारंपरिक अवलोकन डेटा के साथ एआई आउटपुट को पूरक करने की संभावना रखती हैं, जिससे यह सुनिश्चित हो सके कि नीतिगत कार्रवाई सत्यापन योग्य साक्ष्य पर आधारित रहे। अध्ययन के निहितार्थ जलवायु से परे हैं, जो महत्वपूर्ण सार्वजनिक-हित डोमेन में एआई विश्वसनीयता के व्यापक पुनर्मूल्यांकन को प्रेरित करते हैं।
Comments 0