एंथ्रोपिक के सीईओ डारियो अमोदेई ने वैश्विक सुरक्षा चिंताओं को लेकर एआई विकास की गति धीमी करने का आग्रह किया

सिलिकॉन वैली की मुख्यधारा की गति से एक अलग हटकर, एआई सुरक्षा स्टार्टअप एंथ्रोपिक के सीईओ डारियो अमोदेई ने उद्योग जगत के नेताओं और नीति निर्माताओं से कृत्रिम बुद्धिमत्ता विकास की गति को धीमा करने का आह्वान किया है। अमोदेई ने सीमांत मॉडलों की तेजी से वृद्धि के बारे में गंभीर चिंता व्यक्त की, इस बात पर जोर दिया कि भागने की क्षमताएं सुरक्षित तैनाती रेलिंग से आगे निकल सकती हैं। अमोदेई ने उन्नत स्वायत्त प्रणालियों से जुड़े विनाशकारी जोखिमों पर प्रकाश डाला, जिसमें जैव सुरक्षा खतरों में संभावित दुरुपयोग, परिष्कृत साइबर युद्ध और विनाशकारी संरेखण विफलताएं शामिल हैं। उनकी टिप्पणियाँ एक महत्वपूर्ण क्षण पर आती हैं क्योंकि प्रमुख तकनीकी दिग्गज अगली पीढ़ी के तर्क और स्वायत्त एजेंट आर्किटेक्चर को तैनात करने के लिए जमकर प्रतिस्पर्धा करते हैं। संयम का आह्वान तेजी से व्यावसायीकरण समर्थकों और सुरक्षा-उन्मुख शोधकर्ताओं के बीच प्रौद्योगिकी क्षेत्र के भीतर एक व्यापक दार्शनिक विभाजन को रेखांकित करता है। अमेरिका, यूरोप और एशिया में नियामक निकाय इन चेतावनियों की बारीकी से निगरानी कर रहे हैं क्योंकि वे उच्च जोखिम वाले एआई तैनाती के लिए व्यापक वैधानिक निरीक्षण ढांचे का मसौदा तैयार कर रहे हैं।