शोधकर्ताओं ने चेतावनी दी है कि एआई-संचालित पुलिसिंग से नस्लीय पूर्वाग्रह गहरा सकता है

विश्वविद्यालय के विशेषज्ञों के गठबंधन द्वारा प्रकाशित शोध में यूके के कई न्यायक्षेत्रों में पूर्वानुमानित-पुलिसिंग एल्गोरिदम में फीड किए गए डेटा सेट की जांच की गई। इससे पता चला कि ऐतिहासिक गिरफ्तारी रिकॉर्ड पर प्रशिक्षित मॉडल, बार-बार उच्च अल्पसंख्यक आबादी वाले पड़ोस को चिह्नित करते थे, जिससे असमान रूप से रुकते थे और तलाशी लेते थे। लेखकों का तर्क है कि सुधारात्मक तंत्र के बिना, प्रौद्योगिकी उन पूर्वाग्रहों को पुन: उत्पन्न करती है जिन्हें इसे खत्म करना था, एक फीडबैक लूप बनाता है जो असमान उपचार को बढ़ावा देता है।

विवाद के मूल में दक्षता बढ़ाने वाले उपकरण अपनाने के लिए उत्सुक कानून-प्रवर्तन एजेंसियों और पारदर्शिता की मांग करने वाले निगरानी समूहों के बीच टकराव है। पुलिस विभागों ने तर्क दिया है कि एआई वस्तुनिष्ठ जोखिम मूल्यांकन प्रदान करता है, फिर भी अध्ययन स्वतंत्र ऑडिट की कमी और अस्पष्ट जवाबदेही संरचनाओं पर प्रकाश डालता है। विधायकों ने अभी तक एल्गोरिथम निष्पक्षता के लिए स्पष्ट मानकों को परिभाषित नहीं किया है, जिससे नियामक शून्यता बनी हुई है जो अनियंत्रित तैनाती की अनुमति देती है।

डाउनस्ट्रीम प्रभाव पहले से ही उन समुदायों में दिखाई दे रहा है जो अधिकारियों के प्रति अविश्वास बढ़ने और कानूनी चुनौतियों में वृद्धि की रिपोर्ट करते हैं। वकालत समूह कठोर पूर्वाग्रह परीक्षण अनिवार्य होने तक एआई-आधारित निगरानी को निलंबित करने की मांग करते हुए मुकदमा दायर करने की योजना बना रहे हैं। यदि अदालतें सख्त डेटा-ऑडिट आवश्यकताओं को लागू करती हैं, तो पुलिस क्षेत्र को पुनर्गणना की अवधि का सामना करना पड़ सकता है जो खरीद और परिचालन रणनीतियों को नया आकार देता है।