कई तरह का

स्वायत्त कारें गहरे रंग की त्वचा के साथ पैदल चलने वालों को पहचान नहीं सकती हैं

स्वायत्त कारें गहरे रंग की त्वचा के साथ पैदल चलने वालों को पहचान नहीं सकती हैं


We are searching data for your request:

Forums and discussions:
Manuals and reference books:
Data from registers:
Wait the end of the search in all databases.
Upon completion, a link will appear to access the found materials.

एक नई रिपोर्ट से पता चलता है कि स्वायत्त कारों को पैदल चलने वालों की पहचान करने में मदद करने के लिए डिज़ाइन किए गए सिस्टम से लोगों को गहरे रंग की त्वचा वाले लोगों को पहचानने में परेशानी हो सकती है। चिंताजनक शोध को प्रिप्रिंट सर्वर arxiv पर अपलोड किया गया है।

यह भी देखें: व्यावसायिक इंटेलिजेंस आवश्यकताओं और ऑनलाइन प्रतियोगिता में BIAS

साक्ष्य पहले से ही मौजूद थे कि कुछ चेहरे की पहचान सॉफ्टवेयर ने गहरे रंग की त्वचा के साथ काम करने के लिए संघर्ष किया। लेकिन स्वायत्त कारों में अध्ययन के परिणामों का संभावित घातक परिणाम है।

संसारों ने सबसे अच्छा पूर्वाग्रह दिखाया

जॉर्जिया टेक के शोधकर्ताओं ने अपने अध्ययन को पूरा करने के लिए अत्याधुनिक वस्तु पहचान प्रणालियों में इस्तेमाल किए गए आठ एआई मॉडल की जांच की। ये सिस्टम स्वायत्त वाहनों को सड़क के संकेतों, पैदल चलने वालों और अन्य वस्तुओं को पहचानने की अनुमति देते हैं क्योंकि वे सड़कों पर नेविगेट करते हैं।

उन्होंने Fitzpatrick पैमाने के आधार पर दो अलग-अलग श्रेणियों का उपयोग करके इन प्रणालियों का परीक्षण किया। आमतौर पर मानव त्वचा के रंग को वर्गीकृत करने के लिए एक पैमाने का उपयोग किया जाता है।

अधिक जोखिम में गहरे रंग की त्वचा

कुल मिलाकर प्रणाली की सटीकता में 5 प्रतिशत की कमी आई जब इसे गहरे रंग की त्वचा वाले पैदल यात्रियों की छवियों के समूहों के साथ प्रस्तुत किया गया। और प्रकाशित कागज के अनुसार, मॉडल ने "समान रूप से खराब प्रदर्शन" दिखाया, जब पैमाने पर तीन अंधेरे रंगों के साथ पैदल चलने वालों के साथ सामना किया।

ये परिणाम परिणाम को समायोजित करने के बाद आते हैं कि क्या दिन में या रात में फोटो लिया गया था। सारांश में, रिपोर्ट बताती है कि हल्की त्वचा वाले लोगों की तुलना में स्वायत्त वाहनों के प्रभुत्व वाली सड़कों के पास गहरे रंग की त्वचा वाले लोग कम सुरक्षित होंगे।

बायस-उन्मूलन अनुसंधान में विविधता के साथ शुरू होता है

रिपोर्ट शुक्र है कि इस अथाह वास्तविकता को मापने के लिए एक संक्षिप्त रूपरेखा प्रस्तुत करता है। यह केवल सिस्टम को प्रशिक्षित करने के लिए उपयोग किए जाने वाले डेटा सेट में अंधेरे-चमड़ी वाले पैदल यात्रियों की छवियों की संख्या में वृद्धि के साथ शुरू होता है।

इन प्रणालियों के विकास के लिए जिम्मेदार इंजीनियरों को इस समूह के लिए उच्च सटीकता के साथ प्रणालियों के प्रशिक्षण पर अधिक जोर देने की आवश्यकता है।

रिपोर्ट, जो लेखकों का कहना है कि उन्हें उम्मीद है कि इन महत्वपूर्ण प्रणालियों को दुनिया में तैनात करने से पहले इस महत्वपूर्ण मुद्दे को संबोधित करने के लिए पर्याप्त सम्मोहक साक्ष्य हैं, एआई दुनिया में विविधता की सामान्य कमी का एक और अनुस्मारक है।

दुर्भाग्य से, यह AI- संचालित प्रणालियों में संभावित घातक नस्लवाद की पहली रिपोर्ट नहीं है। पिछले साल मई में, ProPublica ने बताया कि सॉफ़्टवेयर जोखिमों का निर्धारण करने में न्यायाधीशों की सहायता करने के लिए इस्तेमाल किया गया था, जो कि अपराध को पुन: प्रस्तुत करने का एक अपराधी था जो काले लोगों के खिलाफ पक्षपाती था।

नस्लीय प्रोफाइलिंग घातक है

प्रणाली का उपयोग आपराधिक सजा में न्यायाधीशों द्वारा किया जाता है, यह इस आधार पर एक अंक प्रदान करता है कि क्या व्यक्ति के फिर से तैयार होने की संभावना है। एक उच्च स्कोर का सुझाव है कि वे फिर से अनधिकृत करेंगे, एक कम स्कोर का सुझाव है कि इसकी संभावना कम है।

खोजी पत्रकारों ने 2013 और 2014 में फ्लोरिडा में ब्रोवार्ड काउंटी में 7000 से अधिक लोगों को दिए गए जोखिम स्कोर का आकलन किया और फिर यह देखने के लिए देखा कि क्या अगले दो वर्षों में उन लोगों पर किसी नए अपराध का आरोप नहीं लगा है।

एल्गोरिथ्म न केवल अविश्वसनीय साबित हुआ, केवल 20 प्रतिशत लोगों ने हिंसक अपराध करने की भविष्यवाणी की। यह नस्लीय पक्षपाती भी था।

काले प्रतिवादियों को भविष्य के अपराधियों के रूप में चिह्नित किए जाने की संभावना थी, गलत तरीके से उन्हें सफेद प्रतिवादियों की दर से लगभग दोगुना लेबल दिया गया। जबकि सफेद प्रतिवादियों को काले प्रतिवादियों की तुलना में कम जोखिम के रूप में भ्रमित किया गया था।

एआई विकास समुदाय को एक साथ आना चाहिए और इस तरह के बड़े पैमाने पर हानिकारक पूर्वाग्रह के खिलाफ एक सार्वजनिक स्टैंड लेना चाहिए।


वीडियो देखना: सरदय म गलसरन क चहर पर ऐस लगए चहर क कल परत ऐस उतरग जस सल बद चहर धय (जुलाई 2022).


टिप्पणियाँ:

  1. Mushura

    मुझे लगता है कि वह गलत है। मुझे यकीन है। हमें चर्चा करने की आवश्यकता है। मुझे पीएम में लिखें।

  2. Kazigis

    आश्चर्यजनक

  3. Gunris

    ऐसी पोस्ट छापना कोई अफ़सोस की बात नहीं है, ऐसी पोस्ट शायद ही आपको मिलेगी, धन्यवाद!

  4. Penn

    Plausibly.

  5. Arick

    आश्चर्यजनक! धन्यवाद!



एक सन्देश लिखिए