एआई के अनुसार दुनिया, एपिसोड 2: मशीन में पूर्वाग्रह | बड़ी तस्वीर

आर्टिफिशियल इंटेलिजेंस किसी अन्य के विपरीत तकनीकी क्रांति हो सकती है, हमारे घरों, हमारे काम, हमारे जीवन को बदल सकती है; लेकिन कई लोगों के लिए - गरीब, अल्पसंख्यक समूह, जिन लोगों को खर्च करने योग्य समझा जाता है - उनकी तस्वीर वही रहती है।

यूनिवर्सिटी ऑफ नॉर्थ कैरोलाइना के Zeynep Tufekci का कहना है, "जिस तरह से ये तकनीक विकसित की जा रही है, वह लोगों को सशक्त नहीं कर रही है, यह निगमों को सशक्त बना रही है," वे डेटा रखने वाले लोगों के हाथों में हैं। एल्गोरिदम में जो हमें वास्तव में देखने या समझने के लिए नहीं मिलता है जो प्रोग्राम लिखने वाले लोगों के लिए भी अपारदर्शी हैं। और उनका उपयोग हमारे बजाय किया जा रहा है। "

द बिग पिक्चर: द वर्ल्ड के दो एपिसोड में हम एआई के अनुसार प्रैक्टिकल पुलिसिंग, प्रेडिक्टिव सेंटिंग और साथ ही पावर स्ट्रक्चर्स और इन-बिल्ट पूर्वाग्रहों जैसी प्रथाओं की पड़ताल करते हैं, जो इसके चैंपियन के सुझाव से भी ज्यादा नुकसान पहुंचा सकती हैं।

संयुक्त राज्य अमेरिका में, हम देश के सबसे गरीब इलाकों में से एक, लॉस एंजिल्स में स्किड रो की यात्रा करते हैं, पहले हाथ से देखने के लिए कि कैसे लॉस एंजिल्स पुलिस विभाग एक बहुसंख्यक अश्वेत समुदाय को पुलिस के लिए एल्गोरिदम सॉफ्टवेयर का उपयोग कर रहा है।

और चीन में, हम एक सामाजिक क्रेडिट स्कोरिंग प्रणाली के निहितार्थों की जांच करते हैं जो मशीन लर्निंग प्रौद्योगिकियों को दर्शाती है - निगरानी और सामाजिक नियंत्रण में नए नवाचार जो कि जातीय उइघुर समुदायों के खिलाफ इस्तेमाल किए जाने का दावा किया जाता है।

जैसा कि AI का उपयोग हमारे और हमारे बारे में अधिक से अधिक निर्णय लेने के लिए किया जाता है, लक्ष्यीकरण से लेकर, पुलिसिंग तक, सामाजिक कल्याण तक, यह बहुत बड़ा प्रश्न खड़ा करता है। भविष्य में AI का क्या उपयोग किया जाएगा? और लाभ के लिए कौन खड़ा होगा?