ऐसा क्यों है की समय को रोकने के लिए आँख बंद करके बड़ा डेटा में विश्वास करते हैं

एल्गोरिदम अब तय करते हैं कि ऋण, बीमा को स्वीकृत या जो एक साक्षात्कार के लिए एक आमंत्रण प्राप्त है, लेकिन अक्सर वे इतनी गलत तरीके से करते हैं। और यह केवल जनसंख्या की परतों के बीच की खाई बढ़ जाती है।

केटी ओ'नील (कैथी ओ'नील)

गणितज्ञ, वित्तीय बाजारों विशेषज्ञ, पुस्तक के लेखक के विश्लेषण पर "गणितीय हार का हथियार।"

डेटा (अतीत में क्या हुआ है) और एक सफल परिणाम की परिभाषा (क्या आप इस एल्गोरिथ्म का उपयोग करके पता लगाना चाहते हैं): एक एल्गोरिथ्म का निर्माण करने के लिए, हम दो चीजों की जरूरत है। यह तो निर्धारित करता मापदंड एक सफल परिणाम के लिए नेतृत्व जो। लेकिन सफलता की परिभाषा सार्वभौमिक नहीं हो सकता है।

एल्गोरिथ्म - किसी और की राय, निर्मित कोड है।

हमें लगता है कि करने के लिए है कि एल्गोरिदम उद्देश्य और विश्वसनीय हैं प्रयोग किया जाता है, लेकिन यह केवल एक विपणन हमें धमकाना और हमें एल्गोरिदम और गणितीय डेटा भरोसा बनाने के लिए डिजाइन नौटंकी है।

ओ'नील उदाहरण हैं, जहां एल्गोरिदम गंभीर नुकसान पहुंचा सकती हवाला दिया है। यह तब होता है जब कर्मचारियों का मूल्यांकन। उदाहरण के लिए, 2011 में वाशिंगटन काउंटी में एक स्कूल की तुलना में अधिक 200 शिक्षकों के बाद बर्खास्त कर दिया गया है उनके

इसके अलावा, एल्गोरिदम अक्सर पक्षपातपूर्ण फैसले को हटाने के लिए कारण हैं। समाचार संगठन ProPublica हाल ही में एक जांच का आयोजन किया और पायाएल्गोरिदम कि जुर्म के खतरे को निर्धारित करते हैं, निष्पक्ष काम है। एक ही अपराधों पर वाक्य अक्सर बाहर अश्वेत अमेरिकियों लिया।

हम पूर्वाग्रहों के लिए सभी अधीन हैं, और हम उन्हें एल्गोरिदम तय करते हैं कि जो डेटा की जरूरत है ध्यान में रखा जाना करने के लिए में लाना।

एल्गोरिदम केवल हमारे अतीत की गलतियों को दोहरा रहे हैं, मौजूदा आदेश को स्वचालित। तो हम आँख बंद करके उन पर भरोसा नहीं कर सकते हैं, तो हम उन्हें परीक्षण करने के लिए उद्देश्य होने की जरूरत है: एक सफल परिणाम की परिभाषा पर पुनर्विचार करने, त्रुटि, किसी भी एल्गोरिथ्म द्वारा बीमा नहीं कर रहे हैं। कितनी बार वे होते हैं और उन प्रभावित होता है? ऐसी त्रुटियों की लागत क्या है?

डेटा के साथ काम करने वाले पेशेवरों, न्याय के पैरोकार नहीं होना चाहिए। यह समय को रोकने के लिए आँख बंद करके विश्वास करते हैं बड़ा डेटा.