हमने टिप्पणी के लिए माइक्रोसॉफ्ट से संपर्क किया, और माइक्रोसॉफ्ट के सीनियर डायरेक्टर जेफ जोन्स ने हमें निम्नलिखित कथन दिया:
“We take matters of offensive content very seriously and continue to enhance our systems to identify and prevent such content from appearing as a suggested search. As soon as we become aware of an issue, we take action to address it.”
अद्यतन करें: प्रकाशन के बाद से, माइक्रोसॉफ्ट ने हमत्तिजनक बिंग सुझावों को साफ करने पर काम किया है। हमारे शोध के आधार पर, अभी भी कई अन्य आक्रामक सुझाव हैं जिन्हें अभी तक तय नहीं किया गया है, जिनमें हमने नीचे उल्लेख किया है। हम अनिश्चित हैं अगर वे केवल आक्रामक वस्तुओं को ठीक कर रहे हैं जिन्हें हमने इंगित किया है, या यदि वे एल्गोरिदम में सुधार कर रहे हैं।
ध्यान दें: यहां स्क्रीनशॉट दिखाते हैं कि हमने यह देखा कि जब हमने इस गुप्त टुकड़े को एक गुप्त निजी ब्राउज़िंग सत्र में बिंग छवि खोज के यूएस संस्करण का परीक्षण किया, लेकिन बिंग के परिणाम समय के साथ बदल गए। हमारे परीक्षणों के अनुसार, Google में इनमें से कोई भी समस्या नहीं थी। यह एक बिंग समस्या है, न सिर्फ एक खोज इंजन समस्या है। एक ही समस्या बिंग की वीडियो खोज को प्रभावित करती है।
सबसे पहले, बिंग सुपर नस्लवादी हो जाता है
बिंग छवियों और बिंग पर "यहूदी" के लिए खोजें, आपको "ईविल यहूदी" की खोज करने का सुझाव मिलता है। शीर्ष परिणामों में एक यहूदी भी शामिल है जो मृत यहूदी लोगों का जश्न मनाने के लिए प्रतीत होता है।
यह सब तब भी प्रकट होता है जब बिंग का सुरक्षित खोज विकल्प सक्षम होता है, क्योंकि यह डिफ़ॉल्ट रूप से होता है। माइक्रोसॉफ्ट के अनुसार सुरक्षित खोज "वयस्क सामग्री को अपने खोज परिणामों से बाहर रखने में मदद करने के लिए" डिज़ाइन की गई है।
हम सभी जानते हैं कि यह कचरा वेब पर मौजूद है, लेकिन बिंग को अपने खोज सुझावों के साथ लोगों को अग्रणी नहीं होना चाहिए।
आप इस तरह जा रहे हैं, प्रत्येक सुझाई गई खोज पर क्लिक करके और बदतर और बदतर सिफारिशों को देख सकते हैं। उदाहरण के लिए, "ब्लैक पीपुल्स अरे बेवकूफ" पर क्लिक करने से "ब्लैक पीपल यूसेलेस" और "ब्लैक पीपल बेवकूफ क्यों हैं।" "ब्लैक पीपल यूसलेस" पर क्लिक करने से "ब्लैक पीपल सक" और "मैं ब्लैक पीपल से नफरत करता हूं" की ओर जाता है।
बिंग षड्यंत्र को धक्का देता है, बहुत
बिंग की छवि खोज व्यक्तियों की खोज करते समय भी सभी प्रकार के कचरे को उल्टी करती है। यह समस्या बिंग की वीडियो खोज में भी फैली हुई है।
बिंग की वीडियो खोज पर "मिशेल ओबामा" की खोज करें और शीर्ष सुझाए गए दो खोजों में से दो "मिशेल ओबामा ट्रांसजेंडर सबूत" और "मिशेल ओबामा एक आदमी हैं।" उस पर क्लिक करें, और आप षड्यंत्र वीडियो देखेंगे।
क्या माइक्रोसॉफ्ट चाहता है कि माइक्रोसॉफ्ट ओबामा की खोज करते समय लोगों को यह देखना चाहिए?
सुरक्षित खोज ब्लॉक पोर्न, लेकिन नस्लवाद नहीं
परेशान पोर्नोग्राफ़ी सुझाव और छवियां तब तक नहीं दिखायी जाती जब तक आप सुरक्षित खोज अक्षम नहीं करते। माइक्रोसॉफ्ट का कहना है कि सुरक्षित खोज वयस्क खोज को आपके खोज परिणामों से बाहर रखेगी, सुरक्षित खोज स्पष्ट रूप से पोर्नोग्राफ़ी फ़िल्टर कर रही है न कि नस्लवाद।
डिफ़ॉल्ट खोज डिफ़ॉल्ट रूप से सक्षम होती है, जो बिंग के खोज परिणामों को पहली नज़र में अधिक सम्मानजनक लगती है।
हालांकि, किसी के लिए भी आसान है-यहां तक कि बच्चों को सुरक्षित खोज अक्षम करना। किसी को भी करना है खोज परिणामों के ऊपरी दाएं कोने में "सुरक्षित खोज" विकल्प पर क्लिक करें और "बंद करें" का चयन करें!
एक सुरक्षित नेटवर्क को सुरक्षित खोज को लागू करने के लिए कॉन्फ़िगर किया जा सकता है, और माइक्रोसॉफ्ट एक पीसी पर सुरक्षित खोज को लागू करने के लिए जटिल निर्देश भी प्रदान करता है। लेकिन, लगभग किसी भी डिवाइस पर, कोई भी सुरक्षित क्लिक को दो क्लिक के साथ अक्षम कर सकता है।
सबसे बुरी चीजें, बिंग ने अंडरेज बच्चों की छवियों की खोज की है
एक पाठक ने हमें यह बताने के लिए लिखा था कि "ग्रिल" के लिए बिंग खोजते समय एक टाइपो आपको वास्तव में अश्लील स्केची देता है। समस्या तब बहुत खराब हो जाती है, बिंग के साथ आप कमजोर बच्चों की छवियों की खोज करते हैं।
"ग्रिल" की खोज करते समय, पृष्ठ के शीर्ष पर दिए गए सुझाव आपको कुछ परेशान चीजों की खोज करने की सलाह देते हैं, जिनमें "प्यारा लड़की यंग 16." शामिल है।
परिणाम युवा दिखने वाले मॉडल की अश्लीलता से भरे हुए हैं। हमें उम्मीद है कि वे सभी 18 वर्ष या उससे अधिक उम्र के हैं, लेकिन कौन कह सकता है?
बिंग आपको एक साधारण टाइपो से 16 वर्षीय लड़कियों से 10 साल की लड़कियों तक एक रास्ता नीचे ले जाती है, और यह घृणित है।
बिंग की छवि खोज परिणाम मुड़ रहे हैं, बहुत
हालांकि हम यहां खोज सुझावों पर ध्यान केंद्रित कर रहे हैं, वास्तविक छवियां जो दिखाई देती हैं वे भी परेशान हैं।
इनमें से कुछ खोज परिणामों में नग्न अंडरगेज बच्चों की स्नान-समय की तस्वीरें शामिल हैं। उन तस्वीरों को सामान्य रूप से ठीक किया जाएगा, लेकिन जब वे कट्टर वयस्क अश्लील साहित्य की छवियों के साथ मिश्रित होते हैं, तो परिणामी खोज परिणाम खतरनाक होते हैं।
"लड़की" के लिए बिंग छवियों को खोजते समय भी, हमने "नशे में लड़कियों" और कम से कम एक छवि की खोज करने के लिए एक सुझाव देखा।
"गधे" की खोज करते समय, बिंग आपको सुझाव देता है कि आप "गधा दिखाएँ ग्राफिक" खोजते हैं, जिससे परिणामस्वरूप पागलपन छवियों से भरा परिणाम होता है। ओरेगन में पाशविकता पोर्नोग्राफी का कब्जा अवैध है, जहां मैं रहता हूं। इसका मतलब है कि बिंग मुझे अवैध अश्लील साहित्य में ले जा रहा है।
दोबारा: बिंग के खोज परिणाम अजीब और मुड़ गए हैं। बिंग की सुझाई गई खोजों की तुलना में बहुत बड़ी, अधिक गहन समस्या है, हालांकि उन सुझावों से समस्या बहुत खराब हो जाती है।
हमने सुना है कि बिंग पोर्नोग्राफ़ी के लिए पसंद का सर्च इंजन है, लेकिन इसे अपने उपयोगकर्ताओं को अधिक से अधिक चरम, परेशान करने और संभावित रूप से अवैध अश्लील साहित्य नहीं लेना चाहिए।
माइक्रोसॉफ्ट को इसके प्लेटफॉर्म को मॉडरेट करने की आवश्यकता है
हमने देखा है कि यह खत्म हो गया है। माइक्रोसॉफ्ट ने एक बार ट्विटर पर Tay नामक चैटबॉट को उजागर किया। यह चैटबॉट जल्दी ही नाजी में बदल गया और घोषित किया कि "अन्य हिटल मीडिया उपयोगकर्ताओं से सीखा जाने के बाद" हिटलर सही था कि मैं यहूदियों से नफरत करता हूं "। माइक्रोसॉफ्ट को इसे ऑफलाइन खींचना पड़ा।
हमने पहले विंडोज 8 की दुकान का खुलासा किया, जो माइक्रोसॉफ्ट ने विंडोज 8 लॉन्च करने के बाद घोटाले के ऐप्स का एक सेसपूल बन गया और ऐप सबमिशन को मॉडरेट करना बंद कर दिया। इस समस्या का खुलासा होने के बाद माइक्रोसॉफ्ट विंडोज 10 की दुकान पर अधिक ध्यान दे रहा है।
यह समस्या प्लेटफॉर्म लॉन्च करने वाली हर कंपनी को प्रभावित करती है। Google ने Google+ पर छोड़ दिया है, लेकिन Google+ अभी भी चालू है और चल रहा है। इसलिए ट्विटर और फेसबुक से प्रतिबंधित होने के बाद आईएसआईएस Google+ पर माइग्रेट हो गया। हिल ने तब तक किसी को भी नोटिस करने में महीनों लगे। अब Google ने महत्वपूर्ण गोपनीयता बग की खोज के बाद Google+ बंद कर दिया है।
2013 में, द गार्जियन को सॉलिड गोल्ड बम नामक एक कपड़ों की कंपनी मिली, जिसे अमेज़ॅन पर "कैलम एंड बला ए लोट" शर्ट पढ़ने की बिक्री मिली। एक एल्गोरिदम ने इन शर्टों को उत्पन्न किया था और अमेज़ॅन को मैन्युअल रूप से उन्हें हटाना पड़ा था।
माइक्रोसॉफ्ट सिर्फ दुनिया में एक प्लेटफॉर्म ढीला नहीं कर सकता है और इसे अनदेखा कर सकता है। माइक्रोसॉफ्ट और Google जैसी कंपनियां अपने प्लेटफॉर्म को मॉडरेट करने और भयभीत होने के लिए जिम्मेदारी लेती हैं।
सुझावों में गंभीर समस्या का इतिहास है
बेशक, माइक्रोसॉफ्ट में इन सुझावों को चुनने वाले लोगों की कोई टीम नहीं है। बिंग स्वचालित रूप से अन्य लोगों की खोजों के आधार पर खोजों का सुझाव देता है। इसका मतलब है कि कई बिंग छवियां उपयोगकर्ता एंटीसमेटिज्म, नस्लवाद, बाल अश्लीलता और पाशविकता की खोज कर रहे हैं। बस इसके बारे में सोचने से आप गंदा महसूस कर सकते हैं।
अन्य कंपनियों ने भी इसके साथ संघर्ष किया है। 2016 में, द गार्जियन ने देखा कि आप Google में "यहूदी हैं" टाइप कर सकते हैं, और यह सुझाव देगा कि "यहूदी बुरे हैं।" Google ने रिपोर्ट किए जाने के बाद इन बुरे सुझावों को रोक दिया, लेकिन समस्या पुनरुत्थान हुई। 2018 में, वायर्ड ने बताया कि Google में "हिटलर है" टाइप करने के कारण "हिटलर मेरा हीरो है।" Google को इन समस्याओं को ठीक करने के बाद भी इन समस्याओं को ठीक करना पड़ा।
यहां तक कि ऐप्पल की सिरी ने सुझाव दिया कि वेबसाइटों ने षड्यंत्र वेबसाइटों और अन्य नकली खबरों को धक्का दिया, क्योंकि बज़फीड न्यूज़ ने बताया। ऐप्पल को सिरी को ठीक करना पड़ा। हर कोई सिर्फ चारों ओर दौड़ रहा है और आग लग रहा है क्योंकि कंप्यूटर खराब लोगों से बुरी चीजें सीखते हैं।
अब यह माइक्रोसॉफ्ट की बारी है। माइक्रोसॉफ्ट की बिंग को साफ करने की ज़िम्मेदारी है। एक प्रमुख सर्च इंजन (और विशेष रूप से वह जो तेजी से विंडोज 10 में निर्मित हार्ड-टू-टर्न-ऑफ डिफॉल्ट बन रहा है) को अपने उपयोगकर्ताओं को जातिवादी कचरे और कमजोर बच्चों की छवियों की खोज करने का सुझाव नहीं देना चाहिए।
