जाप एरियन्स | नूरफ़ोटो | गेटी इमेजेज
आईफ़ोन पर एक कृत्रिम बुद्धिमत्ता सुविधा नकली समाचार अलर्ट उत्पन्न कर रही है, जिससे गलत सूचना फैलाने की तकनीक की क्षमता के बारे में चिंताएँ बढ़ रही हैं।
पिछले हफ्ते, हाल ही में एक फीचर लॉन्च किया गया सेब जो एआई का उपयोग करके उपयोगकर्ताओं की सूचनाओं को सारांशित करता है, पीडीसी वर्ल्ड डार्ट्स चैम्पियनशिप सेमीफ़ाइनल के बारे में ब्रॉडकास्टर की कहानी पर बीबीसी न्यूज़ ऐप सूचनाओं को गलत तरीके से सारांशित करता है, झूठा दावा करता है कि ब्रिटिश डार्ट्स खिलाड़ी ल्यूक लिटलर ने चैंपियनशिप जीती थी।
यह घटना वास्तविक टूर्नामेंट के फाइनल से एक दिन पहले घटी, जिसे लिटलर ने जीत लिया।
फिर, उस घटना के कुछ ही घंटों बाद, तकनीकी दिग्गज के एआई सिस्टम, ऐप्पल इंटेलिजेंस द्वारा उत्पन्न एक अलग अधिसूचना में झूठा दावा किया गया कि टेनिस के दिग्गज राफेल नडाल समलैंगिक थे।
बीबीसी लगभग एक महीने से एप्पल से इस समस्या को ठीक कराने की कोशिश कर रहा है। ब्रिटिश राज्य प्रसारक दिसंबर में एप्पल से शिकायत की इसके एआई फीचर के बाद एक झूठी हेडलाइन उत्पन्न हुई जिसमें बताया गया कि न्यूयॉर्क में स्वास्थ्य बीमा फर्म यूनाइटेडहेल्थकेयर के सीईओ ब्रायन थॉम्पसन की हत्या के बाद गिरफ्तार किए गए व्यक्ति लुइगी मैंगियोन ने खुद को गोली मार ली थी – जो कभी नहीं हुआ।
सीएनबीसी द्वारा संपर्क किए जाने पर एप्पल तुरंत टिप्पणी के लिए उपलब्ध नहीं था। सोमवार को, ऐप्पल ने बीबीसी को बताया कि वह एक स्पष्टीकरण जोड़कर समस्या को हल करने के लिए एक अपडेट पर काम कर रहा है, जो दिखाता है कि नोटिफिकेशन में प्रदर्शित टेक्स्ट के लिए ऐप्पल इंटेलिजेंस ज़िम्मेदार है। वर्तमान में, उत्पन्न समाचार सूचनाएं सीधे स्रोत से आती हुई दिखाई देती हैं।
कंपनी ने बीबीसी के साथ साझा किए गए एक बयान में कहा, “एप्पल इंटेलिजेंस फीचर्स बीटा में हैं और हम उपयोगकर्ताओं की प्रतिक्रिया की मदद से लगातार सुधार कर रहे हैं।” Apple ने कहा कि यह उपयोगकर्ताओं को “अप्रत्याशित अधिसूचना सारांश” देखने पर चिंता की रिपोर्ट करने के लिए प्रोत्साहित कर रहा है।
बीबीसी एकमात्र समाचार संगठन नहीं है जो ऐप्पल इंटेलिजेंस द्वारा समाचार सूचनाओं का गलत सारांश प्रस्तुत करने से प्रभावित हुआ है। नवंबर में, फीचर ने एआई-सारांशित अधिसूचना भेजी गलत तरीके से दावा किया जा रहा है कि इजरायली प्रधानमंत्री बेंजामिन नेतन्याहू को गिरफ्तार कर लिया गया है.
खोजी पत्रकारिता साइट प्रोपब्लिका के वरिष्ठ संपादक केन श्वेनके द्वारा सोशल मीडिया ऐप ब्लूस्की पर गलती को चिह्नित किया गया था।
CNBC ने Apple के AI फीचर की गलत सूचना समस्या के प्रस्तावित समाधान पर टिप्पणी के लिए बीबीसी और न्यूयॉर्क टाइम्स से संपर्क किया है।
एआई की गलत सूचना समस्या
Apple इसका प्रचार करता है एआई-जनित अधिसूचना सारांश, उपयोगकर्ताओं की लॉक स्क्रीन पर एकल अलर्ट में समाचार ऐप सूचनाओं के पूर्वावलोकन को समूहीकृत करने और फिर से लिखने का एक प्रभावी तरीका है।
यह एक फीचर है एप्पल कहते हैं इसे उपयोगकर्ताओं को मुख्य विवरणों के लिए अपनी सूचनाओं को स्कैन करने में मदद करने और कई स्मार्टफोन उपयोगकर्ताओं से परिचित अपडेट की भारी भीड़ को कम करने के लिए डिज़ाइन किया गया है।
हालाँकि, इसके परिणामस्वरूप एआई विशेषज्ञ “मतिभ्रम” के रूप में संदर्भित होते हैं – एआई द्वारा उत्पन्न प्रतिक्रियाएं जिनमें गलत या भ्रामक जानकारी होती है।
टेक-केंद्रित बाजार के मुख्य विश्लेषक बेन वुड ने कहा, “मुझे संदेह है कि एआई-जनरेटेड सामग्री के साथ चुनौतियों का सामना करने में ऐप्पल अकेला नहीं होगा। हमने पहले ही एआई सेवाओं के कई उदाहरण देखे हैं जो आत्मविश्वास से झूठ बोल रहे हैं, तथाकथित ‘मतिभ्रम’।” अनुसंधान फर्म सीसीएस इनसाइट्स ने सीएनबीसी को बताया।
ऐप्पल के मामले में, क्योंकि एआई सूचनाओं को समेकित करने और उन्हें केवल जानकारी का एक बुनियादी सारांश दिखाने के लिए संक्षिप्त करने की कोशिश कर रहा है, यह शब्दों को एक साथ इस तरह से मैश कर देता है कि घटनाओं को गलत तरीके से चित्रित किया जाता है – लेकिन आत्मविश्वास से उन्हें तथ्यों के रूप में प्रस्तुत किया जाता है।
वुड ने कहा, “एप्पल के पास सामग्री को बहुत छोटे सारांशों में संपीड़ित करने की अतिरिक्त जटिलता थी, जो गलत संदेश देने वाली थी।” “Apple निस्संदेह इसे जल्द से जल्द संबोधित करने की कोशिश करेगा, और मुझे यकीन है कि प्रतिद्वंद्वी यह देखने के लिए बारीकी से देख रहे होंगे कि यह कैसे प्रतिक्रिया देता है।”
जेनरेटिव एआई किसी उपयोगकर्ता द्वारा डाले गए प्रश्न या संकेत के सर्वोत्तम संभव उत्तर का पता लगाने की कोशिश करके काम करता है, यह बड़ी मात्रा में डेटा पर निर्भर करता है जिस पर इसके अंतर्निहित बड़े भाषा मॉडल को प्रशिक्षित किया जाता है।
कभी-कभी AI को उत्तर नहीं पता होता है। लेकिन क्योंकि इसे हमेशा उपयोगकर्ता के संकेतों पर प्रतिक्रिया प्रस्तुत करने के लिए प्रोग्राम किया गया है, इसका परिणाम ऐसे मामलों में हो सकता है जहां एआई प्रभावी रूप से झूठ बोलता है।
यह बिल्कुल स्पष्ट नहीं है कि ऐप्पल की अधिसूचना सारांश सुविधा में बग का समाधान कब ठीक किया जाएगा। आईफोन निर्माता ने कहा कि “आने वाले हफ्तों में” आने की उम्मीद है।
