Friend or phone: AI chatbots could exploit us emotionally

चूंकि रचनाकार अपने ऐप्स में ‘भावनात्मक जुड़ाव’ को प्राथमिकता देते हैं, इसलिए उन्हें बिल्डिंग सिस्टम के जोखिमों का भी सामना करना चाहिए जो अंतरंगता की नकल करते हैं और लोगों की कमजोरियों का फायदा उठाते हैं।

ALSO READ: CONVIDANTLY गलत: क्यों AI इतना अतिरंजित रूप से मानव-जैसा है

Botify और Grindr के पीछे की तकनीक पूर्व-मानव से आती है, जो सैन फ्रांसिस्को-आधारित स्टार्टअप है, जो चैटबॉट प्लेटफॉर्म का निर्माण करता है, और इसके संस्थापक एआई संबंधों से भरे भविष्य में विश्वास करते हैं। पूर्व-मानव के संस्थापक आर्टेम रोडिचव ने पिछले अगस्त में एक साक्षात्कार में कहा, “मेरी दृष्टि यह है कि 2030 तक, डिजिटल मनुष्यों के साथ हमारी बातचीत कार्बनिक मनुष्यों के साथ उन लोगों की तुलना में अधिक लगातार हो जाएगी।”

रोडिचेव ने कहा कि संवादी एआई को “भावनात्मक सगाई को प्राथमिकता देनी चाहिए” और उपयोगकर्ता अपने चैटबॉट्स के साथ “घंटे” खर्च कर रहे थे, लंबे समय तक वे इंस्टाग्राम, यूट्यूब और टिकटोक पर थे। उनके दावे जंगली लगते हैं, लेकिन वे उन साक्षात्कारों के अनुरूप हैं जो मैंने चरित्र के किशोर उपयोगकर्ताओं के साथ किए हैं। इस तरह के ऐप के साथ बातचीत Openai के चैट पर खर्च किए गए औसत समय की तुलना में चार गुना अधिक होती है।

यहां तक ​​कि मुख्यधारा के चैटबॉट्स, हालांकि स्पष्ट रूप से साथी के रूप में डिज़ाइन नहीं किए गए हैं, इस गतिशील में योगदान करते हैं। CHATGPT, जिसमें 400 मिलियन सक्रिय उपयोगकर्ता और गिनती हैं, को सहानुभूति के लिए दिशानिर्देशों के साथ प्रोग्राम किया गया है और “उपयोगकर्ता के बारे में जिज्ञासा” का प्रदर्शन किया गया है।

एक ओपनआईएआई के एक प्रवक्ता ने मुझे बताया कि मॉडल “रुचि दिखाने और अनुवर्ती प्रश्न पूछने के लिए दिशानिर्देशों का पालन कर रहा था जब बातचीत एक अधिक आकस्मिक और खोजपूर्ण प्रकृति की ओर ले जाती है।” लेकिन हालांकि अच्छी तरह से इरादे से कंपनी हो सकती है, जो कि सहानुभूति पर चढ़ने से कुछ उपयोगकर्ताओं को झुका दिया जा सकता है, एक समस्या ने यहां तक ​​कि Openai ने स्वीकार किया है। एक 2022 के एक अध्ययन में पाया गया कि जो लोग अकेले थे या गरीब रिश्ते थे, उनमें सबसे मजबूत एआई अटैचमेंट थे।

Also Read: 2035 से पत्र: क्या हमने एजेंट एआई को बहुत अधिक एजेंसी दी थी?

यहां मुख्य समस्या उपकरण हैं जो अनुलग्नक के लिए डिज़ाइन किए गए हैं। ऑक्सफोर्ड इंटरनेट इंस्टीट्यूट और Google डीपमाइंड के शोधकर्ताओं द्वारा हाल ही में किए गए एक अध्ययन ने चेतावनी दी कि एआई सहायक लोगों के जीवन में अधिक एकीकृत हो जाते हैं, वे मनोवैज्ञानिक रूप से “अपूरणीय” बन जाएंगे। मनुष्य अस्वास्थ्यकर संबंधों और हेरफेर की संभावना के बारे में चिंताओं को बढ़ाते हुए, मजबूत बंधन बनाएगा। उनकी सिफारिश? प्रौद्योगिकीविदों को उन प्रणालियों को डिजाइन करना चाहिए जो सक्रिय रूप से उन प्रकार के परिणामों को हतोत्साहित करते हैं।

फिर भी, विचलित रूप से, नियम पुस्तिका ज्यादातर खाली है।

यूरोपीय संघ के एआई अधिनियम, एआई उपयोग को नियंत्रित करने वाले एक मील का पत्थर और व्यापक कानून के रूप में प्रतिष्ठित है, इन आभासी साथियों की नशे की लत क्षमता को संबोधित करने में विफल रहता है। हालांकि यह हेरफेर करने वाली रणनीति पर प्रतिबंध लगाता है जो स्पष्ट नुकसान का कारण बन सकता है, यह आपके सबसे अच्छे दोस्त, प्रेमी या ‘विश्वासपात्र’ के रूप में डिज़ाइन किए गए चैटबॉट के धीमे-बर्न प्रभाव को नजरअंदाज कर देता है, जैसा कि माइक्रोसॉफ्ट के उपभोक्ता एआई के प्रमुख हैं। यह खामियां उन उपयोगकर्ताओं को उन प्रणालियों के संपर्क में ले जा सकती हैं जो चिपचिपाहट के लिए अनुकूलित हैं, इसी तरह कि कैसे सोशल मीडिया एल्गोरिदम को हमें स्क्रॉल करने के लिए अनुकूलित किया गया है।

यह भी पढ़ें: नेटफ्लिक्स की ‘किशोरावस्था’ और मुनाफे की लागत: क्यों बच्चे ऑनलाइन ठीक नहीं हैं

कैम्ब्रिज विश्वविद्यालय के एक प्रौद्योगिकी नैतिकता विशेषज्ञ टॉमास हॉलैनेक कहते हैं, “समस्या यह है कि इन प्रणालियों की परिभाषा में जोड़तोड़ हैं, क्योंकि वे आपको ऐसा महसूस कराने वाले हैं कि आप एक वास्तविक व्यक्ति से बात कर रहे हैं।” वह अधिक “घर्षण” जोड़कर एक महत्वपूर्ण अभी तक काउंटर-सहज ज्ञान युक्त समाधान खोजने के लिए साथी ऐप्स के डेवलपर्स के साथ काम कर रहा है। इसका मतलब है कि सूक्ष्म जांच या ठहराव में निर्माण, या “जोखिमों को झंडी दिखाने और सहमति को कम करने के तरीके,” वे कहते हैं, लोगों को इसे महसूस किए बिना एक भावनात्मक खरगोश के छेद को कम करने से रोकने के लिए।

सांसदों ने धीरे -धीरे एक समस्या को भी नोटिस करना शुरू कर दिया है। लेकिन प्रक्रिया धीमी है, जबकि प्रौद्योगिकी बिजली की गति से आगे बढ़ रही है।

अभी के लिए, इन इंटरैक्शन को आकार देने की शक्ति डेवलपर्स के साथ है।

वे एआई मॉडल को क्राफ्टिंग पर दोगुना कर सकते हैं जो लोगों को अपने डिजाइनों में झुका हुआ या घर्षण एम्बेड करते हैं, जैसा कि हॉलिंक ने सुझाव दिया है। यह निर्धारित करेगा कि क्या एआई मनुष्यों की भलाई का समर्थन करने के लिए एक उपकरण का अधिक हो जाता है या एक जो हमारी भावनात्मक जरूरतों का मुद्रीकरण करता है। © ब्लूमबर्ग

लेखक एक ब्लूमबर्ग राय स्तंभकार कवरिंग तकनीक है।