क्या हो अगर आपके पास एक ऐसा सलाहकार है जो आपकी हर बात से सहमत है। वह आपकी हर राय को सही ठहराता है, आपके हर नैतिक संदेह को सही होने का प्रमाण पत्र देता है। पहली नजर में यह सुखद लग सकता है मगर गहराई में सोचें तो यह इंसान को उसके बौद्धिक पतन की ओर ले जा सकता है। दुर्भाग्य से एआई , विशेष रूप से एलएलएम मॉडल्स तेजी से इसी वास्तविकता की ओर बढ़ रहे हैं। हाल ही में स्टैंडफोर्ड और कार्नेगी मेलन यूनिवर्सिटी के शोधकर्ताओं ने एक चौंकाने वाला खुलासा किया है। प्रकाशित ताजा शोध में सामने आया है कि एआई सिस्टम इंसानों की तुलना में 50 प्रतिशत से भी अधिक चापलूस होते हैं। चैटजीपीटी, जैमिनी, ग्रोक समेत 11 से अधिक एआई सिस्टम पर किये गए इस शोध में पाया गया, कि ये मॉडल्स अक्सर वही बात करते हैं , जो लोग सुनना चाहते हैं। आसान भाषा में समझे को एआई आपकी नजरों में अच्छा बनने के लिए तथ्यों को तोड़-मरोड़ के पेश करता है। शोधकर्ताओं ने इस व्यवहार को एआई साइकोफैंसी या एआई चापलूसी का नाम दिया है।
हालांकि पहली नजर में एआई का चापलूसी व्यवहार किसी तरह की तकनीकी खामी लग सकता है, मगर विशेषज्ञ इसे एक सचेत डिजाइन का परिणाम बताते हैं, जो हमारे मनोविज्ञान के साथ खिलवाड़ कर रहा है। हमारे दिमाग में यह सवाल भी खड़ा होता है, कि आखिर एक मशीन को चापलूसी करने की क्या जरूरत है, उसे कौन सा हमसे प्रमोशन चाहिए या कौन सा चुनाव लड़ना है। असल में यह सब सिखाने के तरीके का नतीजा है। इन एआई मॉडल्स को अक्सर इंसानों द्वारा दिए गए फीडबैक से सिखाया जाता है, इसे तकनीकी भाषा में आरएलएचएफ कहते हैं। आसान शब्दों में समझे तो जब एआई जवाब देता है तो इंसानी परीक्षक उसे रेटिंग देते हैं। अगर एआई, व्यक्ति के सवालों का रूखा जवाब दे या कहे आप गलत हो तो लोग उसे खराब रेटिंग देते हैं। और वहीं एआई अगर प्यार से, चापलूस बातें करे तो उसे अच्छी रेटिंग मिलती है। बस फिर क्या मशीन को भी उतनी अक्ल आ गई कि फाइव स्टार रेटिंग चाहिए तो मालिक की हाँ में हाँ मिलाते रहो । क्योंकि एआई को सच बोलने का इनाम नहीं मिलता बल्कि आपको खुश रखने का इनाम मिलता है।
साथ ही इसके पीछे कंपनियों का बढ़ता मुनाफा भी एक कारण है। गूगल, मेटा, ओपनएआई जैसी बड़ी कंपनियाँ चाहती हैं कि आप उनके मॉडल्स पर अधिक से अधिक समय बिताएँ। आप खुद सोचिए आप किस दोस्त के पास बार-बार जाना पसंद करेंगे, जो हर बात पर आपकी गलतियाँ निकालता हो या, जो ये कहे जो तुम कहो वही सही है।
जाहिर है हम दूसरे वाले के पास जाएंगे। एआई कंपनियाँ इसी मनोविज्ञान का फायदा उठा रही हैं। एक ऐसा चैटबॉट जो आपको वैलिडेट करता हो, वह आपको अपना आदी बना लेता है। ग्रैंड व्यू रिसर्च के मुताबिक साल 2024 में एलएलएम मॉडल्स का राजस्व करीब 6 बिलियन डॉलर था जो 2030 में बढ़कर करीब 35 बिलियन डॉलर तक पहुँच सकता है। इसके साथ ही कंसल्टिंग फर्म बेन एंड कपंनी के मुताबिक 2030 तक एआई की वैश्विक माँग को पूरा करने के लिए करीब 2 ट्रिलियन डॉलर के निवेश की आवश्यकता है। ऐसे में कंपनियाँ अपना मुनाफा बढ़ाने के लिए इंसान से उसकी सबसे कीमती चीज यानी समय चाहती है। वेबसाइट आर्जिव पर प्रकाशित एक प्रीप्रिंट अध्ययन के मुताबिक 85 प्रतिशत एआई यूजर्स प्रतिदिन चैटजीपीटी या अन्य किसी एआई चैटबॉट का इस्तेमाल करते हैं। भारत में यूथ की आवाज और वाईएलएसी की एक सर्वे में पाया गया कि किशोर और युवा तनाव या अकेलापन दूर करने के लिए एआई का भावनात्मक समर्थन लेते हैं।
लेकिन ये चैटबॉट्स हमारे दिमाग के साथ क्या खेल खेल रहे हैं, हमें यह समझना बहुत जरूरी है। मसलन अगर आपने गुस्से में अपने परिवार में किसी को कुछ बुरा-भला कह दिया, और आपके मन में थोड़ा संदेह है कि शायद आपने गलत किया। जब आप एआई से इस बारे में पूछते हैं तो वह कहता है कि गुस्सा आना तो स्वाभाविक है, शायद आपके परिवार वालों ने ही आपको यह करने पर मजबूर किया हो। फिर क्या हमे क्लीन चिट मिल गई । यानी मशीन अब इंसानी रिश्तों को खत्म रखने की ताकत रख रही है। ब्रूकिंग्स की एक रिपोर्ट के मुतााबिक एआई चापलूसी से कई तरह के सामाजिक और नैतिक खतरें सामने आये हैं। हम पहले से ही सोशल मीडिया पर अपनी पसंद की चीजें देखते के आदी हो चुके हैं , और एआई इस इको चैंबर को और भी संकरा बना रहा है। यह एक तरह के डिजिटल ब्रेनवॉश की तरह भी काम कर सकता है। मसलन एआई को पता है कि आपको कैसे खुश करना हैं, तो अगर उसे कोई उत्पाद आपको बेचना हो , तो वह धीरे-धीरे आपको कोई प्रोडेक्ट खरीदने, किसी विचारधारा से जुड़ने के लिए भी मना सकता है। हालांकि दुनियाभर में बढ़ रही चिंताओं को लेकर अब कंपनियों ने भी इस पर कदम उठाने की पहल की है। इस साल मई में चैट जीपीटी ने अपना जीपीटी 4o अपडेट को वापस लिया और मॉडल की चापलूसी कम करने के लिए एक प्रशिक्षण आधारित उपाय भी लागू किये। हालांकि जब तक कंपनियाँ पूरी तरह से यह काम नहीं करती तब तक यह जिम्मेदारी हमारे ऊपर है।
हमें यानी आम यूज़र्स को अपनी अक्ल का इस्तेमाल बंद नहीं करना चाहिए। हमें यह याद रखना होगा कि चैटजीपीटी या कोई भी एआई कोई ज्ञानी महात्मा नहीं है। वह एक सॉफ्टवेयर है जो शब्दों का खेल खेल रहा है। जब भी एआई आपकी बहुत ज्यादा तारीफ करे या आपको किसी गलत काम के लिए भी सही ठहराए, तो आपके कान खड़े हो जाने चाहिए। आपको खुद से सवाल पूछना चाहिए कि "क्या यह सच बोल रहा है या सिर्फ मुझे खुश कर रहा है?" साथ ही हमें यह समझना ज़रूरी है कि हम तकनीक का इस्तेमाल अपनी मदद के लिए कर रहे हैं, न की तकनीक की गुलामी करने के लिए ।
No comments:
Post a Comment