AI लोगों की मदद कर रहा है, लेकिन deepfake जैसी तकनीक रिश्तों और भरोसे को तोड़ने का खतरा बन रही है।
फेक वीडियो और तस्वीरों के ज़रिए खासकर महिलाओं की छवि, मानसिक शांति और करियर को नुकसान पहुँचाया जा सकता है।
तकनीक की रफ्तार के मुकाबले कानून और सिस्टम पीछे हैं, जिससे AI का गलत इस्तेमाल और खतरनाक हो रहा है।
AI (Artificial Intelligence) आज की दुनिया में लोगों की कई तरह से मदद कर रहा है। पढ़ाई से लेकर काम तक, दफ्तर से लेकर घर तक, हर जगह AI किसी न किसी रूप में मौजूद है। AI की वजह से लोगों में एक आत्मविश्वास पैदा हुआ है। आज के समय में लोग किसी समस्या को सुलझाने के लिए एक्सपर्ट या अपने करीबी से नहीं बल्कि AI से सलाह मांगते है। इतना ही नहीं बल्कि दुनियाभर से ऐसे कई खबर सामने आये हैं। जहाँ देखा गया है की कुछ औरतें AI/Chatgpt से अपने रोमांटिक रेलशनशिप का दावा करती हैं। उनका मानना है की AI से बेहतर उन्हें कोई नहीं समझता है। अब ऐसे में प्रश्न यह है कि क्या यह तकनीक लोगों के लिए फायदेमंद है? क्या किसी मशीन के साथ रोमांटिक रिलेशनशिप का दावा करना आम बात है? क्या AI की कोई सीमा नहीं होनी चाहिए? क्या यह मान लिया जाए कि जो कुछ AI कर सकता है, वह सब सही है?
हाल ही में सामने आया एक मामला इस सवाल को और गंभीर बना देता है। एक पॉडकास्ट में नमन जैन (एक टेक्नोलॉजी और डिजिटल सेफ्टी से जुड़े विषयों पर बोलने वाले वक्ता/कमेंटेटर) द्वारा बताया गया कि कैसे AI deepfake तकनीक का इस्तेमाल करके एक शादीशुदा महिला को निशाना बनाया गया। महिला की गलती सिर्फ इतनी थी कि उसकी तस्वीरें सोशल मीडिया पर मौजूद थीं। उन्हीं तस्वीरों के ज़रिए AI की मदद से उसका एक फेक वीडियो तैयार किया गया। वीडियो इतना असली लग रहा था कि देखने वाला यह फर्क ही नहीं कर पा रहा था कि वह नकली है। जब यह वीडियो महिला के पति तक पहुँचा, तो घर में शक और अविश्वास का माहौल बन गया। पति को लगने लगा कि उसकी पत्नी ने उससे कुछ छुपाया है। महिला बार-बार समझाती रही कि वीडियो नकली है, लेकिन AI से बना कंटेंट इतना वास्तविक दिख रहा था कि उस पर यकीन करना मुश्किल हो गया।
धीरे-धीरे बात बहस में बदली, बहस झगड़े में और झगड़ों से रिश्तों में दरारे आने लगी। महिला अपने पति का घर छोड़ मायके में रहने लगी। मामला यहाँ तक पहुँच गया कि शादी टूटने की कगार पर आ गई। सबसे दर्दनाक पहलू यह था कि महिला के पास खुद को निर्दोष साबित करने का कोई पुख्ता तरीका नहीं था। वह सही होते हुए भी गलत साबित होती चली गई। यह घटना सिर्फ एक परिवार की नहीं है, बल्कि यह दिखाती है कि AI deepfake तकनीक रिश्तों और भरोसे को किस हद तक नुकसान पहुँचा सकती है। जहाँ पहले सबूतों पर भरोसा किया जाता था, अब वही सबूत शक के घेरे में आ गए हैं।
यह खतरा यहीं खत्म नहीं होता। विश्वभर में ऐसे कई मामले सामने आये हैं, जहाँ औरतों को डराने और धमकाने के लिए AI द्वारा डीप फेक फोटोज एवं वीडियोस को बनाया जाता है। AI का गलत इस्तेमाल आगे चलकर नौकरियों और करियर को भी बुरी तरह प्रभावित कर सकता है। खासकर महिलाओं के लिए यह खतरा कहीं ज़्यादा गंभीर है। किसी लड़की की फोटो उठाकर उसे किसी पोर्न वेबसाइट (Porn Website) या आपत्तिजनक प्लेटफॉर्म पर डाल देना, या सोशल मीडिया पर वायरल कर देना — यह सब अब तकनीक की मदद से आसान हो गया है।
ऐसे मामलों में अपराधी अक्सर गायब हो जाते हैं, लेकिन लड़की को समाज, दफ्तर और अपने ही लोगों के सवालों का सामना करना पड़ता है। एक झूठा वीडियो या तस्वीर किसी महिला की साख, आत्मविश्वास और करियर को हमेशा के लिए नुकसान पहुँचा सकती है। सबसे बड़ी समस्या यह है कि AI से बना कंटेंट इतना वास्तविक होता है कि उसे नकली साबित करना आसान नहीं होता।
पुलिस, कानून और सिस्टम अभी भी इस तकनीक से पीछे चल रहे हैं। जब तक जांच पूरी होती है, तब तक नुकसान हो चुका होता है। AI की यह पहुँच साफ़ दिखाती है कि अगर समय रहते इस पर नियंत्रण, नियम और सख़्त कानून नहीं बनाए गए, तो यह तकनीक मददगार होने के साथ-साथ एक खतरनाक हथियार बन सकती है।
तकनीक का विकास ज़रूरी है, लेकिन उसके साथ जवाबदेही और सीमाएँ भी उतनी ही ज़रूरी हैं। AI इंसान की मदद के लिए बना है, न कि उसकी ज़िंदगी बर्बाद करने के लिए।अब ज़रूरत इस बात की है कि हम सिर्फ इसके फ़ायदों की बात न करें, बल्कि इसके खतरों को भी उतनी ही गंभीरता से समझें।
(Rh/PO)
