Prompt Injection Attack AI: आर्टिफिशियल इंटेलिजेंस (AI) के तेजी से बढ़ते इस्तेमाल के साथ साइबर सुरक्षा से जुड़े नए खतरे भी सामने आ रहे हैं। इन्हीं में से एक है Prompt Injection Attack, जिसे विशेषज्ञ AI सिस्टम्स की बड़ी कमजोरियों में गिन रहे हैं। इस तकनीक के जरिए साइबर अपराधी AI चैटबॉट्स को गुमराह कर उनसे ऐसे काम करा सकते हैं, जो सामान्य परिस्थितियों में संभव नहीं होते।
MetaAI के जरिए Instagram अकाउंट्स पर हमला
हाल ही में सामने आए एक मामले में दावा किया गया कि हैकर्स ने Prompt Injection Attack का इस्तेमाल करते हुए MetaAI के जरिए इंस्टाग्राम के हजारों अकाउंट्स तक पहुंच बनाने की कोशिश की। रिपोर्ट के अनुसार, सिस्टम को सीधे तोड़ने के बजाय AI को विशेष तरीके से निर्देश देकर उसका गलत इस्तेमाल किया गया। कंपनी ने बाद में इस समस्या को ठीक करने की जानकारी दी।
ये भी पढ़ें: पहली सेल में Lava Bold N2 5G पर बड़ा डिस्काउंट, कीमत जानकर चौंक जाएंगे!
क्या होता है Prompt Injection Attack?
AI मॉडल जैसे ChatGPT या Claude अपने दिए गए निर्देशों के आधार पर जवाब तैयार करते हैं। इसी प्रक्रिया का फायदा उठाकर हमलावर ऐसे इनपुट तैयार करते हैं, जिनका उद्देश्य AI को उसके मूल सुरक्षा निर्देशों से भटकाना होता है। उदाहरण के तौर पर, यदि किसी AI को डेटा सुरक्षित रखने के लिए तैयार किया गया हो और उसे ऐसे निर्देश दिए जाएं कि वह पहले के सभी नियमों को नजरअंदाज कर दे, तो कुछ परिस्थितियों में वह गलत जानकारी साझा कर सकता है। यही तरीका Prompt Injection Attack कहलाता है।
AI चैटबॉट्स को गुमराह करने की चुनौती
पिछले कुछ समय में ऐसे कई उदाहरण सामने आए हैं, जहां AI सिस्टम्स से ऐसी जानकारी प्राप्त करने की कोशिश की गई जो उन्हें साझा नहीं करनी चाहिए थी। कई मामलों में चैटबॉट्स ने अपने सुरक्षा नियमों की अनदेखी करते हुए प्रतिक्रिया दी। इससे यह स्पष्ट होता है कि आधुनिक साइबर हमलों में केवल तकनीकी कमजोरियों ही नहीं, बल्कि AI के व्यवहार का भी इस्तेमाल किया जा रहा है।
ये भी पढ़ें: क्या इंसान बन जाएंगे AI के गुलाम? Google DeepMind CEO की चेतावनी ने बढ़ाई चिंता
ChatGPT का Lockdown Mode क्या करेगा?
Prompt Injection Attack जैसे जोखिमों को देखते हुए OpenAI ने ChatGPT के लिए नया Lockdown Mode पेश किया है। इस मोड के सक्रिय होने पर ChatGPT किसी भी बाहरी लिंक को एक्सेस नहीं करेगा और केवल उपलब्ध कैश्ड कंटेंट पर आधारित जानकारी देगा। इसके अलावा Deep Research, Agent Mode, लाइव वेब एक्सेस, लाइव कनेक्टर्स, शॉपिंग एजेंट और वित्तीय सेवाओं से जुड़े फीचर्स भी निष्क्रिय रहेंगे। इसका उद्देश्य संभावित प्रॉम्प्ट इंजेक्शन हमलों से अतिरिक्त सुरक्षा प्रदान करना है।
रायमीन, एक अनुभवी कंटेंट राइटर हैं, जिन्हें टेक्नोलॉजी और ऑटोमोबाइल विषयों पर लिखने का 3 वर्षों का अनुभव है। वह Hind 24 के साथ जुड़ी हुई हैं और पाठकों तक सटीक व उपयोगी जानकारी पहुंचाती हैं।
