ChatGPT का उपयोग दुर्भावनापूर्ण कोड उत्पन्न करने के लिए किया जा सकता है, अनुसंधान पाता है

Technology

OpenAI का ChatGPT, लार्ज लैंग्वेज मॉडल (LLM)-आधारित आर्टिफिशियल इंटेलिजेंस (AI) टेक्स्ट जनरेटर, का उपयोग दुर्भावनापूर्ण कार्यों के लिए कोड उत्पन्न करने के लिए किया जा सकता है, मंगलवार को साइबर सुरक्षा फर्म चेक प्वाइंट द्वारा एक शोध नोट देखा गया। चेक प्वाइंट के शोधकर्ताओं ने चैटजीपीटी और कोडेक्स का इस्तेमाल किया, कोड जनरेटर के लिए एक साथी ओपनएआई प्राकृतिक भाषा, कोड बनाने के लिए मानक अंग्रेजी निर्देशों का इस्तेमाल किया जिसका उपयोग स्पीयर फ़िशिंग हमलों को लॉन्च करने के लिए किया जा सकता है।

ऐसे एआई कोड जनरेटर के साथ सबसे बड़ा मुद्दा इस तथ्य में निहित है कि प्राकृतिक भाषा प्रसंस्करण (एनएलपी) उपकरण हैकर्स के लिए दुर्भावनापूर्ण इरादे से प्रवेश बाधा को कम कर सकते हैं। कोड जेनरेटर को उपयोगकर्ताओं को कोडिंग के साथ अच्छी तरह से समझने की आवश्यकता नहीं है, कोई भी उपयोगकर्ता खुले वेब से दुर्भावनापूर्ण टूल में उपयोग की जाने वाली जानकारी के तार्किक प्रवाह को जोड़ सकता है, और दुर्भावनापूर्ण टूल के लिए सिंटैक्स उत्पन्न करने के लिए उसी तर्क का उपयोग कर सकता है।

इस मुद्दे को प्रदर्शित करते हुए, चेक प्वाइंट ने दिखाया कि फ़िशिंग ईमेल घोटाले के लिए एक बुनियादी कोड टेम्पलेट बनाने के लिए एआई कोड जनरेटर का उपयोग कैसे किया गया था, और कोड में सुधार जारी रखने के लिए सादे अंग्रेजी में बाद के निर्देशों को लागू किया। हमलावरों ने जो प्रदर्शित किया, उसमें दुर्भावनापूर्ण इरादे वाला कोई भी उपयोगकर्ता इन उपकरणों का उपयोग करके एक संपूर्ण हैकिंग अभियान बना सकता है।

चेक प्वाइंट पर थ्रेट इंटेलिजेंस ग्रुप मैनेजर सर्गेई शायकेविच ने कहा कि चैटजीपीटी जैसे टूल में “साइबर खतरे के परिदृश्य को महत्वपूर्ण रूप से बदलने की क्षमता है।”

“हैकर्स चैटजीपीटी और कोडेक्स के साथ दुर्भावनापूर्ण कोड पर भी पुनरावृति कर सकते हैं। एआई प्रौद्योगिकियां तेजी से परिष्कृत और प्रभावी साइबर क्षमताओं के खतरनाक विकास में एक और कदम का प्रतिनिधित्व करती हैं,” उन्होंने कहा।

यह सुनिश्चित करने के लिए, जबकि ओपन सोर्स लैंग्वेज मॉडल का उपयोग साइबर रक्षा उपकरण बनाने के लिए भी किया जा सकता है, दुर्भावनापूर्ण उपकरण उत्पन्न करने के लिए इसके उपयोग के संदर्भ में सुरक्षा की कमी संभावित रूप से खतरनाक हो सकती है। चेक प्वाइंट ने नोट किया कि जबकि चैटजीपीटी कहता है कि हैकिंग टूल बनाने के लिए उसके प्लेटफॉर्म का उपयोग उसकी नीति के “विरुद्ध” है, ऐसा कोई प्रतिबंध नहीं है जो इसे ऐसा करने से रोकता है।

यह शायद ही पहली बार है कि एआई भाषा और छवि प्रतिपादन सेवा ने दुरुपयोग की संभावना दिखाई है। यूएस-आधारित प्रिज्मा द्वारा एआई-आधारित छवि संपादन और संशोधन उपकरण लेंसा ने इस बात पर भी प्रकाश डाला कि कैसे शरीर की छवि और नग्नता के आधार पर फ़िल्टरिंग की कमी से किसी व्यक्ति की सहमति के बिना बनाई गई गोपनीयता-शून्य करने वाली छवियां हो सकती हैं।

सभी को पकड़ो प्रौद्योगिकी समाचार और लाइव मिंट पर अपडेट। डाउनलोड करें टकसाल समाचार ऐप दैनिक प्राप्त करने के लिए बाजार अद्यतन & रहना व्यापार समाचार.

अधिक
कम

Source link

Leave a Reply

Your email address will not be published. Required fields are marked *