AI यूजर्स सावधान ! माइक्रोसॉफ्ट इंजीनियर ने किया हैरान कर देने वाला दावा आर्टिफिशियल इंटेलिजेंस से आपत्तिजनक तस्वीरें बना रहा Copilot
इन दिनों चारो तरफ आर्टिफिशियल इंटेलिजेंस (AI) का बोलबाला है. इसक उपयोग ऑडियो, विजुअल, एक्सल जैसी तमाम चीजों में किया जा रहा है. खास इसका इस्तेमाल इन दिनों तस्वीरें बनाने में ज्यादा हो रहा है. इस बीच एक माइक्रोसॉफ्ट कर्मचारी ने
कोपायलट (Copilot) नाम की एआई इमेज जनरेटर टूल को लेकर दावा किया है. जिसके मुताबिक Copilot का इस्तेमाल सुरक्षित नहीं है.
इंजीनियर शेन जोन्स ने अमेरिका के फेडरल ट्रेड कमीशन को एक पत्र लिखा है. जिसमें उन्होंने इन कमियों के बारे में माइक्रोसॉफ्ट के मैनेजमेंट को बार-बार चेतावनी दी. लेकिन कोई कार्रवाई नहीं की गई. जोन्स ने अपने पत्र को लिंक्डइन पर पब्लिश किया. उन्होंने बताया कि कंपनी का प्रोडक्ट आपत्तिजनक इमेज बना रहा है. जो कस्टमर्स के लिए ठीक नहीं है.
मीडिया रिपोर्ट्स की मानें तो माइक्रोसॉफ्ट के एक प्रवक्ता ने इस बात से इनकार किया है कि कंपनी ने सेफ्टी इशूज को इग्नोर किया. कंपनी का दावा है कि उसके पास जेनरेटर एआई से संबंधित समस्याओं से निपटने के लिए पर्याप्त संसाधन हैं.
माइक्रोसॉफ्ट का कोपायलट डिजाइनर OpenAI के DALL-E 3 आर्टिफिशियल इंटेलिजेंस सिस्टम से चलने वाला टूल है. जो आप लिखते हैं उसके आधार पर ये इमेज बनाता है. जोन्स ने तर्क दिया कि कोपायलट डिजाइनर में आपत्तिजनक कंटेंट तैयार करने के पीछे सिस्टम की कुछ समस्याएं हैं. उन्होंने कंपनी से अनुरोध किया कि कमियां दूर होने तक लोगों को इसका इस्तेमाल ना करने दिया जाए.
जोन्स ने बताया कि टूल में अक्सर ऐसी इमेज बनती हैं जो महिलाओं को यौन रूप से आपत्तिजनक बनाती हैं. मीडिया रिपोर्ट्स के मुताबिक जोन्स ने बताया कि ‘कार एक्सीडेंट’ पर तस्वीर बनाने पर कोपायलट डिजाइनर ने कथित तौर पर “एक महिला की अनुचित, सेक्शुअल तौर पर आपत्तिजनक तस्वीर” तैयार की.
