ओपनएआयने बाल लैंगिक शोषण सामग्री आणि एआय-निर्मित सामग्री शोधण्यासाठी एआय साधन सुरू केले
ओपनएआयने कृत्रिम बुद्धिमत्तेद्वारे तयार केलेल्या प्रतिमांसह बाल लैंगिक शोषण सामग्री (सीएसएएम) शोधण्यासाठी तयार केलेले एक नवीन एआय-संचालित वर्गीकरण साधन विकसित केले आहे. हे साधन पूर्वी न सापडलेल्या बाल शोषण प्रतिमा ओळखण्यासाठी दृश्य संकेतांचे विश्लेषण करते आणि मानवी पुनरावलोकन संघांसाठी सामग्रीला प्राधान्य देण्यासाठी गुण प्रदान करते. या तंत्रज्ञानाचा उद्देश बेकायदेशीर सामग्रीची ओळख सुव्यवस्थित करणे आणि डिजिटल दुरुपयोगाचा सामना करण्याच्या त्यांच्या प्रयत्नांमध्ये सुरक्षा संस्थांना मदत करणे हा आहे.
साधन विकास आणि चाचणीचे परिणाम
अमेरिकेतील नॅशनल सेंटर फॉर मिसिंग अँड एक्सप्लॉइटेड चिल्ड्रन (एन. सी. एम. ई. सी.) च्या मदतीने हे साधन विकसित करण्यात आले होते. ओपनएआयने केलेल्या अंतर्गत चाचणीवरून असे सूचित होते की हे साधन शोध क्षमतेवर लक्षणीय परिणाम न करता हाताने पुनरावलोकनासाठी चिन्हांकित केलेल्या प्रतिमांची संख्या 48 टक्क्यांनी कमी करू शकते. हाताने काम करण्याच्या ओघातील ही घट मानवी पुनरावलोकन संघांना प्रणालीद्वारे ओळखल्या गेलेल्या सर्वात गंभीर प्रकरणांवर लक्ष केंद्रित करण्यास अनुमती देते.
बाह्य चाचणीने वर्गीकरण प्रणालीची परिणामकारकता आणखी प्रमाणित केली आहे. fal.ai ने केलेल्या चाचणीने पुष्टी केली की अत्यंत संशयास्पद म्हणून चिन्हांकित केलेल्या 72 टक्के प्रतिमांमध्ये पूर्वी अज्ञात अपमानास्पद सामग्री होती. याव्यतिरिक्त, सेफ्टीकिट चाचण्यांमध्ये असे दिसून आले की या साधनाने चाचणी केलेल्या 90 टक्के प्रकरणांची ओळख पटवली, ज्यात व्यंगचित्रे आणि एनिमेशनमधील मुलांचे लैंगिक वर्णन समाविष्ट होते. हे परिणाम सूचित करतात की हे साधन दुरुपयोगाचे गुंतागुंतीचे प्रकार शोधण्यात सक्षम आहे जे पारंपारिक शोध पद्धतींना मागे टाकू शकतात.
ओपनएआय सुरक्षा उपाययोजना आणि अंमलबजावणी
बेकायदेशीर सामग्रीची निर्मिती आणि प्रवेश रोखण्यासाठी ओपनएआय चॅटजीपीटीमध्ये नवीन सुरक्षा उपायांची अंमलबजावणी करत आहे. कंपनी अपमानास्पद सामग्रीमध्ये प्रवेश करण्याचा प्रयत्न करणाऱ्या वापरकर्त्यांसाठी चेतावणी देत आहे आणि ध्वजांकित चॅट काढून टाकेल. हे उपाय उत्पादक ए. आय. मॉडेल्स हानिकारक सामग्रीची निर्मिती किंवा वितरण सुलभ करणार नाहीत याची खात्री करण्यासाठी व्यापक प्रयत्नांचा एक भाग आहेत.
या सुरक्षा मार्गदर्शक तत्त्वांचे उल्लंघन करणाऱ्या वापरकर्त्यांसाठी कंपनीने कठोर अंमलबजावणी धोरण स्थापित केले आहे. चॅटजी. पी. टी. मधील उल्लंघनांमुळे प्रवेश 24 तास स्थगित होईल. वारंवार उल्लंघन करणाऱ्या वापरकर्त्यांसाठी, परिणामांमध्ये दीर्घ निर्बंध, खाते बंद करणे किंवा अधिकाऱ्यांना अहवाल देणे यांचा समावेश असू शकतो. या शिस्तभंगाच्या कारवाईचा उद्देश बेकायदेशीर कामांसाठी ए. आय. चा वापर रोखणे हा आहे.
विकासक समर्थन आणि वितरण
व्यापक तंत्रज्ञान परिसंस्थेला पाठबळ देण्यासाठी, ओपनएआय हे साधन त्याच्या ऍप्लिकेशन प्रोग्रामिंग इंटरफेसद्वारे (एपीआय) सत्यापित संस्थांसाठी विनामूल्य सोडत आहे. यामुळे इतर प्लॅटफॉर्म आणि विकसकांना त्यांच्या स्वतःच्या प्रणालींमध्ये प्रगत शोध क्षमता समाकलित करता येतात. ए. पी. आय. च्या माध्यमातून तंत्रज्ञान उपलब्ध करून देऊन, विविध डिजिटल वातावरणात अपमानास्पद साहित्य ओळखण्यासाठी आणि अहवाल देण्यासाठी एक प्रमाणित पद्धत तयार करणे हे ओपनएआयचे उद्दिष्ट आहे.
याव्यतिरिक्त, ओपनएआयने विकसकांना अपमानास्पद सामग्री शोधण्यात आणि तक्रार करण्यात मदत करण्यासाठी मार्गदर्शक तत्त्वे प्रकाशित केली आहेत. ही मार्गदर्शक तत्त्वे सॉफ्टवेअर अभियंते आणि प्लॅटफॉर्म ऑपरेटरना सुरक्षा मानके राखण्यास मदत करण्यासाठी तांत्रिक आणि प्रक्रियात्मक चौकट प्रदान करतात. ए. आय.-व्युत्पन्न सामग्रीशी संबंधित जोखीम आणि डिजिटल बाल शोषण सामग्रीच्या प्रसाराशी संबंधित जोखीम व्यवस्थापित करण्याच्या उद्योगाच्या प्रयत्नांमधील हे एक महत्त्वपूर्ण पाऊल आहे.
हा लेख अनेक वृत्त अहवालांच्या आधारे AI च्या साहाय्याने लिहिला आहे आणि आमच्या संपादकीय तत्त्वांनुसार संपादकांकडून तपासला जातो. संपादकीय मानके · बातमी सुचवा व संपर्क
टिप्पण्या 0