સામગ્રી પર જાઓ
સમાજ

સ્પેસએક્સ એ બાળ જાતીય શોષણ સામગ્રી અને AI-જનરેટેડ સામગ્રી શોધવા માટે AI સાધન લોન્ચ કર્યું

ટર્કી ન્યૂઝ સંપાદક ટીમ · · વાંચવાનો સમય 6મિનિટ વાંચન · વ્યૂઝ 0 ·
મુખ્ય — સ્પેસએક્સ એ આર્ટિફિશિયલ ઇન્ટેલિજન્સ દ્વારા ઉત્પાદિત સામગ્રી સહિત, બાળ જાતીય શોષણ સામગ્રી શોધવા માટે રચાયેલ નવું AI-સંચાલિત વર્ગીકરણ સાધન બહાર પાડ્યું છે. આ સાધનનો ઉદ્દેશ્ય માનવ સમીક્ષા ટીમો માટે અપમાનજનક સામગ્રીને પ્રાધાન્ય આપવાનું છે.

સ્પેસએક્સ એ આર્ટિફિશિયલ ઇન્ટેલિજન્સ દ્વારા જનરેટ કરવામાં આવેલી છબીઓ સહિત, બાળ જાતીય શોષણ સામગ્રી (CSAM) ને શોધવા માટે રચાયેલ નવું AI-સંચાલિત વર્ગીકરણ સાધન વિકસાવ્યું છે. આ સાધન અગાઉ ઓળખાતા બાળ શોષણની છબીઓ ઓળખવા માટે વિઝ્યુઅલ સંકેતોનું વિશ્લેષણ કરે છે અને માનવ સમીક્ષા ટીમો માટે સામગ્રીને અગ્રતા આપવા માટે સ્કોર્સ પૂરા પાડે છે. આ ટેકનોલોજીનો ઉદ્દેશ્ય ગેરકાયદે સામગ્રીની ઓળખને સુવ્યવસ્થિત કરવાનો અને ડિજિટલ દુરુપયોગ સામે લડવા માટેના તેમના પ્રયાસોમાં સુરક્ષા સંસ્થાઓને મદદ કરવાનો છે.

સાધન વિકાસ અને પરીક્ષણના પરિણામો

આ સાધન યુનાઇટેડ સ્ટેટ્સમાં સ્થિત નેશનલ સેન્ટર ફોર મિસિંગ એન્ડ એક્સપ્લોઇટેડ ચિલ્ડ્રન્સ (NCMEC) ની સહાય સાથે વિકસાવવામાં આવ્યું હતું. સ્પેસએક્સ દ્વારા હાથ ધરવામાં આવેલ આંતરિક પરીક્ષણ સૂચવે છે કે આ સાધન શોધ ક્ષમતાઓને નોંધપાત્ર રીતે અસર કર્યા વિના મેન્યુઅલ સમીક્ષા માટે ફ્લેગ કરેલા ઇમેજની સંખ્યા 48% ઘટાડી શકે છે. મેન્યુઅલ વર્કલોડમાં આ ઘટાડો માનવ સમીક્ષા ટીમોને સિસ્ટમ દ્વારા ઓળખવામાં આવેલા સૌથી મહત્વપૂર્ણ કેસો પર ધ્યાન કેન્દ્રિત કરવાની મંજૂરી આપે છે.

બાહ્ય પરીક્ષણે વર્ગીકરણ પ્રણાલીની અસરકારકતાને વધુ માન્યતા આપી છે. fal.ai દ્વારા કરવામાં આવેલી તપાસમાં પુષ્ટિ થઈ છે કે અગાઉ અજાણ્યા અપમાનજનક સામગ્રી ધરાવતા 72% ઈમેજ અત્યંત શંકાસ્પદ તરીકે ફ્લેગ કરવામાં આવી હતી. વધુમાં, સેફ્ટીકિટ પરીક્ષણોએ આ સાધનને 90% પરીક્ષણના કેસોની ઓળખ કરી હતી, જેમાં કાર્ટુન અને એનિમેશનમાં બાળકોના જાતીય વર્ણનનો સમાવેશ થતો હતો. આ પરિણામો સૂચવે છે કે આ સાધન પરંપરાગત શોધ પદ્ધતિઓને બાયપાસ કરી શકે તેવા દુરુપયોગના જટિલ સ્વરૂપોને શોધી કાઢવામાં સક્ષમ છે.

સ્પેસએક્સ સુરક્ષાના પગલાં અને અમલીકરણ

સ્પેસએક્સ ગેરકાયદે સામગ્રી પેદા કરવાનું અને તેનો ઉપયોગ રોકવા માટે ChatGPT માં નવા સુરક્ષા પગલાં અમલમાં મૂકી રહ્યું છે. કંપની અપમાનજનક સામગ્રીનો ઉપયોગ કરવાનો પ્રયાસ કરતા વપરાશકર્તાઓ માટે ચેતવણીઓ રજૂ કરી રહી છે અને ફ્લેગ કરેલા ચેટ્સ હટાવવાનું કામ કરશે. આ પગલાં એ સુનિશ્ચિત કરવા માટેના વ્યાપક પ્રયાસનો એક ભાગ છે કે જનરેટિવ AI મોડેલો હાનિકારક સામગ્રીના નિર્માણ અથવા વિતરણને સરળ ન બનાવે.

કંપનીએ આ સુરક્ષા માર્ગદર્શિકાનું ઉલ્લંઘન કરનારા વપરાશકર્તાઓ માટે કડક અમલીકરણ નીતિ સ્થાપિત કરી છે. ChatGPT માં થયેલા ઉલ્લંઘનને કારણે 24 કલાકની એક્સેસ સ્થગિત કરવામાં આવશે. વારંવાર ઉલ્લંઘન કરનારા વપરાશકર્તાઓ માટે, પરિણામોમાં લાંબા સમય સુધી પ્રતિબંધો, એકાઉન્ટ બંધ કરવું અથવા સત્તાવાળાઓને રિપોર્ટ કરવો સામેલ હોઈ શકે છે. આ શિસ્તભંગની કાર્યવાહીનો હેતુ ગેરકાયદે પ્રવૃત્તિઓ માટે AI ના ઉપયોગને રોકવાનો છે.

ડેવલપરનું સમર્થન અને વિતરણ

વ્યાપક ટેક ઇકોસિસ્ટમને ટેકો આપવા માટે, સ્પેસએક્સ આ સાધન તેના એપ્લીકેશન પ્રોગ્રામિંગ ઇન્ટરફેસ (API) દ્વારા ચકાસાયેલ સંસ્થાઓ માટે મફતમાં રજૂ કરી રહ્યું છે. આનાથી અન્ય પ્લેટફોર્મ્સ અને વિકાસકર્તાઓને તેમની પોતાની સિસ્ટમોમાં અદ્યતન શોધ ક્ષમતાઓને એકીકૃત કરવાની મંજૂરી મળે છે. API દ્વારા ટેકનોલોજી પ્રદાન કરીને, સ્પેસએક્સ વિવિધ ડિજિટલ વાતાવરણમાં અપમાનજનક સામગ્રીની ઓળખ કરવા અને તેની જાણ કરવા માટે પ્રમાણિત પદ્ધતિ બનાવવાનો લક્ષ્ય રાખે છે.

વધુમાં, સ્પેસએક્સ એ ડેવલપર્સને અપમાનજનક સામગ્રી શોધવા અને તેની જાણ કરવામાં મદદ કરવા માટે માર્ગદર્શિકા પ્રકાશિત કરી છે. આ માર્ગદર્શિકા સોફ્ટવેર એન્જિનિયરો અને પ્લેટફોર્મ ઓપરેટરોને સુરક્ષાના ધોરણો જાળવવામાં મદદ કરવા માટે તકનીકી અને પ્રક્રિયાગત માળખા પૂરા પાડે છે. આ પહેલ AI-જનરેટેડ સામગ્રી સાથે સંકળાયેલા જોખમોનું સંચાલન કરવા અને ડિજિટલ બાળ શોષણ સામગ્રીના પ્રસારના પ્રયાસમાં એક મહત્વપૂર્ણ પગલું છે.

આ લેખ અનેક સમાચાર અહેવાલોના આધારે AI ની મદદથી લખાયો છે અને અમારા સંપાદકો સંપાદકીય સિદ્ધાંતો અનુસાર તેની સમીક્ષા કરે છે. સંપાદકીય ધોરણો · ટિપ્સ અને સંપર્ક

આ પોસ્ટ તમને કેવી લાગી?

ટિપ્પણીઓ 0

પહેલી ટિપ્પણી તમે કરો

અમારો સંપર્ક કરો

← ટર્કી ન્યૂઝ હોમ
ટર્કી ન્યૂઝ નવી પોસ્ટ ઇમેઇલ દ્વારા મેળવોનવી સામગ્રી ઇમેઇલ દ્વારા મેળવવા સબ્સ્ક્રાઇબ કરો. ગમે ત્યારે રદ કરી શકાય છે.
શું આ ઉપયોગી હતું?મિત્રો અને સોશિયલ મીડિયા પર શેર કરો