குழந்தை பாலியல் துஷ்பிரயோக பொருள் மற்றும் AI-உருவாக்கிய உள்ளடக்கத்தைக் கண்டறிய ஓபின்ஏஐ ஒரு AI கருவியை அறிமுகப்படுத்துகிறது
செயற்கை நுண்ணறிவால் உருவாக்கப்பட்ட படங்கள் உட்பட குழந்தை பாலியல் துஷ்பிரயோகப் பொருளை (CSAM) கண்டறிய வடிவமைக்கப்பட்ட புதிய AI-இயங்கும் வகைப்பாடு கருவியை ஓபின்ஏஐ உருவாக்கியுள்ளது. கருவி முன்னர் கண்டறியப்படாத குழந்தை துஷ்பிரயோக படங்களை அடையாளம் காண காட்சி குறிப்புகளை பகுப்பாய்வு செய்கிறது மற்றும் மனித மறுஆய்வுக் குழுக்களுக்கான உள்ளடக்கத்திற்கு முன்னுரிமை அளிப்பதற்கான மதிப்பெண்களை வழங்குகிறது. இந்த தொழில்நுட்பம் சட்டவிரோத பொருட்களை அடையாளம் காண்பதை ஒழுங்குபடுத்துவதையும், டிஜிட்டல் துஷ்பிரயோகத்தை எதிர்த்துப் போராடுவதற்கான முயற்சிகளில் பாதுகாப்பு அமைப்புகளுக்கு உதவுவதையும் நோக்கமாகக் கொண்டுள்ளது.
கருவி மேம்பாடு மற்றும் சோதனை முடிவுகள்
அமெரிக்காவை தளமாகக் கொண்ட காணாமல் போன மற்றும் சுரண்டப்பட்ட குழந்தைகளுக்கான தேசிய மையத்தின் (என். சி. எம். இ. சி) உதவியுடன் இந்த கருவி உருவாக்கப்பட்டது. ஓபின்ஏஐ ஆல் நடத்தப்பட்ட உள் சோதிப்பு கருவி கண்டறிதல் திறன்களை கணிசமாக பாதிக்காமல் கையேடு மதிப்பாய்விற்காக கொடியிடப்பட்ட படங்களின் எண்ணிக்கையை 48% குறைக்க முடியும் என்பதைக் குறிக்கிறது. கையேடு பணிச்சுமையின் இந்த குறைப்பு மனித மறுஆய்வுக் குழுக்களை அமைப்பால் அடையாளம் காணப்பட்ட மிக முக்கியமான நிகழ்வுகளில் கவனம் செலுத்த அனுமதிக்கிறது.
வெளிப்புற சோதனை வகைப்படுத்தல் அமைப்பின் செயல்திறனை மேலும் உறுதிப்படுத்தியுள்ளது. 72% படங்கள் மிகவும் சந்தேகத்திற்கிடமானதாகக் கொடியிடப்பட்டவை முன்னர் அடையாளம் தெரியாத தவறான பொருளைக் கொண்டிருந்தன என்பதை fal.ai இன் சோதனை உறுதிப்படுத்தியது. கூடுதலாக, சேஃப்டி கிட் சோதனைகள் கருவி 90% சோதிக்கப்பட்ட வழக்குகளை அடையாளம் கண்டிருப்பதைக் காட்டியது, இதில் கார்ட்டூன்கள் மற்றும் அனிமேஷன்களில் குழந்தைகளின் பாலியல் விளக்கங்கள் அடங்கும். இந்த முடிவுகள் கருவி பாரம்பரிய கண்டறிதல் முறைகளைத் தவிர்க்கக்கூடிய சிக்கலான துஷ்பிரயோக வடிவங்களைக் கண்டறியும் திறன் கொண்டது என்று கூறுகின்றன.
ஓபின்ஏஐ பாதுகாப்பு நடவடிக்கைகள் மற்றும் அமலாக்கம்
சட்டவிரோத உள்ளடக்கத்தின் உருவாக்கம் மற்றும் அணுகலைத் தடுக்க ஓபின்ஏஐ ChatGPT க்குள் புதிய பாதுகாப்பு நடவடிக்கைகளை செயல்படுத்துகிறது. தவறான உள்ளடக்கத்தை அணுக முயற்சிக்கும் பயனர்களுக்கு நிறுவனம் எச்சரிக்கைகளை அறிமுகப்படுத்துகிறது மற்றும் கொடியிடப்பட்ட அரட்டைகளை அகற்றும். இந்த நடவடிக்கைகள் ஜெனரேட்டிவ் AI மாதிரிகள் தீங்கு விளைவிக்கும் பொருட்களின் உருவாக்கம் அல்லது விநியோகத்தை எளிதாக்காது என்பதை உறுதி செய்வதற்கான பரந்த முயற்சியின் ஒரு பகுதியாகும்.
இந்த பாதுகாப்பு வழிகாட்டுதல்களை மீறும் பயனர்களுக்காக நிறுவனம் கடுமையான அமலாக்கக் கொள்கையை நிறுவியுள்ளது. ChatGPT இல் மீறல்கள் 24 மணி நேர அணுகலை இடைநிறுத்தும். தொடர்ச்சியான மீறல்களைச் செய்யும் பயனர்களுக்கு, இதன் விளைவுகளில் நீண்ட கட்டுப்பாடுகள், கணக்கு மூடல் அல்லது அதிகாரிகளிடம் புகாரளித்தல் ஆகியவை அடங்கும். இந்த ஒழுங்கு நடவடிக்கைகள் சட்டவிரோத நடவடிக்கைகளுக்கு AI ஐப் பயன்படுத்துவதைத் தடுக்கும் நோக்கம் கொண்டவை.
டெவலப்பர் ஆதரவு மற்றும் விநியோகம்
பரந்த தொழில்நுட்ப சுற்றுச்சூழல் அமைப்பை ஆதரிப்பதற்காக, ஓபின்ஏஐ இந்த கருவியை அதன் பயன்பாட்டு நிரலாக்க இடைமுகம் (API) வழியாக சரிபார்க்கப்பட்ட நிறுவனங்களுக்கு இலவசமாக வெளியிடுகிறது. இது மற்ற தளங்கள் மற்றும் டெவலப்பர்கள் மேம்பட்ட கண்டறிதல் திறன்களை தங்கள் சொந்த அமைப்புகளில் ஒருங்கிணைக்க அனுமதிக்கிறது. ஒரு ஏபிஐ மூலம் தொழில்நுட்பத்தை வழங்குவதன் மூலம், பல்வேறு டிஜிட்டல் சூழல்களில் தவறான விஷயங்களை அடையாளம் கண்டு புகாரளிப்பதற்கான தரப்படுத்தப்பட்ட முறையை உருவாக்குவதை ஓபின்ஏஐ நோக்கமாகக் கொண்டுள்ளது.
மேலும், தவறான பொருளைக் கண்டறிந்து புகாரளிப்பதில் டெவலப்பர்களுக்கு உதவும் வழிகாட்டுதல்களை ஓபின்ஏஐ வெளியிட்டுள்ளது. இந்த வழிகாட்டுதல்கள் மென்பொருள் பொறியாளர்கள் மற்றும் இயங்குதள ஆபரேட்டர்கள் பாதுகாப்புத் தரங்களைப் பராமரிக்க உதவும் தொழில்நுட்ப மற்றும் நடைமுறை கட்டமைப்புகளை வழங்குகின்றன. AI-உருவாக்கிய உள்ளடக்கத்துடன் தொடர்புடைய அபாயங்களை நிர்வகிப்பதற்கான தொழில்துறையின் முயற்சி மற்றும் டிஜிட்டல் சிறுவர் துஷ்பிரயோகப் பொருட்களின் பெருக்கம் ஆகியவற்றில் இந்த முயற்சி ஒரு குறிப்பிடத்தக்க படியைக் குறிக்கிறது.
இந்தக் கட்டுரை பல செய்தி அறிக்கைகளின் அடிப்படையில் AI உதவியுடன் எழுதப்பட்டு, எங்கள் ஆசிரியர் கொள்கைகளின்படி ஆசிரியர்களால் மதிப்பாய்வு செய்யப்படுகிறது. செய்தி நெறிமுறைகள் · செய்தித் தகவல் & தொடர்பு
கருத்துகள் 0