Salt la conținut
Societate

OpenAI lansează un instrument AI pentru a detecta materialele cu abuzuri sexuale asupra copiilor și conținutul generat de AI

Turkey News Echipa editorială · · Timp de citire 8min de citit · Vizualizări 0 ·
Esențial — OpenAI a lansat un nou instrument de clasificare bazat pe AI, conceput pentru a detecta materialele de abuz sexual asupra copiilor, inclusiv conținutul generat de inteligența artificială. Instrumentul are ca scop prioritizarea conținutului abuziv pentru echipele de revizuire umană.

OpenAI a dezvoltat un nou instrument de clasificare bazat pe AI, conceput pentru a detecta materialele cu abuzuri sexuale asupra copiilor (CSAM), inclusiv imaginile generate de inteligența artificială. Instrumentul analizează indiciile vizuale pentru a identifica imaginile de abuz asupra copiilor nedetectate anterior și oferă scoruri pentru a prioritiza conținutul pentru echipele de revizuire umană. Această tehnologie își propune să eficientizeze identificarea materialelor ilegale și să asiste organizațiile de siguranță în eforturile lor de combatere a abuzului digital.

Dezvoltarea instrumentelor și rezultatele testării

Instrumentul a fost dezvoltat cu asistență din partea Centrului Național pentru Copii Dispăruți și Exploatați (NCMEC) cu sediul în Statele Unite ale Americii. Testele interne efectuate de OpenAI indică faptul că instrumentul poate reduce numărul de imagini marcate pentru revizuirea manuală cu 48%, fără a avea un impact semnificativ asupra capacităților de detectare. Această reducere a volumului de lucru manual permite echipelor de revizuire umană să se concentreze asupra celor mai critice cazuri identificate de sistem.

Testarea externă a validat și mai mult eficacitatea sistemului de clasificare. Testarea de către fal.ai a confirmat că 72% dintre imaginile semnalate ca fiind extrem de suspecte conțineau materiale abuzive neidentificate anterior. În plus, testele SafetyKit au arătat că instrumentul a identificat 90% din cazurile testate, care au inclus descrieri sexualizate ale copiilor în desene animate și animații. Aceste rezultate sugerează că instrumentul este capabil să detecteze forme complexe de abuz care pot ocoli metodele tradiționale de detectare.

Măsuri de siguranță și aplicare a OpenAI

OpenAI implementează noi măsuri de siguranță în cadrul ChatGPT pentru a preveni generarea și accesul conținutului ilegal. Compania introduce avertismente pentru utilizatorii care încearcă să acceseze conținut abuziv și va efectua eliminarea chat-urilor semnalizate. Aceste măsuri fac parte dintr-un efort mai amplu de a se asigura că modelele de IA generativă nu facilitează crearea sau distribuirea de materiale dăunătoare.

Compania a stabilit o politică strictă de aplicare pentru utilizatorii care încalcă aceste linii directoare de siguranță. Încălcările din ChatGPT vor duce la o suspendare de 24 de ore a accesului. Pentru utilizatorii care comit încălcări repetate, consecințele pot include restricții mai lungi, închiderea contului sau raportarea către autorități. Aceste acțiuni disciplinare sunt menite să descurajeze utilizarea AI pentru activități ilegale.

Suport și distribuție pentru dezvoltatori

Pentru a sprijini ecosistemul tehnologic mai larg, OpenAI lansează acest instrument gratuit pentru organizațiile verificate prin intermediul interfeței sale de programare a aplicațiilor (API). Acest lucru permite altor platforme și dezvoltatori să integreze capacități avansate de detectare în propriile sisteme. Prin furnizarea tehnologiei printr-un API, OpenAI își propune să creeze o metodă standardizată pentru identificarea și raportarea materialelor abuzive în diverse medii digitale.

În plus, OpenAI a publicat linii directoare pentru a ajuta dezvoltatorii în detectarea și raportarea materialelor abuzive. Aceste orientări oferă cadre tehnice și procedurale pentru a ajuta inginerii de software și operatorii de platforme să mențină standardele de siguranță. Inițiativa reprezintă un pas semnificativ în încercarea industriei de a gestiona riscurile asociate cu conținutul generat de AI și proliferarea materialelor digitale de abuz asupra copiilor.

Acest articol a fost redactat cu ajutorul AI, pe baza mai multor relatări din presă, și este revizuit de editorii noștri conform principiilor editoriale. Standarde editoriale · Sesizări și contact

Cum vi s-a părut acest articol?

Comentarii 0

Fiți primul care comentează

Contact

← Turkey News Acasă
Turkey News Primiți articolele noi pe e-mailAbonați-vă pentru a primi conținut nou pe e-mail. Vă puteți dezabona oricând.
V-a fost de folos?Distribuiți prietenilor și pe rețelele sociale