Az OpenAI elindít egy AI-eszközt a gyermekek szexuális bántalmazásának felderítésére
Az OpenAI kifejlesztett egy új, mesterséges intelligenciával működő osztályozási eszközt, amely a gyermekek szexuális bántalmazását ábrázoló anyagok (CSAM) észlelésére szolgál, beleértve a mesterséges intelligencia által generált képeket is. Az eszköz elemzi a vizuális jelzéseket, hogy azonosítsa a korábban nem észlelt gyermekbántalmazási képeket, és pontszámokat biztosít a tartalom rangsorolásához az emberi felülvizsgálati csapatok számára. Ennek a technológiának az a célja, hogy egyszerűsítse az illegális anyagok azonosítását, és segítse a biztonsági szervezeteket a digitális visszaélések elleni küzdelemben.
Szerszámfejlesztési és tesztelési eredmények
Az eszközt az Egyesült Államokban található National Center for Missing & Exploited Children (NCMEC) segítségével fejlesztették ki. Az OpenAI által végzett belső tesztelés azt jelzi, hogy az eszköz 48%-kal csökkentheti a kézi ellenőrzésre megjelölt képek számát anélkül, hogy jelentősen befolyásolná az észlelési képességeket. A kézi munkaterhelés csökkentése lehetővé teszi az emberi felülvizsgálati csapatok számára, hogy a rendszer által azonosított legkritikusabb esetekre összpontosítsanak.
A külső vizsgálatok tovább igazolták az osztályozási rendszer hatékonyságát. A fal.ai által végzett tesztelés megerősítette, hogy a rendkívül gyanúsként megjelölt képek 72%-a tartalmazott korábban azonosítatlan visszaélésszerű anyagokat. Ezenkívül a SafetyKit tesztek kimutatták, hogy az eszköz a tesztelt esetek 90% -át azonosította, amely magában foglalta a gyermekek szexualizált leírását rajzfilmekben és animációkban. Ezek az eredmények azt sugallják, hogy az eszköz képes felismerni a visszaélések összetett formáit, amelyek megkerülhetik a hagyományos észlelési módszereket.
OpenAI biztonsági intézkedések és végrehajtás
Az OpenAI új biztonsági intézkedéseket vezet be az ChatGPT-n belül, hogy megakadályozza az illegális tartalmak létrehozását és elérését. A vállalat figyelmeztetéseket vezet be a visszaélésszerű tartalmakhoz való hozzáférésre törekvő felhasználók számára, és elvégzi a megjelölt csevegések eltávolítását. Ezek az intézkedések annak a szélesebb körű erőfeszítésnek a részét képezik, amely biztosítja, hogy a generatív mesterséges intelligencia-modellek ne könnyítsék meg a káros anyagok létrehozását vagy terjesztését.
A vállalat szigorú végrehajtási politikát vezetett be azon felhasználók számára, akik megsértik ezeket a biztonsági irányelveket. Az ChatGPT megsértése a hozzáférés 24 órás felfüggesztését vonja maga után. Az ismételt jogsértéseket elkövető felhasználók esetében a következmények hosszabb korlátozásokat, fiókbezárást vagy a hatóságoknak való jelentéstételt foglalhatnak magukban. Ezek a fegyelmi intézkedések célja, hogy visszatartsák a mesterséges intelligenciát az illegális tevékenységektől.
Fejlesztői támogatás és terjesztés
A szélesebb technológiai ökoszisztéma támogatása érdekében az OpenAI ingyenesen kiadja ezt az eszközt az ellenőrzött szervezetek számára az alkalmazásprogramozási felületén (API) keresztül. Ez lehetővé teszi más platformok és fejlesztők számára, hogy fejlett észlelési képességeket integráljanak saját rendszereikbe. A technológia API-n keresztül történő biztosításával az OpenAI célja, hogy szabványosított módszert hozzon létre a visszaélésszerű anyagok azonosítására és jelentésére a különböző digitális környezetekben.
Ezenkívül az OpenAI irányelveket tett közzé, amelyek segítik a fejlesztőket a visszaélésszerű anyagok észlelésében és jelentésében. Ezek az irányelvek technikai és eljárási kereteket biztosítanak a szoftvermérnökök és a platformüzemeltetők számára a biztonsági előírások fenntartásához. A kezdeményezés jelentős lépést jelent az iparág azon törekvésében, hogy kezelje a mesterséges intelligencia által generált tartalmakkal és a digitális gyermekbántalmazási anyagok elterjedésével kapcsolatos kockázatokat.
Ez a cikk több hírforrás alapján, mesterséges intelligencia segítségével készült, és szerkesztőségünk a szerkesztési elveink szerint ellenőrzi. Szerkesztői elvek · Hírtipp és kapcsolat
Hozzászólások 0