Ugrás a tartalomhoz
Társadalom

Az OpenAI elindít egy AI-eszközt a gyermekek szexuális bántalmazásának felderítésére

Turkey News Szerkesztőség · · Olvasási idő 8perc · Megtekintés 0 ·
Lényeg — Az OpenAI új, mesterséges intelligenciával működő osztályozási eszközt adott ki, amely a gyermekek szexuális bántalmazását észleli, beleértve a mesterséges intelligencia által generált tartalmakat is. Az eszköz célja, hogy előnyben részesítse a visszaélésszerű tartalmat az emberi felülvizsgálati csapatok számára.

Az OpenAI kifejlesztett egy új, mesterséges intelligenciával működő osztályozási eszközt, amely a gyermekek szexuális bántalmazását ábrázoló anyagok (CSAM) észlelésére szolgál, beleértve a mesterséges intelligencia által generált képeket is. Az eszköz elemzi a vizuális jelzéseket, hogy azonosítsa a korábban nem észlelt gyermekbántalmazási képeket, és pontszámokat biztosít a tartalom rangsorolásához az emberi felülvizsgálati csapatok számára. Ennek a technológiának az a célja, hogy egyszerűsítse az illegális anyagok azonosítását, és segítse a biztonsági szervezeteket a digitális visszaélések elleni küzdelemben.

Szerszámfejlesztési és tesztelési eredmények

Az eszközt az Egyesült Államokban található National Center for Missing & Exploited Children (NCMEC) segítségével fejlesztették ki. Az OpenAI által végzett belső tesztelés azt jelzi, hogy az eszköz 48%-kal csökkentheti a kézi ellenőrzésre megjelölt képek számát anélkül, hogy jelentősen befolyásolná az észlelési képességeket. A kézi munkaterhelés csökkentése lehetővé teszi az emberi felülvizsgálati csapatok számára, hogy a rendszer által azonosított legkritikusabb esetekre összpontosítsanak.

A külső vizsgálatok tovább igazolták az osztályozási rendszer hatékonyságát. A fal.ai által végzett tesztelés megerősítette, hogy a rendkívül gyanúsként megjelölt képek 72%-a tartalmazott korábban azonosítatlan visszaélésszerű anyagokat. Ezenkívül a SafetyKit tesztek kimutatták, hogy az eszköz a tesztelt esetek 90% -át azonosította, amely magában foglalta a gyermekek szexualizált leírását rajzfilmekben és animációkban. Ezek az eredmények azt sugallják, hogy az eszköz képes felismerni a visszaélések összetett formáit, amelyek megkerülhetik a hagyományos észlelési módszereket.

OpenAI biztonsági intézkedések és végrehajtás

Az OpenAI új biztonsági intézkedéseket vezet be az ChatGPT-n belül, hogy megakadályozza az illegális tartalmak létrehozását és elérését. A vállalat figyelmeztetéseket vezet be a visszaélésszerű tartalmakhoz való hozzáférésre törekvő felhasználók számára, és elvégzi a megjelölt csevegések eltávolítását. Ezek az intézkedések annak a szélesebb körű erőfeszítésnek a részét képezik, amely biztosítja, hogy a generatív mesterséges intelligencia-modellek ne könnyítsék meg a káros anyagok létrehozását vagy terjesztését.

A vállalat szigorú végrehajtási politikát vezetett be azon felhasználók számára, akik megsértik ezeket a biztonsági irányelveket. Az ChatGPT megsértése a hozzáférés 24 órás felfüggesztését vonja maga után. Az ismételt jogsértéseket elkövető felhasználók esetében a következmények hosszabb korlátozásokat, fiókbezárást vagy a hatóságoknak való jelentéstételt foglalhatnak magukban. Ezek a fegyelmi intézkedések célja, hogy visszatartsák a mesterséges intelligenciát az illegális tevékenységektől.

Fejlesztői támogatás és terjesztés

A szélesebb technológiai ökoszisztéma támogatása érdekében az OpenAI ingyenesen kiadja ezt az eszközt az ellenőrzött szervezetek számára az alkalmazásprogramozási felületén (API) keresztül. Ez lehetővé teszi más platformok és fejlesztők számára, hogy fejlett észlelési képességeket integráljanak saját rendszereikbe. A technológia API-n keresztül történő biztosításával az OpenAI célja, hogy szabványosított módszert hozzon létre a visszaélésszerű anyagok azonosítására és jelentésére a különböző digitális környezetekben.

Ezenkívül az OpenAI irányelveket tett közzé, amelyek segítik a fejlesztőket a visszaélésszerű anyagok észlelésében és jelentésében. Ezek az irányelvek technikai és eljárási kereteket biztosítanak a szoftvermérnökök és a platformüzemeltetők számára a biztonsági előírások fenntartásához. A kezdeményezés jelentős lépést jelent az iparág azon törekvésében, hogy kezelje a mesterséges intelligencia által generált tartalmakkal és a digitális gyermekbántalmazási anyagok elterjedésével kapcsolatos kockázatokat.

Ez a cikk több hírforrás alapján, mesterséges intelligencia segítségével készült, és szerkesztőségünk a szerkesztési elveink szerint ellenőrzi. Szerkesztői elvek · Hírtipp és kapcsolat

Hogyan tetszett ez a bejegyzés?

Hozzászólások 0

Legyen Ön az első hozzászóló

Kapcsolatfelvétel

← Turkey News Kezdőlap
Turkey News Új bejegyzések e-mailbenIratkozzon fel, és az új tartalmakat e-mailben megkapja. Bármikor leiratkozhat.
Hasznos volt?Ossza meg barátaival és a közösségi médiában