Пређи на садржај
Друштво

OpenAI покреће АИ алат за откривање материјала за сексуално злостављање деце и садржаја генерисаног вештачком интелигенцијом

Вести из Турске Уредништво · · Време читања 7мин читања · Прегледи 0 ·
Суштина — OpenAI је објавио нови алат за класификацију заснован на вештачкој интелигенцији дизајниран за откривање материјала за сексуално злостављање деце, укључујући садржај који генерише вештачка интелигенција. Алат има за циљ да да приоритет увредљивом садржају за тимове за људске прегледе.

OpenAI је развио нови алат за класификацију заснован на вештачкој интелигенцији дизајниран за откривање материјала за сексуално злостављање деце (ЦСАМ), укључујући слике које генерише вештачка интелигенција. Алат анализира визуелне знакове како би идентификовао претходно неоткривене слике злостављања деце и пружа резултате за одређивање приоритета садржаја за тимове за људске прегледе. Ова технологија има за циљ да поједностави идентификацију илегалног материјала и помогне безбедносним организацијама у њиховим напорима у борби против дигиталне злоупотребе.

Резултати развоја и тестирања алата

Алат је развијен уз помоћ Националног центра за несталу и експлоатисану децу (НЦМЕЦ) са седиштем у Сједињеним Државама. Интерно тестирање које спроводи OpenAI указује да алат може смањити број слика означених за ручни преглед за 48% без значајног утицаја на могућности детекције. Ово смањење ручног оптерећења омогућава тимовима за преглед људи да се фокусирају на најкритичније случајеве које је систем идентификовао.

Спољно тестирање је додатно потврдило ефикасност система класификације. Тестирање од стране фал.аи потврдило је да 72% слика означених као веома сумњиве садржи претходно неидентификовани увредљиви материјал. Поред тога, тестови СафетиКит-а показали су да је алат идентификовао 90% тестираних случајева, што је укључивало сексуализоване описе деце у цртаним филмовима и анимацијама. Ови резултати сугеришу да је алат способан да открије сложене облике злоупотребе који могу заобићи традиционалне методе откривања.

OpenAI мере безбедности и спровођење

OpenAI примењује нове безбедносне мере у оквиру ChatGPT-а како би спречио генерисање и приступ илегалном садржају. Компанија уводи упозорења за кориснике који покушавају да приступе увредљивом садржају и извршиће уклањање означених ћаскања. Ове мере су део ширег напора да се осигура да генеративни АИ модели не олакшају стварање или дистрибуцију штетног материјала.

Компанија је успоставила строгу политику спровођења за кориснике који крше ове безбедносне смернице. Кршења у ChatGPT-у ће резултирати 24-часовном суспензијом приступа. За кориснике који чине поновљена кршења, последице могу да обухватају дужа ограничења, затварање налога или извештавање власти. Ове дисциплинске мере имају за циљ да одврате употребу вештачке интелигенције за илегалне активности.

Подршка и дистрибуција програмера

Да би подржао шири технолошки екосистем, OpenAI објављује овај алат бесплатно верификованим организацијама преко свог интерфејса за програмирање апликација (АПИ). Ово омогућава другим платформама и програмерима да интегришу напредне могућности детекције у своје системе. Пружајући технологију путем АПИ-ја, OpenAI има за циљ да створи стандардизовану методу за идентификацију и извештавање о увредљивом материјалу у различитим дигиталним окружењима.

Штавише, OpenAI је објавио смернице за помоћ програмерима у откривању и пријављивању увредљивог материјала. Ове смернице пружају техничке и процедуралне оквире који помажу софтверским инжењерима и оператерима платформи да одрже безбедносне стандарде. Иницијатива представља значајан корак у покушају индустрије да управља ризицима повезаним са садржајем генерисаним вештачком интелигенцијом и ширењем дигиталног материјала за злостављање деце.

Овај чланак је написан уз помоћ вештачке интелигенције на основу више новинских извештаја, а наша редакција га прегледа у складу са уређивачким принципима. Уређивачки стандарди · Дојаве и контакт

Како вам се допао овај чланак?

Коментари 0

Будите први који ће коментарисати

Контактирајте нас

← Вести из Турске Почетна
Вести из Турске Примајте нове чланке на имејлПретплатите се да бисте нове садржаје примали имејлом. Отказивање је могуће у било ком тренутку.
Да ли вам је ово било корисно?Поделите са пријатељима и на друштвеним мрежама