Məzmuna keç
Cəmiyyət

OpenAI uşaqların cinsi istismar materiallarını və süni intellekt tərəfindən yaradılan məzmunu aşkar etmək üçün süni intellekt alətini işə salır

Turkey News Redaksiya · · Oxuma müddəti 8dəq oxu · Baxış 0 ·
Əsas — OpenAI, süni intellekt tərəfindən yaradılan məzmun da daxil olmaqla, uşaqların cinsi istismar materiallarını aşkar etmək üçün nəzərdə tutulmuş yeni süni intellekt əsaslı təsnifat vasitəsini təqdim edib. Alət insan baxış komandaları üçün təhqiramiz məzmuna prioritet verməyi hədəfləyir.

OpenAI, süni intellekt tərəfindən yaradılan görüntülər də daxil olmaqla, uşaq cinsi istismar materiallarını (CSAM) aşkar etmək üçün nəzərdə tutulmuş yeni süni intellekt əsaslı təsnifat vasitəsi hazırlayıb. Alət əvvəllər aşkar edilməmiş uşaq sui-istifadə şəkillərini müəyyən etmək üçün vizual işarələri təhlil edir və insan baxış komandaları üçün məzmunun prioritetləşdirilməsi üçün ballar verir. Bu texnologiya qanunsuz materialların identifikasiyasını asanlaşdırmağı və təhlükəsizlik təşkilatlarına rəqəmsal sui-istifadə ilə mübarizə səylərində kömək etməyi hədəfləyir.

Alətin hazırlanması və test nəticələri

Alət ABŞ-da yerləşən Milli İtkin və İstismar Edilən Uşaqlar Mərkəzinin (NCMEC) köməyi ilə hazırlanmışdır. OpenAI tərəfindən aparılan daxili test göstərir ki, alət əl ilə nəzərdən keçirmək üçün işarələnmiş şəkillərin sayını əhəmiyyətli dərəcədə təsir etmədən 48% azalda bilər. Əl iş yükünün azaldılması insan nəzərdən keçirmə qruplarına sistem tərəfindən müəyyən edilmiş ən kritik hallara diqqət yetirməyə imkan verir.

Xarici testlər təsnifat sisteminin effektivliyini daha da təsdiqləyib. fal.ai tərəfindən edilən testlər təsdiq edib ki, yüksək dərəcədə şübhəli olan şəkillərin 72%-i əvvəllər müəyyən edilməyən təhqiramiz materiallardan ibarətdir. Bundan əlavə, SafetyKit testləri göstərdi ki, alət sınaqdan keçmiş halların 90%-ni müəyyən edib ki, bura uşaqların cizgi filmlərində və animasiyalarda seksuallaşdırılmış təsvirləri daxildir. Bu nəticələr göstərir ki, alət ənənəvi aşkarlama üsullarını keçə biləcək mürəkkəb sui-istifadə formalarını aşkar edə bilər.

OpenAI təhlükəsizlik tədbirləri və icra

OpenAI qanunsuz məzmunun yaradılmasının və əldə edilməsinin qarşısını almaq üçün ChatGPT çərçivəsində yeni təhlükəsizlik tədbirləri tətbiq edir. Şirkət təhqiramiz məzmuna daxil olmağa çalışan istifadəçilər üçün xəbərdarlıqlar təqdim edir və bayraqlı söhbətlərin silinməsini həyata keçirəcək. Bu tədbirlər, generativ süni intellekt modellərinin zərərli materialların yaradılmasını və ya paylanmasını asanlaşdırmamasını təmin etmək üçün edilən daha geniş səylərin bir hissəsidir.

Şirkət bu təhlükəsizlik qaydalarını pozan istifadəçilər üçün ciddi icra siyasəti müəyyən edib. ChatGPT-dəki pozuntular girişin 24 saatlıq dayandırılması ilə nəticələnəcək. Dəfələrlə pozuntu törədən istifadəçilər üçün nəticələrə daha uzun müddətli məhdudiyyətlər, hesabların bağlanması və ya hakimiyyət orqanlarına məlumat verilməsi daxil ola bilər. Bu intizam tədbirləri süni intellektdən qanunsuz fəaliyyətlər üçün istifadə edilməsinin qarşısını almaq məqsədi daşıyır.

Tərtibatçı Dəstəyi və Dağıtımı

Daha geniş texnologiya ekosistemini dəstəkləmək üçün OpenAI bu aləti tətbiq proqramlaşdırma interfeysi (API) vasitəsilə pulsuz və təsdiqlənmiş təşkilatlar üçün təqdim edir. Bu, digər platformalara və tərtibatçılara qabaqcıl aşkarlama imkanlarını öz sistemlərinə inteqrasiya etməyə imkan verir. OpenAI texnologiyanı API vasitəsilə təmin edərək, müxtəlif rəqəmsal mühitlərdə təhqiramiz materialların müəyyən edilməsi və hesabat verilməsi üçün standartlaşdırılmış metod yaratmağı hədəfləyir.

Bundan əlavə, OpenAI təhqiramiz materialların aşkar edilməsi və hesabat verilməsində tərtibatçılara kömək etmək üçün təlimatlar dərc edib. Bu təlimatlar proqram təminatı mühəndislərinə və platforma operatorlarına təhlükəsizlik standartlarını qorumağa kömək etmək üçün texniki və prosedur çərçivələrini təmin edir. Bu təşəbbüs sənayenin süni intellektlə yaradılan məzmunla bağlı riskləri və rəqəmsal uşaq istismarı materiallarının yayılmasını idarə etmək cəhdində əhəmiyyətli bir addımı təmsil edir.

Bu məqalə bir neçə xəbər mənbəsi əsasında süni intellekt dəstəyi ilə yazılıb və redaksiya prinsiplərimizə uyğun olaraq redaktorlarımız tərəfindən yoxlanılır. Redaksiya standartları · Məlumat ötür və əlaqə

Bu yazı necə idi?

Şərhlər 0

İlk şərhi siz yazın

Bizimlə əlaqə

← Turkey News Ana səhifə
Turkey News Yeni yazıları e-poçtla alınYeni məzmunu e-poçtla almaq üçün abunə olun. İstənilən vaxt çıxa bilərsiniz.
Bu faydalı oldu?Dostlarla və sosial şəbəkələrdə paylaşın