OpenAI uşaqların cinsi istismar materiallarını və süni intellekt tərəfindən yaradılan məzmunu aşkar etmək üçün süni intellekt alətini işə salır
OpenAI, süni intellekt tərəfindən yaradılan görüntülər də daxil olmaqla, uşaq cinsi istismar materiallarını (CSAM) aşkar etmək üçün nəzərdə tutulmuş yeni süni intellekt əsaslı təsnifat vasitəsi hazırlayıb. Alət əvvəllər aşkar edilməmiş uşaq sui-istifadə şəkillərini müəyyən etmək üçün vizual işarələri təhlil edir və insan baxış komandaları üçün məzmunun prioritetləşdirilməsi üçün ballar verir. Bu texnologiya qanunsuz materialların identifikasiyasını asanlaşdırmağı və təhlükəsizlik təşkilatlarına rəqəmsal sui-istifadə ilə mübarizə səylərində kömək etməyi hədəfləyir.
Alətin hazırlanması və test nəticələri
Alət ABŞ-da yerləşən Milli İtkin və İstismar Edilən Uşaqlar Mərkəzinin (NCMEC) köməyi ilə hazırlanmışdır. OpenAI tərəfindən aparılan daxili test göstərir ki, alət əl ilə nəzərdən keçirmək üçün işarələnmiş şəkillərin sayını əhəmiyyətli dərəcədə təsir etmədən 48% azalda bilər. Əl iş yükünün azaldılması insan nəzərdən keçirmə qruplarına sistem tərəfindən müəyyən edilmiş ən kritik hallara diqqət yetirməyə imkan verir.
Xarici testlər təsnifat sisteminin effektivliyini daha da təsdiqləyib. fal.ai tərəfindən edilən testlər təsdiq edib ki, yüksək dərəcədə şübhəli olan şəkillərin 72%-i əvvəllər müəyyən edilməyən təhqiramiz materiallardan ibarətdir. Bundan əlavə, SafetyKit testləri göstərdi ki, alət sınaqdan keçmiş halların 90%-ni müəyyən edib ki, bura uşaqların cizgi filmlərində və animasiyalarda seksuallaşdırılmış təsvirləri daxildir. Bu nəticələr göstərir ki, alət ənənəvi aşkarlama üsullarını keçə biləcək mürəkkəb sui-istifadə formalarını aşkar edə bilər.
OpenAI təhlükəsizlik tədbirləri və icra
OpenAI qanunsuz məzmunun yaradılmasının və əldə edilməsinin qarşısını almaq üçün ChatGPT çərçivəsində yeni təhlükəsizlik tədbirləri tətbiq edir. Şirkət təhqiramiz məzmuna daxil olmağa çalışan istifadəçilər üçün xəbərdarlıqlar təqdim edir və bayraqlı söhbətlərin silinməsini həyata keçirəcək. Bu tədbirlər, generativ süni intellekt modellərinin zərərli materialların yaradılmasını və ya paylanmasını asanlaşdırmamasını təmin etmək üçün edilən daha geniş səylərin bir hissəsidir.
Şirkət bu təhlükəsizlik qaydalarını pozan istifadəçilər üçün ciddi icra siyasəti müəyyən edib. ChatGPT-dəki pozuntular girişin 24 saatlıq dayandırılması ilə nəticələnəcək. Dəfələrlə pozuntu törədən istifadəçilər üçün nəticələrə daha uzun müddətli məhdudiyyətlər, hesabların bağlanması və ya hakimiyyət orqanlarına məlumat verilməsi daxil ola bilər. Bu intizam tədbirləri süni intellektdən qanunsuz fəaliyyətlər üçün istifadə edilməsinin qarşısını almaq məqsədi daşıyır.
Tərtibatçı Dəstəyi və Dağıtımı
Daha geniş texnologiya ekosistemini dəstəkləmək üçün OpenAI bu aləti tətbiq proqramlaşdırma interfeysi (API) vasitəsilə pulsuz və təsdiqlənmiş təşkilatlar üçün təqdim edir. Bu, digər platformalara və tərtibatçılara qabaqcıl aşkarlama imkanlarını öz sistemlərinə inteqrasiya etməyə imkan verir. OpenAI texnologiyanı API vasitəsilə təmin edərək, müxtəlif rəqəmsal mühitlərdə təhqiramiz materialların müəyyən edilməsi və hesabat verilməsi üçün standartlaşdırılmış metod yaratmağı hədəfləyir.
Bundan əlavə, OpenAI təhqiramiz materialların aşkar edilməsi və hesabat verilməsində tərtibatçılara kömək etmək üçün təlimatlar dərc edib. Bu təlimatlar proqram təminatı mühəndislərinə və platforma operatorlarına təhlükəsizlik standartlarını qorumağa kömək etmək üçün texniki və prosedur çərçivələrini təmin edir. Bu təşəbbüs sənayenin süni intellektlə yaradılan məzmunla bağlı riskləri və rəqəmsal uşaq istismarı materiallarının yayılmasını idarə etmək cəhdində əhəmiyyətli bir addımı təmsil edir.
Bu məqalə bir neçə xəbər mənbəsi əsasında süni intellekt dəstəyi ilə yazılıb və redaksiya prinsiplərimizə uyğun olaraq redaktorlarımız tərəfindən yoxlanılır. Redaksiya standartları · Məlumat ötür və əlaqə
Şərhlər 0