OpenAI uruchamia narzędzie AI do wykrywania materiałów dotyczących wykorzystywania seksualnego dzieci oraz treści generowanych przez AI
OpenAI opracowało nowe narzędzie klasyfikacyjne oparte na sztucznej inteligencji, przeznaczone do wykrywania materiałów związanych z wykorzystywaniem seksualnym dzieci (CSAM), w tym obrazów generowanych przez sztuczną inteligencję. Narzędzie analizuje wizualne wskazówki w celu zidentyfikowania wcześniej niewykrytych obrazów wykorzystywania dzieci i zapewnia wyniki w celu priorytetyzacji treści dla zespołów ds. Przeglądów ludzkich. Technologia ta ma na celu usprawnienie identyfikacji nielegalnych materiałów i pomoc organizacjom zajmującym się bezpieczeństwem w ich wysiłkach na rzecz zwalczania nadużyć cyfrowych.
Opracowanie narzędzi i wyniki testów
Narzędzie zostało opracowane przy wsparciu Narodowego Centrum Zaginionych i Wyzyskiwanych Dzieci (NCMEC) z siedzibą w Stanach Zjednoczonych. Wewnętrzne testy przeprowadzone przez OpenAI wskazują, że narzędzie może zmniejszyć liczbę obrazów oznaczonych do ręcznego przeglądu o 48% bez znaczącego wpływu na możliwości wykrywania. Zmniejszenie obciążenia pracą ręczną pozwala zespołom ds. przeglądów ludzkich skupić się na najbardziej krytycznych przypadkach zidentyfikowanych przez system.
Testy zewnętrzne potwierdziły skuteczność systemu klasyfikacji. Testy przeprowadzone przez fal.ai potwierdziły, że 72% zdjęć oznaczonych jako wysoce podejrzane zawierało wcześniej niezidentyfikowany materiał obraźliwy. Dodatkowo, testy SafetyKit wykazały, że narzędzie zidentyfikowało 90% badanych przypadków, w tym seksualne opisy dzieci w kreskówkach i animacjach. Wyniki te sugerują, że narzędzie jest w stanie wykryć złożone formy nadużyć, które mogą ominąć tradycyjne metody wykrywania.
Środki bezpieczeństwa OpenAI i ich egzekwowanie
OpenAI wdraża nowe środki bezpieczeństwa w ramach ChatGPT, aby zapobiec generowaniu i dostępowi do nielegalnych treści. Firma wprowadza ostrzeżenia dla użytkowników próbujących uzyskać dostęp do treści obraźliwych i wykona usuwanie oznaczonych czatów. Środki te są częścią szerszych wysiłków mających na celu zapewnienie, aby modele AI generatywne nie ułatwiały tworzenia ani rozpowszechniania szkodliwych materiałów.
Firma ustanowiła ścisłą politykę egzekwowania przepisów dla użytkowników, którzy naruszają te wytyczne bezpieczeństwa. Naruszenia w ChatGPT spowodują 24-godzinne zawieszenie dostępu. W przypadku użytkowników, którzy dopuszczają się powtarzających się naruszeń, konsekwencje mogą obejmować dłuższe ograniczenia, zamknięcie konta lub zgłoszenie władzom. Te działania dyscyplinarne mają na celu powstrzymanie wykorzystywania sztucznej inteligencji do nielegalnych działań.
Wsparcie i dystrybucja programistów
Aby wspierać szerszy ekosystem technologiczny, OpenAI udostępnia to narzędzie bezpłatnie zweryfikowanym organizacjom za pośrednictwem interfejsu programowania aplikacji (API). Dzięki temu inne platformy i programiści mogą zintegrować zaawansowane możliwości wykrywania z własnymi systemami. Dostarczając technologię za pośrednictwem interfejsu API, OpenAI ma na celu stworzenie znormalizowanej metody identyfikacji i zgłaszania materiałów stanowiących nadużycie w różnych środowiskach cyfrowych.
Co więcej, OpenAI opublikowało wytyczne, aby pomóc programistom w wykrywaniu i zgłaszaniu obraźliwych materiałów. Wytyczne te zapewniają ramy techniczne i proceduralne, aby pomóc inżynierom oprogramowania i operatorom platform w utrzymaniu standardów bezpieczeństwa. Inicjatywa stanowi znaczący krok w próbie zarządzania ryzykiem związanym z treściami generowanymi przez AI i rozprzestrzenianiem się cyfrowych materiałów dotyczących wykorzystywania dzieci.
Ten artykuł powstał przy wsparciu AI na podstawie wielu doniesień medialnych i jest weryfikowany przez naszą redakcję zgodnie z zasadami redakcyjnymi. Standardy redakcyjne · Zgłoszenia i kontakt
Komentarze 0