İçeriğe geç
Toplum

OpenAI, Yapay Zeka ile Çocuk İstismarı İçeriklerini Tespit Eden Yeni Bir Araç Geliştirdi

Turkey News Editör ekibi · · Okuma süresi 7dk okuma · Görüntülenme 0 ·
Önemli — Yapay zeka teknolojileri alanında faaliyet gösteren OpenAI, yapay zeka tarafından üretilenler de dahil olmak üzere çocukların cinsel istismarına yönelik materyalleri tespit etmek amacıyla yeni bir sınıflandırma aracı geliştirdiğini duyurdu.

Yapay zeka teknolojileri alanında dünya çapında faaliyet gösteren OpenAI, çocukların cinsel istismarına yönelik materyallerin (CSAM) tespit edilmesine yönelik yeni bir sınıflandırma aracı geliştirdiğini duyurdu. Geliştirilen bu yeni teknolojinin, yapay zeka tarafından üretilen içerikleri de kapsayacak şekilde tasarlandığı belirtildi.

Geliştirilen araç, görsel ipuçlarını analiz ederek daha önce tespit edilememiş istismar içeriklerini tanımlamak üzere kurgulandı. Sistemin, tespit edilen içeriklere puanlar vererek insan inceleme ekiplerinin hangi materyallere öncelik vermesi gerektiğini belirlemesi hedefleniyor. OpenAI, bu aracın doğrulanmış kuruluşlara uygulama programlama arayüzü üzerinden ücretsiz olarak sunulacağını ifade etti. Aracın geliştirilme sürecinde, Amerika Birleşik Devletleri merkezli Ulusal Kayıp ve İstismara Uğramış Çocuklar Merkezi'nden (NCMEC) yardım alındığı bildirildi.

Test Sonuçları ve Başarı Oranları

OpenAI tarafından yürütülen dahili testler, yeni aracın tespit yeteneklerinden ödün vermeden, manuel inceleme için işaretlenen görüntü sayısını %48 oranında azaltabileceğini gösterdi. Farklı platformlarca yapılan testler de aracın etkinliğini destekleyen veriler sundu. fal.ai tarafından gerçekleştirilen testlerde, yüksek derecede şüpheli olarak işaretlenen görüntülerin %72'sinin daha önce tanımlanmamış istismar içerikleri barındırdığı teyit edildi.

SafetyKit tarafından yapılan testler ise aracın, çizgi filmlerde veya animasyonlarda yer alan çocuklara yönelik cinsel içerikli betimlemeler de dahil olmak üzere, test edilen vakaların %90'ını başarıyla tanımladığını ortaya koydu.

ChatGPT İçin Yeni Güvenlik Protokolleri

OpenAI, platform güvenliğini artırmak amacıyla ChatGPT üzerinde yeni güvenlik önlemleri uygulamaya koyacağını duyurdu. Bu kapsamda, istismara yönelik içeriklere erişmeye çalışan kullanıcılara uyarılar gösterileceği ve işaretlenen sohbetlerin sistemden kaldırılacağı belirtildi.

Platform kurallarının ihlali durumunda uygulanacak yaptırımlar hakkında da bilgi verildi. Yapılan ihlallerin, kullanıcıların erişiminin 24 saat süreyle askıya alınmasına yol açacağı ifade edildi. İhlallerin tekrarlanması durumunda ise daha uzun süreli kısıtlamalar, hesap kapatma veya yetkili makamlara bildirim yapılması gibi yaptırımların uygulanabileceği belirtildi. Ayrıca OpenAI, geliştiricilerin istismar içeriklerini tespit etmelerine ve raporlamalarına yardımcı olmak amacıyla yeni kılavuzlar yayımladığını bildirdi.

Sözlük

  • çocukların cinsel istismarına yönelik materyallerin (CSAM) — Çocukların cinsel istismarına yönelik materyaller (CSAM), çocukların gerçek istismarının kameraya kaydedilmesi veya röntgencilik yoluyla elde edilen görüntülerdir. Bu materyaller sosyal medya veya dark web gibi paylaşım platformları üzerinden diğer faillerle paylaşılabilmektedir.
  • Ulusal Kayıp ve İstismara Uğramış Çocuklar Merkezi'nden (NCMEC) — NCMEC, çocuk istismarına yönelik içeriklerin takibi ve tespiti süreçlerinde kullanılan bir kuruluştur. Platformlar, tespit edilen içeriklere dair bilgileri bu merkeze iletebilmektedir.
  • uygulama programlama arayüzü — Uygulama programlama arayüzü (API), bilgisayarlar veya bilgisayar programları arasında bir bağlantı sağlayan bir yazılım arayüzü türüdür. Diğer yazılım parçalarına hizmet sunar.

Bu haber, birden fazla haber kaynağına dayanarak yapay zekâ desteğiyle yazılmıştır ve editöryal ilkelerimiz doğrultusunda editörlerimiz tarafından incelenir. Yayın İlkeleri · Haber İhbarı ve İletişim

Bu yazıyı nasıl buldunuz?

Yorumlar 0

İlk yorumu siz yapın

Bize ulaşın

← Turkey News Ana sayfa
Turkey News Yeni yazıları e-postayla alınYeni içerikleri e-postayla almak için abone olun. İstediğiniz zaman abonelikten çıkabilirsiniz.
Faydalı oldu mu?Arkadaşlarınızla ve sosyal medyada paylaşın