OpenAI хүүхдийн бэлгийн хэрэглээний материалыг болон хиймэл оюун ухаанаар үүсгэсэн контентыг илрүүлэх AI хэрэгсэл хөнгөв
OpenAI нь хиймэл оюун ухаанаар үүсгэсэн зураг болохыг оруулаад хүүхдийн бэлгийн хэрэглээний контентыг (CSAM) илрүүлэх зорилготой шинэ хиймэл оюун ухаанаар ажилладаг ангиллын хэрэгслийг хөгжүүлсэн. Энэхүү хэрэгсэл нь өмнө нь илэрхийлэгдээгүй хүүхдийн хэрэглээний зурагнуудыг тодорхойлохын тулд харааны тэмдгүүдийг шинжилж, контентыг хүний хяналтын багт эрэмбэлэх оноог өгнө. Энэхүү технологи нь хууль зөрчилтэй контентыг илрүүлэх үйл явцыг хялбарчлах, дижитал хэрэглэгчдийн зөрчлийг далахын тулд аюулгүй байдлын байгууллагуудад туслах зорилготой.
Хэрэгсэл боловсруулах, туршилт хийх үр дүн
Энэхүү хэрэгслийг АНУ-ын Үндэсний хүүхдийн алга болон хөндлөнгийн ашиглагдсан хүүхдийн төв (NCMEC)-ийн тусламжтайгаар боловсруулсан. OpenAI-ийн дотоод туршилтүүдэд энэхүү хэрэгсэл нь илрүүлэлтийн чадварт томоохон нөлөө үзүүлэхгүйгээр гараар шалгах шаардлагатай зурагны тоог 48 хувиар бууруулж чадсаныг харуулсан. Гараар хийх ажилд хийгдэх энэхүү бууралт нь хүмүүсийн шалгах багт системээр илрүүлсэн хамгийн чухал тохиолдлуудад анхаарлаа төвлөрүүлэх боломжийг олгож байна.
Гадаад туршилтууд нь ангиллын системийн үр нөлөөг цаашид баталсан. fal.ai-ийн хийсэн туршилтаар маш сэжигтэй гэж тэмдэглэсэн зурагнуудын 72 хувь нь өмнө нь илэрхийлэгдээгүй зөрчилтэй контент агуулсан нь батлагдсан. Нэмж дурдахад, SafetyKit-ийн туршилтууд нь хэрэгсэл нь туршилт хийсэн тохиолдлуудын 90 хувийг илрүүлснийг харуулсан бөгөөд үүнд хүүхдийн хэвлэл, анимацид хэвлэмэл дүрслэл багтсан. Эдгээр үр дүн нь тус хэрэгсэл нь уламжлалт илрүүлэлтийн аргуудыг давж болох нарийн төвөгтэй хэлбэрийн зөрчлийг илрүүлэх чадвартай болохыг харуулж байна.
OpenAI-ийн аюулгүй байдлын арга хэмжээ болон хэрэгжүүлэлт
OpenAI нь хууль зөрчилтэй контентыг үүсгэх болон хандахыг зогсоохын тулд ChatGPT дотор шинэ аюулгүй байдлын арга хэмжээг хэрэгжүүлж байна. Тус компани нь зөрчилтэй контентод хандахыг оролдох хэрэглэгчдэд анхааруулга гаргах бөгөөд тэмдэглэгдсэн чатуудыг арилгах болно. Эдгээр арга хэмжээ нь үүсгэгч AI загварууд хортой материалыг бүтээх эсвэл түгээхэд туслахгүй байхыг баталгаажуулах илүү өргөн хүрээний хүчин чармайлт юм.
Тус компани нь эдгээр аюулгүй байдлын зааврыг зөрчсөн хэрэглэгчдэд хатуу хэрэгжүүлэх бодлого тогтоосон. ChatGPT-д зөрчил гаргавал хандалтыг 24 цагийн хугацаанд түр зогсооно. Давталттай зөрчил гаргасан хэрэглэгчдэд илүү урт хязгаарлалт, дансыг хаах эсвэл эрх бүхий байгууллагад мэдээлэх зэрэг үр дагавар үүсгэж болно. Эдгээр шийтгэлүүд нь хууль зөрчилтэй үйл ажиллагаанд хиймэл оюун ухааныг ашиглахыг сэргийлэх зорилготой юм.
Хөгжүүлэгчийн дэмжлэг ба түгээлт
Өргөн хүрээний технологийн экосистемд дэмжлэг үзүүлэхийн тулд OpenAI нь энэхүү хэрэгслийг баталгаажсан байгууллагуудад өөрийн програм хангамжийн интерфэйс (API) -ээр үнэгүйгээр гаргаж байна. Энэ нь бусад платформ болон хөгжүүлэгчдэд өөрсдийн системд дэвшилтэт илрүүлэлтийн чадварыг нэгтгэх боломжийг олгоно. Технологийг API-ээр хүргэх замаар OpenAI нь янз бүрийн дижитал орчинд хортой контентыг тодорхойлох, тайлагнах стандарт арга замыг бий болгохыг зорьж байна.
Түүнчлэн OpenAI нь хөгжүүлэгчдэд хортой контентыг илрүүлэх, тайлагнахын тулд зааварчилгааг хэвлэсэн. Эдгээр зааварчилгаа нь програм хангамжийн инженерүүд болон платформ ажилчдад аюулгүй байдлын стандартыг хадгалахыг туслах техникийн, үйл ажиллагааны хүрээг бүрдүүлдэг. Энэхүү санаачилга нь хиймэл оюун ухаанаар үүсгэгдсэн контент болон дижитал хүүхдийн хэрэглээний хортой материалыг тархаахтай холбоотой эрсдэлүүдийг удирдах салбарын оролдлого дахь чухал алхам юм.
Энэхүү нийтлэлийг олон мэдээний тайлан дээр үндэслэн хиймэл оюун ухааны тусламжтайгаар бэлтгэсэн бөгөөд манай редакцийн зарчмын дагуу редакторууд хянаж үзсэн болно. Редакцийн стандарт · Мэдээлэл өгөх, холбоо барих
Сэтгэгдэл 0