Към съдържанието
Общество

OpenAI стартира AI инструмент за откриване на материали за сексуално насилие над деца и съдържание, генерирано от AI

Новини от Турция Редакционен екип · · Време за четене 8мин четене · Прегледи 0 ·
Основно — OpenAI пусна нов инструмент за класификация, задвижван от изкуствен интелект, предназначен за откриване на материали за сексуално насилие над деца, включително съдържание, генерирано от изкуствен интелект. Инструментът има за цел да даде приоритет на злоупотребяващо съдържание за екипи за преглед на хора.

OpenAI разработи нов инструмент за класификация, задвижван от изкуствен интелект, предназначен за откриване на материали за сексуално насилие над деца (CSAM), включително изображения, генерирани от изкуствен интелект. Инструментът анализира визуалните сигнали, за да идентифицира неоткрити преди това изображения на насилие над деца и предоставя резултати за приоритизиране на съдържанието за екипи за преглед на хора. Тази технология има за цел да рационализира идентифицирането на незаконни материали и да подпомогне организациите за безопасност в усилията им за борба с цифровите злоупотреби.

Разработване на инструменти и резултати от тестове

Инструментът е разработен със съдействието на Националния център за изчезнали и експлоатирани деца (NCMEC) със седалище в САЩ. Вътрешното тестване, проведено от OpenAI, показва, че инструментът може да намали броя на изображенията, маркирани за ръчен преглед, с 48%, без да повлияе значително на възможностите за откриване. Това намаляване на ръчното натоварване позволява на екипите за преглед на хора да се съсредоточат върху най-критичните случаи, идентифицирани от системата.

Външното изпитване допълнително потвърди ефикасността на системата за класификация. Тестването на fal.ai потвърди, че 72% от изображенията, маркирани като силно подозрителни, съдържат неидентифициран досега злоупотребяващ материал. Освен това тестовете на SafetyKit показват, че инструментът идентифицира 90% от тестваните случаи, които включват сексуализирани описания на деца в карикатури и анимации. Тези резултати предполагат, че инструментът е способен да открива сложни форми на злоупотреба, които могат да заобиколят традиционните методи за откриване.

OpenAI мерки за безопасност и правоприлагане

OpenAI прилага нови мерки за безопасност в рамките на ChatGPT, за да предотврати генерирането и достъпа до незаконно съдържание. Компанията въвежда предупреждения за потребители, които се опитват да получат достъп до злоупотребяващо съдържание, и ще извърши премахването на сигнализираните чатове. Тези мерки са част от по-широки усилия, за да се гарантира, че генеративните модели на ИИ не улесняват създаването или разпространението на вредни материали.

Компанията е установила строга политика за прилагане за потребители, които нарушават тези указания за безопасност. Нарушенията в ChatGPT ще доведат до 24-часово спиране на достъпа. За потребители, които извършват повтарящи се нарушения, последствията могат да включват по-дълги ограничения, закриване на акаунт или докладване на властите. Тези дисциплинарни действия имат за цел да възпрат използването на ИИ за незаконни дейности.

Поддръжка и разпространение на програмисти

За да подкрепи по-широката технологична екосистема, OpenAI пуска този инструмент безплатно на проверени организации чрез своя интерфейс за програмиране на приложения (API). Това позволява на други платформи и разработчици да интегрират разширени възможности за откриване в собствените си системи. Чрез предоставянето на технологията чрез API, OpenAI има за цел да създаде стандартизиран метод за идентифициране и отчитане на злоупотребяващи материали в различни цифрови среди.

Освен това, OpenAI публикува насоки за подпомагане на разработчиците в откриването и отчитането на злоупотребяващи материали. Тези насоки предоставят технически и процедурни рамки, които да помогнат на софтуерните инженери и операторите на платформи да поддържат стандартите за безопасност. Инициативата представлява значителна стъпка в опита на индустрията да управлява рисковете, свързани с генерираното от ИИ съдържание и разпространението на цифрови материали за злоупотреба с деца.

Тази статия е написана с помощта на ИИ въз основа на няколко новинарски публикации и се преглежда от нашите редактори според редакционните ни принципи. Редакционни стандарти · Сигнали и контакт

Как ви се стори тази публикация?

Коментари 0

Бъдете първият, който коментира

Свържете се с нас

← Новини от Турция Начало
Новини от Турция Получавайте новите публикации по имейлАбонирайте се, за да получавате ново съдържание по имейл. Можете да се отпишете по всяко време.
Беше ли полезно?Споделете с приятели и в социалните мрежи