Μετάβαση στο περιεχόμενο
Κοινωνία

Η OpenAI εγκαινιάζει ένα εργαλείο τεχνητής νοημοσύνης για την ανίχνευση υλικού σεξουαλικής κακοποίησης παιδιών και περιεχομένου που παράγεται από τεχνητή νοημοσύνη

Ειδήσεις Τουρκίας Συντακτική ομάδα · · Χρόνος ανάγνωσης 8λεπτά ανάγνωσης · Προβολές 0 ·
Κλειδί — Η OpenAI κυκλοφόρησε ένα νέο εργαλείο ταξινόμησης με τεχνητή νοημοσύνη που έχει σχεδιαστεί για την ανίχνευση υλικού σεξουαλικής κακοποίησης παιδιών, συμπεριλαμβανομένου του περιεχομένου που παράγεται από την τεχνητή νοημοσύνη. Το εργαλείο στοχεύει στην ιεράρχηση του καταχρηστικού περιεχομένου για τις ομάδες αξιολόγησης ανθρώπων.

Η OpenAI έχει αναπτύξει ένα νέο εργαλείο ταξινόμησης με τεχνητή νοημοσύνη που έχει σχεδιαστεί για την ανίχνευση υλικού σεξουαλικής κακοποίησης παιδιών (CSAM), συμπεριλαμβανομένων εικόνων που παράγονται από τεχνητή νοημοσύνη. Το εργαλείο αναλύει οπτικά στοιχεία για τον εντοπισμό εικόνων παιδικής κακοποίησης που δεν είχαν εντοπιστεί προηγουμένως και παρέχει βαθμολογίες για την ιεράρχηση του περιεχομένου για τις ομάδες αξιολόγησης ανθρώπων. Η τεχνολογία αυτή στοχεύει στον εξορθολογισμό του εντοπισμού παράνομου υλικού και στην υποβοήθηση των οργανισμών ασφάλειας στις προσπάθειές τους για την καταπολέμηση της ψηφιακής κατάχρησης.

Ανάπτυξη εργαλείων και αποτελέσματα δοκιμών

Το εργαλείο αναπτύχθηκε με τη βοήθεια του Εθνικού Κέντρου για τα Εξαφανισμένα & Εκμεταλλευόμενα Παιδιά (NCMEC) που εδρεύει στις Ηνωμένες Πολιτείες. Οι εσωτερικές δοκιμές που διεξάγονται από το OpenAI δείχνουν ότι το εργαλείο μπορεί να μειώσει τον αριθμό των εικόνων που επισημαίνονται για χειροκίνητη αναθεώρηση κατά 48% χωρίς να επηρεάσει σημαντικά τις δυνατότητες ανίχνευσης. Αυτή η μείωση του χειρωνακτικού φόρτου εργασίας επιτρέπει στις ομάδες ελέγχου να επικεντρωθούν στις πιο κρίσιμες περιπτώσεις που προσδιορίζονται από το σύστημα.

Οι εξωτερικές δοκιμές επικύρωσαν περαιτέρω την αποτελεσματικότητα του συστήματος ταξινόμησης. Δοκιμές από το fal.ai επιβεβαίωσαν ότι το 72% των εικόνων που επισημάνθηκαν ως εξαιρετικά ύποπτες περιείχαν προηγουμένως αγνώστου ταυτότητας υβριστικό υλικό. Επιπλέον, οι δοκιμές του SafetyKit έδειξαν ότι το εργαλείο εντόπισε το 90% των δοκιμασμένων περιπτώσεων, οι οποίες περιελάμβαναν σεξουαλικές περιγραφές παιδιών σε κινούμενα σχέδια και κινούμενα σχέδια. Αυτά τα αποτελέσματα δείχνουν ότι το εργαλείο είναι σε θέση να ανιχνεύσει πολύπλοκες μορφές κατάχρησης που μπορεί να παρακάμψουν τις παραδοσιακές μεθόδους ανίχνευσης.

OpenAI μέτρα ασφαλείας και επιβολή

Η OpenAI εφαρμόζει νέα μέτρα ασφαλείας εντός της ChatGPT για να αποτρέψει την παραγωγή και την πρόσβαση παράνομου περιεχομένου. Η εταιρεία εισάγει προειδοποιήσεις για χρήστες που επιχειρούν να έχουν πρόσβαση σε καταχρηστικό περιεχόμενο και θα εκτελέσει την κατάργηση των συνομιλιών με σημαία. Τα μέτρα αυτά αποτελούν μέρος μιας ευρύτερης προσπάθειας να διασφαλιστεί ότι τα μοντέλα τεχνητής νοημοσύνης δεν διευκολύνουν τη δημιουργία ή τη διανομή επιβλαβούς υλικού.

Η εταιρεία έχει θεσπίσει μια αυστηρή πολιτική επιβολής για τους χρήστες που παραβιάζουν αυτές τις οδηγίες ασφαλείας. Οι παραβιάσεις στο ChatGPT θα έχουν ως αποτέλεσμα την 24ωρη αναστολή της πρόσβασης. Για τους χρήστες που διαπράττουν επανειλημμένες παραβιάσεις, οι συνέπειες μπορεί να περιλαμβάνουν μεγαλύτερους περιορισμούς, κλείσιμο λογαριασμού ή αναφορά στις αρχές. Αυτές οι πειθαρχικές ενέργειες αποσκοπούν στην αποτροπή της χρήσης της τεχνητής νοημοσύνης για παράνομες δραστηριότητες.

Υποστήριξη και διανομή προγραμματιστών

Για να υποστηρίξει το ευρύτερο τεχνολογικό οικοσύστημα, η OpenAI κυκλοφορεί αυτό το εργαλείο δωρεάν σε επαληθευμένους οργανισμούς μέσω της διεπαφής προγραμματισμού εφαρμογών (API). Αυτό επιτρέπει σε άλλες πλατφόρμες και προγραμματιστές να ενσωματώσουν προηγμένες δυνατότητες ανίχνευσης στα δικά τους συστήματα. Παρέχοντας την τεχνολογία μέσω ενός API, η OpenAI στοχεύει στη δημιουργία μιας τυποποιημένης μεθόδου για τον εντοπισμό και την αναφορά καταχρηστικού υλικού σε διάφορα ψηφιακά περιβάλλοντα.

Επιπλέον, η OpenAI έχει δημοσιεύσει κατευθυντήριες γραμμές για να βοηθήσει τους προγραμματιστές στην ανίχνευση και την αναφορά καταχρηστικού υλικού. Αυτές οι κατευθυντήριες γραμμές παρέχουν τεχνικά και διαδικαστικά πλαίσια για να βοηθήσουν τους μηχανικούς λογισμικού και τους χειριστές πλατφορμών να διατηρήσουν τα πρότυπα ασφαλείας. Η πρωτοβουλία αποτελεί ένα σημαντικό βήμα στην προσπάθεια του κλάδου να διαχειριστεί τους κινδύνους που συνδέονται με το περιεχόμενο που δημιουργείται από την τεχνητή νοημοσύνη και τον πολλαπλασιασμό του ψηφιακού υλικού κακοποίησης παιδιών.

Αυτό το άρθρο γράφτηκε με τη βοήθεια AI βάσει πολλών ειδησεογραφικών ρεπορτάζ και ελέγχεται από τους συντάκτες μας σύμφωνα με τις συντακτικές μας αρχές. Συντακτικές αρχές · Πληροφορίες & Επικοινωνία

Πώς σας φάνηκε αυτή η ανάρτηση;

Σχόλια 0

Γράψτε το πρώτο σχόλιο

Επικοινωνία

← Ειδήσεις Τουρκίας Αρχική
Ειδήσεις Τουρκίας Λάβετε τις νέες αναρτήσεις με emailΕγγραφείτε για να λαμβάνετε νέο περιεχόμενο με email. Μπορείτε να διαγραφείτε οποιαδήποτε στιγμή.
Σας φάνηκε χρήσιμο;Μοιραστείτε το με φίλους και στα social