Η OpenAI περιορίζει τις πληροφορίες σχετικά με όπλα σε εφήβους που χρησιμοποιούν το ChatGPT

Η OpenAI ανακοίνωσε ότι αυστηροποιεί τους περιορισμούς στις πληροφορίες σχετικά με όπλα που παρέχει το ChatGPT σε εφήβους, ακόμη και όταν μια ερώτηση φαίνεται ακίνδυνη, στο πλαίσιο νέων μέτρων ασφαλείας που αποσκοπούν στην αποτροπή της πραγματικής βίας.

Η απόφαση έρχεται σε μια περίοδο κατά την οποία οι εταιρείες τεχνητής νοημοσύνης βρίσκονται αντιμέτωπες με αυξανόμενο έλεγχο σχετικά με τους κινδύνους που ενδέχεται να εγκυμονούν τα chatbot για τους νεαρούς χρήστες, καθώς και με τον ρόλο των ίδιων των εταιρειών στον εντοπισμό πιθανών απειλών πρόκλησης βλάβης.

Το ενημερωτικό δελτίο Misinformation Monitor συγκεντρώνει διεθνείς περιπτώσεις και αφηγήματα παραπληροφόρησης, ενώ σε κάθε έκδοσή του περιλαμβάνει ένα κουίζ με τίτλο «Αληθινό ή Ψεύτικο;». Οι ενδιαφερόμενοι μπορούν να εγγραφούν μέσω του σχετικού συνδέσμου.

Η OpenAI θα περιορίσει την παροχή πρακτικών πληροφοριών σχετικά με όπλα και συστήματα ασφαλείας, οι οποίες θα μπορούσαν να χρησιμοποιηθούν με επιβλαβή τρόπο. Οι περιορισμοί θα ισχύουν για τους εφήβους ακόμη και όταν δεν υπάρχουν ενδείξεις πρόθεσης άσκησης βίας.

Για όλους τους χρήστες το ChatGPT θα έχει τη δυνατότητα να τερματίζει αυτόματα συνομιλίες στις οποίες κάποιος φαίνεται να έχει αναπτύξει εμμονή με τη βία. Παράλληλα, η OpenAI ενδέχεται να προχωρά σε προσωρινή αναστολή λογαριασμών έπειτα από επανειλημμένες συνομιλίες αυτού του είδους.

Η βελτίωση

Η εταιρεία ανακοίνωσε επίσης ότι ενίσχυσε το σύστημα πρόβλεψης ηλικίας ώστε οι χρήστες που εκτιμάται ότι είναι κάτω των 18 ετών να μεταφέρονται αυτόματα στην ειδικά διαμορφωμένη εμπειρία για εφήβους. Επιπλέον σχεδιάζει να ενημερώνει τους γονείς εάν ο λογαριασμός του παιδιού τους τεθεί σε αναστολή λόγω επανειλημμένων συζητήσεων σχετικά με τη βία.

Για όλους τους χρήστες η εταιρεία περιορίζει το επίπεδο λεπτομέρειας των πληροφοριών σχετικά με παλαιότερες μαζικές επιθέσεις, συμπεριλαμβανομένων των όπλων που χρησιμοποιήθηκαν και του τρόπου με τον οποίο αποκτήθηκαν. Η OpenAI ανέφερε ότι τα νέα μέτρα ασφαλείας θα αρχίσουν να εφαρμόζονται σταδιακά μέσα στις επόμενες εβδομάδες και ότι θα συνεχίσει να τα βελτιώνει.

Νωρίτερα αυτόν τον μήνα, η OpenAI είχε ανακοινώσει ότι οι έφηβοι χρησιμοποιούν το ChatGPT κατά μέσο όρο λιγότερο από 15 λεπτά την ημέρα. Η ανακοίνωση περιλαμβανόταν στην πρώτη έκθεση της εταιρείας σχετικά με τη χρήση της υπηρεσίας από εφήβους.

Έκθεση του μη κερδοσκοπικού οργανισμού Common Sense Media, η οποία δημοσιεύθηκε επίσης νωρίτερα αυτόν τον μήνα, διαπίστωσε ότι η ειδική έκδοση του ChatGPT για εφήβους συχνά ειδοποιούσε καθυστερημένα τους γονείς ή δεν τους ειδοποιούσε καθόλου όταν στους λογαριασμούς των εφήβων καταγράφονταν συνομιλίες σχετικά με την αυτοκτονία, τον αυτοτραυματισμό ή τις διατροφικές διαταραχές.

Naftemporiki.gr