Τα νέα από το Βελεστίνο και τον Δήμο Ρήγα Φεραίο

Απολύσεις στην OpenAI για «κακοδιαχείριση ευαίσθητων πληροφοριών»


Η OpenAI απέλυσε τρεις ερευνητές με την κατηγορία του κακού χειρισμού πληροφοριών, συμπεριλαμβανομένης εργασίας που περιλάμβανε την ανάλυση μοντέλων τεχνητής νοημοσύνης από εξωτερικό οργανισμό.

«Η έρευνά μας επιβεβαίωσε ότι τα άτομα αυτά διαχείρίστηκαν εσφαλμένα ευαίσθητες πληροφορίες εκτός των θεσπισμένων διαδικασιών της εταιρείας, παραβιάζοντας τις πολιτικές μας και κλονίζοντας την εμπιστοσύνη που είναι απαραίτητη για την εργασία μας», δήλωσε εκπρόσωπος της OpenAI στο BBC.

Στο ενδιάμεσο, η OpenAI, δημιουργός του ChatGPT, δεν κατονόμασε τους απολυμένους εργαζομένους, ωστόσο τουλάχιστον δύο από αυτούς εμπλέκονταν στην έρευνα για την ασφάλεια της τεχνητής νοημοσύνης στην εταιρεία.

Απολύσεις στην OpenAI: Γιατί έχει βρεθεί στο επίκεντρο η εταιρεία

Υπενθυμίζεται πως οι συγκεκριμένες απολύσεις έρχονται σε μια περίοδο που η συζήτηση σχετικά με την ασφάλεια της τεχνητής νοημοσύνης και τους κινδύνους, που μπορεί να «κρύβει» η τεχνολογία για την ανθρωπότητα, έχει αυξηθεί τους τελευταίους μήνες.

«Διακόψαμε τη συνεργασία μας με τρία άτομα λόγω παραβίασης των πολιτικών μας σχετικά με την πρόσβαση και τη διαχείριση ευαίσθητων εταιρικών πληροφοριών», ανέφερε εκπρόσωπος της OpenAI.

Όπως ειπώθηκε, οι ανησυχίες για την ασφάλεια της τεχνητής νοημοσύνης βρέθηκαν στο επίκεντρο της δημοσιότητας, αφού ορισμένοι ερευνητές και στελέχη του κλάδου ζήτησαν τη θέσπιση περισσότερων δικλίδων ασφάλειας γύρω από την τεχνολογία.

Τα περιστατικά με την OpenAI

Η OpenAI έχει βρεθεί στο στόχαστρο έντονης κριτικής αφού μοντέλα της φέρεται να «ξέφυγαν από τον έλεγχο» των χειριστών τους, και χακάραν αρκετές πλατφόρμες, συμπεριλαμβανομένων ιστοσελίδων της κυβέρνησης της Αυστραλίας.

Σε ένα περιστατικό τον Ιούλιο, ένα από τα μοντέλα AI της εταιρείας απέκτησε πρόσβαση στο διαδίκτυο και παραβίασε την πλατφόρμα λογισμικού ανοιχτού κώδικα Hugging Face.

Το περιστατικό αυτό ώθησε την OpenAI να αναθεωρήσει τις δραστηριότητες των «πρακτόρων AI», οι οποίοι έχουν σχεδιαστεί για να εκτελούν εργασίες αυτόνομα με βάση απλές οδηγίες.

Η εταιρεία δήλωσε αυτή την εβδομάδα ότι έχει ειδοποιήσει περισσότερους από 100 οργανισμούς σχετικά με περιστατικά που περιλαμβάνουν μη εξουσιοδοτημένη δραστηριότητα συνδεδεμένη με τα συστήματά της.

Η σχετική ειδοποίηση «δεν σημαίνει ότι υπήρξε πρόσβαση σε ιδιωτικές πληροφορίες» ή ότι ένα σύστημα παραβιάστηκε, διευκρίνισε η OpenAI.

Με πληροφορίες από BBC





Πηγή: www.lifo.gr