Και άλλες περιπτώσεις στις οποίες αυτόνομοι πράκτορες τεχνητής νοημοσύνης διέφυγαν από το περιβάλλον περιορισμού, ανακάλυψε η OpenAI, μετα το περιστατικό παραβίασης στην εταιρεία τεχνολογίας Hugging Face.
Η εταιρεία έχει επεκτείνει την έρευνά της για το γεγονός που προσέλκυσε την παγκόσμια προσοχή αυτό το μήνα, ανέφεραν την Παρασκευή πηγές του Reuters.
Οι νέες διαφυγές αποκαλύφθηκαν κατά τη διάρκεια της έρευνας που ανακοίνωσε δημοσίως η εταιρεία, σχετικά με το πώς ένας από τους πράκτορές της διέφυγε απο το υποτιθέμενο περιορισμένο περιβάλλον δοκιμών. Μία από τις πηγές ανέφερε ότι οι διαφυγές ήταν περιορισμένης φύσης και ότι δεν θεωρείται ότι κανένας από τους πράκτορες εγκατέλειψε το δίκτυο της OpenAI.
Η παραδοχή της OpenAI
Ένας εκπρόσωπος της OpenAI αναφέρθηκε ,σε μια δήλωση που εξέδωσε η εταιρεία την Τρίτη, στην οποία αναφερόταν ότι εξετάζει «ευρύτερη δραστηριότητα από τα μοντέλα μας» εκτός από την εισβολή στο Hugging Face.
Η ανακάλυψη περαιτέρω ανεξέλεγκτης συμπεριφοράς στην OpenAI, ακόμη και αν είναι περιορισμένης φύσης, θα μπορούσε να τροφοδοτήσει την αυξανόμενη επιθυμία για ρύθμιση που προέρχεται από τον Λευκό Οίκο και αλλού.
Η διευρυμένη έρευνα της OpenAI ξεκίνησε λίγο πριν ο κύριος ανταγωνιστής της, η Anthropic, αποκαλύψει ότι τα μοντέλα της ήταν επίσης υπεύθυνα για μια σειρά εισβολών που οδήγησαν σε παραβιάσεις σε τρεις άλλες εταιρείες, οι οποίες χρονολογούνται από τον Απρίλιο, σύμφωνα με τις δύο πηγές και μια τρίτη πηγή που είναι εξοικειωμένη με το θέμα. Η πρόσφατη ανακάλυψη άλλων παλαιότερων διαφυγών από την OpenAI δεν είχε αναφερθεί προηγουμένως.
Αυξανόμενες ανησυχίες
Εμπειρογνώμονες στον τομέα της ασφάλειας της τεχνητής νοημοσύνης δήλωσαν ότι οι νέες αποκαλύψεις σκιαγραφούν την εικόνα μιας ομάδας εργαστηρίων αιχμής, των οποίων η ικανότητα να αναπτύσσουν επικίνδυνους αυτόνομους παράγοντες παραβίασης ξεπερνά την ικανότητά τους να τους διατηρούν υπό έλεγχο.
«Έχουμε έναν ολόκληρο κλάδο όπου οι άνθρωποι που σχεδιάζουν, αναπτύσσουν και κυκλοφορούν αυτά τα εργαλεία δεν συμβαδίζουν οι ίδιοι με την υπεύθυνη ανάπτυξη αυτών των πραγμάτων και τη διατήρησή τους σε ασφαλή κατάσταση», δήλωσε ο Μορίς Τσιοντο , μαθηματικός που εργάζεται στο Κέντρο Μελέτης Υπαρξιακού Κινδύνου του Πανεπιστημίου του Κέιμπριτζ.
Το Reuters δεν μπόρεσε να εξακριβώσει ακριβώς πόσα περιστατικά εντόπισαν οι ερευνητές της OpenAI, ούτε το χρονικό πλαίσιο ή τις συνθήκες υπό τις οποίες συνέβησαν. Οι τρεις πηγές ανέφεραν ότι η OpenAI και εξωτερικοί εμπειρογνώμονες εξέταζαν δεδομένα καταγραφής από νωρίτερα μέσα στο έτος, σε μια προσπάθεια να κατανοήσουν τι ακριβώς συνέβη.
