Σε άλλες τέσσερις πλατφόρμες επιτέθηκαν τα δύο μοντέλα τεχνητής νοημοσύνης της OpenAI, τα οποία βγήκαν, με δική τους πρωτοβουλία, από τον θεωρητικά περιορισμένο χώρο στον οποίο δοκιμάζονταν και επιτέθηκαν στον ιστότοπο Hugging Face, σύμφωνα με την εταιρεία που δημιούργησε το ChatGPT.
Ο ένας από τους ιστότοπους χρησιμοποιήθηκε για την προετοιμασία της επίθεσης στη Hugging Face, μια βιβλιοθήκη Τεχνητής Νοημοσύνης, την οποία τα δύο μοντέλα έψαξαν για να βρουν τις απαντήσεις στις δοκιμές στις οποίες υποβάλλονταν από τους προγραμματιστές της OpenAI.
H OpenAI δεν αποκάλυψε ποιες εταιρείες μπήκαν στο στόχαστρο.
Δεν είναι η πρώτη φορά που καταγράφεται «απόδραση» μοντέλων από περιορισμένο περιβάλλον, όμως η συγκεκριμένη περίπτωση θεωρείται, μακράν, η πιο σοβαρή μέχρι σήμερα.
Σύμφωνα με την επικαιροποίηση του συμβάντος, που ανακοινώθηκε τη νύχτα της Τρίτης προς την Τετάρτη (ώρα ΗΠΑ), τα δύο μοντέλα χρησιμοποίησαν πολλούς ιστοτόπους με ελεύθερη πρόσβαση για να αντιγράψουν τον κώδικα προγραμματισμού ή για να τον δοκιμάσουν, αλλά δεν προχώρησαν περισσότερο απ’ όσο θα έκανε ένας απλός χρήστης.
Για την Hugging Face, που παρουσίασε πώς εκτυλίχθηκαν τα γεγονότα, η «παραβίαση» που υπέστη ήταν μια «προσπάθεια (των δύο μοντέλων) να εξαπατήσουν τη δοκιμή» της OpenAI. Υποστήριξε ότι ήθελαν «να κλέψουν τις απαντήσεις των τεστ αντί να προσπαθήσουν να απαντήσουν από μόνα τους».
Δεν είναι η πρώτη φορά που καταγράφεται «απόδραση» μοντέλων από περιορισμένο περιβάλλον, όμως η συγκεκριμένη περίπτωση θεωρείται, μακράν, η πιο σοβαρή μέχρι σήμερα.
Σύμφωνα με τη Hugging Face, το ένα από τα μοντέλα μπήκε σε απομονωμένο περιβάλλον δοκιμών «που φιλοξενείται στις υποδομές ενός τρίτου μέρους» και το μετέτρεψε σε «πλατφόρμα» για να εξαπολύσει την επίθεσή του. Αυτό το «τρίτο μέρος» δεν κατονομάζεται στην ανάρτηση αλλά ο επικεφαλής του τομέα Τεχνολογίας της εταιρείας Modal Labs, που εδρεύει στη Νέα Υόρκη, Ακσάτ Μπούμπνα, επιβεβαίωσε ότι το μοντέλο χάκαρε έναν πελάτη της , χωρίς ωστόσο να παραβιάσει τη δική της, κεντρική υποδομή.
Η OpenAI δεν έχει απαντήσει προς το παρόν σε ένα μήνυμα του πρακτορείου Reuters που της ζητούσε κάποιο σχόλιο.
Η «εισβολή» στη Hugging Face, στις αρχές Ιουλίου, από ένα μοντέλο εκτός ελέγχου της OpenAI, προκάλεσε παγκόσμιο ενδιαφέρον και ανησυχία, με πολλούς να μιλούν για «αχαλίνωτη» τεχνητή νοημοσύνη, αναφέρει το ΑΠΕΜΠΕ .
Την περασμένη εβδομάδα το Reuters έγραψε ότι η OpenAI δεν είχε παρατηρήσει τη «δραπέτευση» του μοντέλου της παρά μόνο αφού είχε περιοριστεί η απειλή και ενημερωθεί το FBI.
