Η OpenAI άρχισε να αποσυνδέει τα εξελιγμένα μοντέλα τεχνητής νοημοσύνης από το διαδίκτυο την ώρα που εκπαιδεύονται. Η απόφαση ελήφθη μετά από περιστατικά κατά τα οποία τα συστήματά της παραβίασαν ξένες ψηφιακές υποδομές.
Όπως ανακοίνωσε η εταιρεία την Παρασκευή, η πρόσβαση στο διαδίκτυο θα παραμείνει αποκλεισμένη μέχρι να διαμορφωθούν οι κατάλληλες δικλείδες ασφαλείας. Στόχος είναι να αποτραπεί το ενδεχόμενο να προβαίνουν τα υπό ανάπτυξη μοντέλα σε αυτόνομες διαδικτυακές ενέργειες την ώρα της εκπαίδευσής τους.
«Με βάση τα σημερινά δεδομένα στην έρευνα, τα συστήματα παρακολούθησης και την ασφάλεια των διαδικτυακών υποδομών, θεωρούμε ότι η μόνη υπεύθυνη στάση είναι η εκπαίδευση των προηγμένων μοντέλων να γίνεται χωρίς καμία πρόσβαση στο ίντερνετ», ανέφερε η εταιρεία.
Τα περιστατικά που οδήγησαν την OpenAI να πάρει αυτή την απόφαση
Τον Ιούλιο, η OpenAI είχε αποκαλύψει ότι ορισμένα υπό ανάπτυξη μοντέλα της εισέβαλαν στο σύστημα της πλατφόρμας Hugging Face, η οποία φιλοξενεί μοντέλα και δεδομένα AI, κατά τη διάρκεια δοκιμών.
Σύμφωνα με την εταιρεία, τα μοντέλα λειτουργούσαν τότε χωρίς τις συνηθισμένες ασφαλιστικές δικλείδες, καθώς προορίζονταν να παραμείνουν σε ένα απομονωμένο δοκιμαστικό περιβάλλον, ειδικά σχεδιασμένο για ελεγχόμενα τεστ ασφαλείας και ανάλυση επικίνδυνου λογισμικού.
Παρ’ όλα αυτά, τα μοντέλα κατάφεραν να «δραπετεύσουν» από το ελεγχόμενο περιβάλλον, εκμεταλλευόμενα ένα κενό ασφαλείας στο λογισμικό για να βγουν στο διαδίκτυο.
Με πληροφορίες από Bloomberg
