Άλλο ένα περιστατικό παραβίασης ασφάλειας στην τεχνητή νοημοσύνη ήρθε στο προσκήνιο αυτή τη φορά από τη Google, η οποία δημοσιοποίησε ότι το μοντέλο της, Gemini, συνδέθηκε στο διαδίκτυο και παραβίασε συστήματα άλλων εταιρειών κατά τη διάρκεια δοκιμής των δυνατοτήτων του στον τομέα της κυβερνοασφάλειας. Όπως σημειώνει η Wall Street Journal, πρόκειται για το πρώτο γνωστό παράδειγμα όπου συστήματα τεχνητής νοημοσύνης της εταιρείας προέβησαν αυτόνομα σε μια τέτοια πράξη.
Οι παραβιάσεις, τις οποίες επιβεβαίωσε η εταιρεία την Παρασκευή, σημειώθηκαν τον Μάιο στο πλαίσιο δοκιμής που διεξήγαγε η εταιρεία Irregular, η οποία είχε εμπλακεί και σε παρόμοια περιστατικά
Οι παραβιάσεις, τις οποίες επιβεβαίωσε η εταιρεία την Παρασκευή, σημειώθηκαν τον Μάιο στο πλαίσιο δοκιμής που διεξήγαγε η εταιρεία Irregular, η οποία είχε εμπλακεί και σε παρόμοια περιστατικά που αποκαλύφθηκαν από τις OpenAI, Anthropic και Meta. Σε μία από τις περιπτώσεις, το μοντέλο δοκίμαζε κωδικούς πρόσβασης μέχρι να αποκτήσει πρόσβαση σε ένα προστατευμένο σύστημα. Στις άλλες δύο περιπτώσεις, το μοντέλο εντόπισε διαπιστευτήρια σε ένα δημόσιο αποθετήριο, τα οποία του επέτρεψαν στη συνέχεια να αποκτήσει πρόσβαση σε προστατευμένα συστήματα. Σε κάθε περίπτωση, το μοντέλο τερμάτισε την εισβολή αφού διαπίστωσε ότι είχε αποκτήσει πρόσβαση στα συστήματα μιας πραγματικής εταιρείας, ανέφερε η Google.
Προβληματίζουν τα περιστατικά παραβιάσεων ασφάλειας στην τεχνητή νοημοσύνη
Μια πρόσφατη σειρά παραβιάσεων από συστήματα τεχνητής νοημοσύνης με αυτονομία έχει πυροδοτήσει μια παγκόσμια συζήτηση σχετικά με τους αυξανόμενους κινδύνους της τεχνητής νοημοσύνης και τα μέτρα που απαιτούνται για τον μετριασμό τους.
Ο Διευθύνων Σύμβουλος της Anthropic, Ντάριο Αμοντέι, έχει ζητήσει μια επιβράδυνση της ανάπτυξης της τεχνολογίας σε επίπεδο κλάδου — μια πρόταση που υποστηρίχθηκε από τον Διευθύνοντα Σύμβουλο της OpenAI, Σαμ Άλτμαν, τον Ίλον Μασκ και άλλους.
Ο πρόεδρος των ΗΠΑ, Ντόναλντ Τραμπ, ο Διευθύνων Σύμβουλος της Nvidia, Τζένσεν Χουάνγκ και ο Διευθύνων Σύμβουλος της Meta, Μαρκ Ζάκερμπεργκ, συγκαταλέγονται μεταξύ εκείνων που έχουν αντιταχθεί στην ιδέα νέας ρύθμισης, υποστηρίζοντας, μεταξύ άλλων, ότι οι εταιρείες θα πρέπει να είναι σε θέση να αυτορυθμίζονται.
Ορισμένες startup τεχνητής νοημοσύνης έχουν επίσης προειδοποιήσει ότι η επιβολή περισσότερων κανονισμών απειλεί να δυσχεράνει την ανταγωνιστικότητα των μικρότερων εταιρειών έναντι των μεγαλύτερων ανταγωνιστών τους.
Τα περιστατικά παραβίασης της Gemini «υπογραμμίζουν τη σημασία της εκπαίδευσης ισχυρών μοντέλων τεχνητής νοημοσύνης ώστε να ενεργούν υπεύθυνα», δήλωσε η Xίδερ Άντκινς, αντιπρόεδρος του τμήματος μηχανικής ασφάλειας της Google.
Οι άλλες παραβιάσεις του Gemini συνέβησαν όταν το μοντέλο πραγματοποίησε αναζητήσεις στο διαδίκτυο χρησιμοποιώντας το όνομα της εταιρείας. H Άντκινς ανέφερε ότι αυτό οδήγησε το μοντέλο σε δημόσια διαδικτυακά αποθετήρια που περιείχαν διαπιστευτήρια άλλων εταιρειών, τα οποία χρησιμοποίησε για να αποκτήσει πρόσβαση σε περισσότερα συστήματα.
«Και στις τρεις αυτές περιπτώσεις, το μοντέλο σταμάτησε», είπε ο Άντκινς. «Φροντίσαμε να ενημερωθούν οι τρεις εταιρείες.» Ο εκπρόσωπος της Irregular, Josef Laor, δήλωσε ότι η εταιρεία έλαβε «άμεσα μέτρα και όλα τα γνωστά προβλήματα από την πλευρά μας διορθώθηκαν και επιλύθηκαν πριν από εβδομάδες».
