Ειδικοί σε θέματα κυβερνοασφάλειας που κατάφεραν να παραβιάσουν τα συστήματα της OpenAI προειδοποιούν ότι η βιομηχανία τεχνητής νοημοσύνης παραμένει απροετοίμαστη απέναντι στους κινδύνους που γεννά η αλματώδης ανάπτυξη της τεχνολογίας της.
Ερευνητές της εταιρείας κυβερνοασφάλειας Hacktron απέκτησαν πρόσβαση στα συστήματα της OpenAI χρησιμοποιώντας το chatbot Claude, το οποίο αναπτύσσει η Anthropic.
Σύμφωνα με αναρτήσεις της Hacktron στο X το βράδυ της Πέμπτης, οι ερευνητές στόχευσαν αρχικά ένα δημόσιο φόρουμ συζητήσεων και στη συνέχεια εισέβαλαν στα ιδιωτικά συστήματα της OpenAI, αποκτώντας πρόσβαση ακόμη και σε τμήματα του εσωτερικού της κώδικα.
Η OpenAI διόρθωσε το κενό ασφαλείας και κατέβαλε στους ερευνητές αμοιβή 6.500 δολαρίων για τον εντοπισμό του. Ωστόσο, το περιστατικό αυτό, σε συνδυασμό με άλλα συμβάντα όπου μοντέλα τεχνητής νοημοσύνης συνδέθηκαν αυτόνομα στο διαδίκτυο και επιτέθηκαν σε άλλες εταιρείες, προκαλεί την έντονη αντίδραση ειδικών του χώρου. Όπως επισημαίνουν, τα μέτρα που λαμβάνουν οι εταιρείες AI δεν συνάδουν με την κολοσσιαία ισχύ που οι ίδιες ισχυρίζονται ότι διαθέτουν τα συστήματά τους.
Γιατί ειναι ευάλωτη η OpenAI
Ο Μοχάν Πεντχαπάτι, ένας από τους ερευνητές της Hacktron, τόνισε ότι η χρήση συμβατικού λογισμικού όπως το Slack, κοινών browsers και άλλων εφαρμογών προσβάσιμων από το διαδίκτυο καθιστά την OpenAI ευάλωτη.
«Αν οι δημιουργοί αυτών των συστημάτων πιστεύουν πραγματικά ότι η τεχνολογία τους ενέχει κινδύνους ανάλογους με εκείνους των πυρηνικών όπλων και μιλούν για επιβράδυνση της ανάπτυξής της, γιατί χρησιμοποιούν κοινόχρηστα λογισμικά για τέτοια εργασία;» έγραψε ο Πεντχαπάτι στο X το πρωί του Σαββάτου.
Ο διευθύνων σύμβουλος της OpenAI, Σαμ Άλτμαν, τάχθηκε πρόσφατα υπέρ της επιβράδυνσης των ρυθμών ανάπτυξης της AI, εκφράζοντας φόβους ότι οι δυνατότητες των μοντέλων ξεπερνούν πλέον την ικανότητα της βιομηχανίας να τα ελέγξει.
«Ευχαριστούμε τους ερευνητές που επικοινώνησαν μαζί μας και μοιράστηκαν τα ευρήματά τους», ανέφερε εκπρόσωπος της OpenAI, σημειώνοντας παράλληλα ότι η εταιρεία αυστηροποίησε τα μέτρα ασφαλείας της.
«Προειδοποιητική βολή»
Ο Φρανκ Τσιλούφο, διευθυντής του Ινστιτούτου McCrary για την Κυβερνοασφάλεια στο Πανεπιστήμιο Auburn, χαρακτήρισε το περιστατικό «προειδοποιητική βολή», σημειώνοντας πως οι ερευνητές πραγματοποίησαν την επίθεση ξοδεύοντας μόλις 3.000 δολάρια για τη χρήση των συστημάτων της Anthropic.
«Αν τρεις υπεύθυνοι ερευνητές με εργαλεία εμπορικής τεχνητής νοημοσύνης κατάφεραν τέτοια πρόσβαση μέσα σε λίγες μέρες, πρέπει να θεωρήσουμε βέβαιο ότι καλά χρηματοδοτούμενες ξένες μυστικές υπηρεσίες επιχειρούν συνεχώς το ίδιο, χωρίς φυσικά να ενημερώνουν κανέναν», ανέφερε ο Τσιλούφο.
Ειδικοί σε θέματα εθνικής ασφάλειας προειδοποιούν εδώ και καιρό ότι οι αμερικανικές εταιρείες AI αποτελούν στόχο χάκερ που υποστηρίζονται από ξένες κυβερνήσεις με στόχο τη μείωση της τεχνολογικής υπεροχής των ΗΠΑ. Η Κίνα, εξάλλου, έχει επιδείξει συστηματική δραστηριότητα στην υποκλοπή αμερικανικών τεχνολογικών μυστικών.
Οι εκκλήσεις για επιβράδυνση της τεχνητής νοημοσύνης έχουν ωθήσει Αμερικανούς νομοθέτες και από τα δύο κόμματα να ζητούν αυστηρότερο κρατικό έλεγχο. Αντίθετα, ο πρόεδρος Ντόναλντ Τραμπ απορρίπτει σταθερά τέτοιες προτάσεις, υποστηρίζοντας ότι η βιομηχανία πρέπει να κινηθεί επιθετικά για να διατηρήσει το προβάδισμά της έναντι της Κίνας.
Με πληροφορίες από Washington Post
