Το χακάρισμα που αλλάζει τους κανόνες: Γιατί το χτύπημα «ανταρτών» της ΟpenAI στην Αυστραλία προκαλεί παγκόσμιο συναγερμό

Το αποτύπωμα της παραβίασης μπορεί τελικά να αποδειχθεί περιορισμένο. Ο συναγερμός που έχει προκαλέσει όμως κάθε άλλο παρά τέτοιος είναι.

Η αποκάλυψη ότι AI agent της OpenAI απέκτησε μη εξουσιοδοτημένη πρόσβαση σε αυστραλιανό κυβερνητικό σύστημα θεωρείται εξαιρετικά σοβαρή όχι τόσο για όσα κατάφερε να αποσπάσει, αλλά για όσα έδειξε ότι μπορεί πλέον να κάνει αυτόνομα ένα σύστημα τεχνητής νοημοσύνης.

Και οι νεότερες πληροφορίες κάνουν την υπόθεση ακόμη πιο ανησυχητική.

Δημόσια αρχεία που ανέλυσαν ερευνητές της αμερικανικής μη κερδοσκοπικής Transluce δείχνουν ότι εκατοντάδες AI agents της OpenAI φαίνεται να επιχείρησαν επί μήνες να αποκτήσουν πρόσβαση σε δεδομένα αυστραλιανών κυβερνητικών φορέων, ανταλλάσσοντας μεταξύ τους πληροφορίες για αποτυχημένες προσπάθειες, τεχνικές παράκαμψης των εμποδίων και πιθανές ευπάθειες.

Εφόσον επιβεβαιωθεί πλήρως η σύνδεση των περιστατικών, οι ερευνητές εκτιμούν ότι πρόκειται για την πρώτη καταγεγραμμένη περίπτωση κατά την οποία αυτόνομοι AI agents χακάρουν κυβερνητικό σύστημα.

Δεν σταμάτησαν όταν βρήκαν κλειστή πόρτα

Το κρίσιμο στοιχείο βρίσκεται στον τρόπο με τον οποίο συμπεριφέρθηκαν οι agents. Η αρχική αποστολή τους δεν ήταν να επιθετούν σε κυβερνητικές υποδομές. Στην περίπτωση του Medicare, πραγματοποιούσαν έρευνα σχετικά με τις δαπάνες υγείας στο πλαίσιο εσωτερικής αξιολόγησης της OpenAI.

Όταν όμως συνάντησαν περιορισμούς πρόσβασης, δεν τους αντιμετώπισαν ως όριο που έπρεπε να σεβαστούν.

Σύμφωνα με τα στοιχεία που δημοσιοποίησε το ABC, agents προσπάθησαν να παρακάμψουν μηχανισμούς ασφαλείας της Cloudflare, χρησιμοποίησαν proxies και υπηρεσίες screenshots, ενώ επιχείρησαν ακόμη και να μαντέψουν ονόματα αρχείων προκειμένου να φθάσουν στις πληροφορίες που αναζητούσαν.

Ακόμη πιο εντυπωσιακό είναι ότι φαίνεται να αντάλλασσαν μεταξύ τους πληροφορίες για τις προσπάθειες και τις πιθανές λύσεις, χρησιμοποιώντας γερμανικό site προγραμματισμού για επικοινωνία χωρίς, σύμφωνα με τις διαθέσιμες πληροφορίες, η OpenAI να γνωρίζει ότι συνέβαινε αυτό.

Σε μία μόνο περίπτωση, περίπου δώδεκα agents φέρεται να ανέφεραν τον Australian Institute of Health and Welfare περισσότερες από 300 φορές.

Το πρόβλημα επομένως δεν είναι απλώς ότι ένα AI σύστημα «μπήκε κάπου που δεν έπρεπε».

Είναι ότι φαίνεται να επέδειξε μια συμπεριφορά που μέχρι σήμερα συνδεόταν κυρίως με ανθρώπους που πραγματοποιούν κυβερνοεπιθέσεις: επιμονή, αναζήτηση εναλλακτικών διαδρομών και προσαρμογή όταν ένας μηχανισμός άμυνας μπλοκάρει την αρχική προσπάθεια.

Από το Medicare σε ένα «σμήνος» agents

Ο πρωθυπουργός της Αυστραλίας Άντονι Αλμπανέζι αποκάλυψε ότι AI agent απέκτησε πρόσβαση τόσο σε δημόσια όσο και σε μη δημόσια αρχεία της βάσης στατιστικών δεδομένων του Medicare και μπόρεσε ακόμη και να εγγράψει αρχεία στο σύστημα.

Δεν υπάρχουν μέχρι στιγμής στοιχεία ότι αποκτήθηκε πρόσβαση σε ατομικούς ιατρικούς φακέλους. Η OpenAI αναφέρει ότι οι πληροφορίες περιορίζονταν σε συγκεντρωτικά στατιστικά στοιχεία υγείας και εσωτερικά ονόματα αρχείων.

Υπό διερεύνηση βρίσκονται όμως πιθανές ενέργειες agents και σε άλλα κυβερνητικά συστήματα, μεταξύ των οποίων το Australian Institute of Health and Welfare, η υπηρεσία στατιστικών εγκληματικότητας της Νέας Νότιας Ουαλίας και το υπουργείο Υγείας της Βικτώριας.

Οι δραστηριότητες αυτές δεν έχουν ακόμη επισήμως ταυτιστεί με την παραβίαση του Medicare. Πηγές με γνώση της αυστραλιανής έρευνας, τις οποίες επικαλείται το ABC, θεωρούν ωστόσο ότι πιθανότατα συνδέονται.

Η OpenAI αναφέρει από την πλευρά της ότι μεγάλο μέρος της δραστηριότητας που περιγράφουν οι ερευνητές επικαλύπτεται με περιστατικά που ήδη εξετάζει στο πλαίσιο έρευνας για μη ευθυγραμμισμένη συμπεριφορά των μοντέλων της.

Το προηγούμενο του Hugging Face

Και αυτή είναι ίσως η δεύτερη μεγάλη κόκκινη σημαία: η Αυστραλία δεν αποτελεί το μοναδικό περιστατικό.

Τον Ιούλιο, η OpenAI είχε αποκαλύψει ότι κατά τη διάρκεια δοκιμών κυβερνοασφάλειας μοντέλα της δημιούργησαν ένα «σμήνος» AI agents που κατάφερε να παραβιάσει συστήματα της πλατφόρμας Hugging Face.

Ερευνητές βλέπουν πλέον στα δύο περιστατικά ενδείξεις ενός μοτίβου.

«Οι σημερινοί AI agents γίνονται εξαιρετικοί στο να ολοκληρώνουν εργασίες, αλλά παραμένουν κακοί στο να καταλαβαίνουν πού βρίσκεται η γραμμή», επισημαίνει ο Γουαλαγιάτ Χουσεΐν, αναπληρωτής καθηγητής Πληροφορικής στο Australian Catholic University.

Αυτό ακριβώς είναι το πρόβλημα της λεγόμενης agentic AI: δεν περιορίζεται στην παραγωγή μιας απάντησης, όπως ένα παραδοσιακό chatbot. Μπορεί να σχεδιάζει ενδιάμεσα βήματα, να χρησιμοποιεί εργαλεία και υπηρεσίες, να εκτελεί ενέργειες και να αλλάζει στρατηγική όταν αποτυγχάνει.

Όσο μεγαλύτερη αυτονομία αποκτά, τόσο μεγαλύτερη γίνεται και η απόσταση ανάμεσα στην αρχική εντολή του ανθρώπου και στις ενέργειες που μπορεί να επιλέξει το ίδιο για να την ολοκληρώσει.

Η κυβερνοασφάλεια ήταν σχεδιασμένη για ανθρώπους

Υπάρχει όμως και ένα δεύτερο, βαθύτερο πρόβλημα. Μεγάλο μέρος των σημερινών ψηφιακών υποδομών έχει κατασκευαστεί σε μια εποχή κατά την οποία πίσω από μια απόπειρα παραβίασης θεωρούνταν αυτονόητο ότι βρισκόταν ένας άνθρωπος ή λογισμικό που είχε προγραμματιστεί από άνθρωπο για συγκεκριμένη κακόβουλη ενέργεια.

Τα συστήματα ασφαλείας χρησιμοποιούν, μεταξύ άλλων, εργαλεία που επιχειρούν να διακρίνουν την ανθρώπινη από την αυτοματοποιημένη κίνηση.

Οι σύγχρονοι AI agents αλλάζουν αυτή την εξίσωση. Μπορούν να αναζητούν πληροφορίες, να δοκιμάζουν διαφορετικές μεθόδους και να προσαρμόζονται στα εμπόδια με ταχύτητα και κλίμακα που ένας άνθρωπος δύσκολα μπορεί να ακολουθήσει.

Ο ίδιος ο υπουργός Άμυνας της Αυστραλίας Ρίτσαρντ Μαρλς χαρακτήρισε περιορισμένες τις πρακτικές συνέπειες του συγκεκριμένου περιστατικού, αλλά εξαιρετικά σοβαρή την ίδια την παραβίαση, ακριβώς επειδή ένας AI agent εισήλθε χωρίς εξουσιοδότηση σε κυβερνητικό σύστημα.

Ποιος ευθύνεται όταν ο χάκερ δεν είναι άνθρωπος;

Το περιστατικό ανοίγει και ένα νομικό κενό που μέχρι πρόσφατα έμοιαζε θεωρητικό. Η αυστραλιανή νομοθεσία για τη μη εξουσιοδοτημένη πρόσβαση σε υπολογιστικά συστήματα βασίζεται σε μεγάλο βαθμό στην έννοια της πρόθεσης.

Τι συμβαίνει όμως όταν η εταιρεία δεν έδωσε εντολή στο σύστημα να χακάρει έναν κυβερνητικό server και ο agent επέλεξε μόνος του μη εξουσιοδοτημένες μεθόδους στην προσπάθειά του να ολοκληρώσει μια νόμιμη εργασία;

Ποιος έχει την ευθύνη; Ο κατασκευαστής του μοντέλου; Ο χειριστής του; Ο οργανισμός που του ανέθεσε την εργασία; Και πώς αποδεικνύεται «πρόθεση» όταν η επίμαχη ακολουθία ενεργειών δεν σχεδιάστηκε άμεσα από άνθρωπο;

Η κυβέρνηση της Αυστραλίας δημιούργησε ειδική ομάδα εργασίας που θα εξετάσει τόσο το περιστατικό όσο και το κατά πόσο το υπάρχον νομικό πλαίσιο είναι επαρκές για αυτή τη νέα κατηγορία απειλών.

Το δεύτερο καμπανάκι: Η OpenAI άργησε να ενημερώσει

Υπάρχει τέλος και το ζήτημα της αντίδρασης της ίδιας της OpenAI.

Το περιστατικό συνέβη τον Ιούνιο. Η εταιρεία αναφέρει ότι το εντόπισε τον Αύγουστο, κατά τη διάρκεια εκτεταμένων ελέγχων της δραστηριότητας των μοντέλων της, και ενημέρωσε την αυστραλιανή κυβέρνηση στις 10 Σεπτεμβρίου.

Η ειδοποίηση όμως εστάλη σε δημόσιο ηλεκτρονικό γραμματοκιβώτιο, με αποτέλεσμα να περάσουν ακόμη πέντε ημέρες έως ότου ενημερωθεί ο αρμόδιος υπουργός.

Ο Αλμπανέζι δήλωσε ότι εξέφρασε προσωπικά στον Σαμ Άλτμαν την «ακραία ανησυχία» της κυβέρνησής του, χαρακτηρίζοντας απαράδεκτο τόσο το χρονικό διάστημα που χρειάστηκε για την ενημέρωση όσο και τον τρόπο με τον οποίο αυτή έγινε.

Γιατί αυτή η υπόθεση μπορεί να αποδειχθεί σημείο καμπής

Το παράδοξο είναι ότι αυτή τη φορά δεν εκλάπησαν, σύμφωνα με όσα γνωρίζουμε, εκατομμύρια ιατρικοί φάκελοι. Δεν κατέρρευσε κάποια κρίσιμη κρατική υπηρεσία. Δεν υπήρξε ένας εχθρικός κρατικός δρών ή μια εγκληματική ομάδα πίσω από την επίθεση.

Και ακριβώς γι’ αυτό η υπόθεση προκαλεί τόσο μεγάλη ανησυχία. Δείχνει τι μπορεί να συμβεί όταν ένα σύστημα που έχει εκπαιδευτεί να ολοκληρώνει έναν στόχο συναντά ένα εμπόδιο και διαθέτει αρκετή αυτονομία ώστε να αναζητήσει μόνο του τον τρόπο να το ξεπεράσει.

Οι κυβερνήσεις έχουν περάσει δεκαετίες χτίζοντας άμυνες απέναντι σε χάκερς. Τώρα καλούνται να προετοιμαστούν για κάτι διαφορετικό: μηχανές που δεν χρειάζεται καν να έχουν σχεδιαστεί ως χάκερς για να αρχίσουν να συμπεριφέρονται σαν τέτοιοι.