Το αμερικανικό Πεντάγωνο εξετάζει τη χρήση προηγμένων συστημάτων τεχνητής νοημοσύνης σε κυβερνοεπιχειρήσεις, σύμφωνα με δημοσίευμα του Politico που βασίζεται σε διαρροή εσωτερικού email και σε πηγές με γνώση των σχετικών συζητήσεων.
Στο επίκεντρο βρίσκεται το Claude Mythos Preview της Anthropic, ένα ακόμη μη διαθέσιμο στο κοινό μοντέλο τεχνητής νοημοσύνης, το οποίο φέρεται να διαθέτει ιδιαίτερα εξελιγμένες δυνατότητες στον εντοπισμό ψηφιακών ευπαθειών και στην εκτέλεση σύνθετων ενεργειών hacking.
Η πρωτοβουλία προέρχεται από τη U.S. Cyber Command, τη διοίκηση του αμερικανικού στρατού που είναι αρμόδια για τις επιχειρήσεις στον κυβερνοχώρο, και αποτυπώνει την αυξανόμενη ανησυχία της Ουάσιγκτον για τη ραγδαία ανάπτυξη AI μοντέλων που μπορούν να εντοπίζουν κενά ασφαλείας και αδυναμίες σε ψηφιακά συστήματα ταχύτερα ακόμη και από εξειδικευμένους hackers.
Σύμφωνα με το Politico, η νέα ομάδα εργασίας ανακοινώθηκε πριν από περίπου δύο εβδομάδες από τον στρατηγό Τζόσουα Ραντ, ο οποίος ηγείται τόσο της Cyber Command όσο και της Υπηρεσίας Εθνικής Ασφάλειας των ΗΠΑ (NSA). Η ομάδα θα λειτουργεί από κοινού υπό τις δύο υπηρεσίες και θα εξετάσει πώς μπορούν να χρησιμοποιηθούν προηγμένα μοντέλα τεχνητής νοημοσύνης σε όλο το φάσμα των αποστολών του Πενταγώνου, ακόμη και σε συστήματα υψηλής διαβάθμισης που διαχειρίζονται απόρρητες πληροφορίες των αμερικανικών υπηρεσιών πληροφοριών.
Η συζήτηση στις αμερικανικές υπηρεσίες ασφαλείας εντάθηκε μετά την παρουσίαση του Claude Mythos από την Anthropic, ενός νέου AI μοντέλου που, σύμφωνα με την ίδια την εταιρεία, διαθέτει τόσο εξελιγμένες δυνατότητες στον εντοπισμό και την εκμετάλλευση κυβερνοευπαθειών ώστε η πρόσβαση σε αυτό θα περιοριστεί μόνο σε επιλεγμένους οργανισμούς κυβερνοασφάλειας. Η Anthropic είχε προειδοποιήσει ότι η ανεξέλεγκτη διάδοση τέτοιων εργαλείων θα μπορούσε να έχει «σοβαρές» συνέπειες για την οικονομία, τη δημόσια ασφάλεια και την εθνική ασφάλεια.
Αλλαγή στάσης των ΗΠΑ ως προς τη ρύθμιση του AI
Παρόμοια εργαλεία αναπτύσσουν ήδη και άλλες μεγάλες εταιρείες τεχνητής νοημοσύνης, όπως η OpenAI και η Google, οι οποίες έχουν επίσης παρουσιάσει μοντέλα με προηγμένες δυνατότητες στον τομέα της κυβερνοασφάλειας και περιορίζουν την πρόσβαση σε αυτά. Σύμφωνα με εκτιμήσεις στελεχών της Anthropic, αντίστοιχες τεχνολογίες ενδέχεται να γίνουν ευρέως διαθέσιμες μέσα στους επόμενους έξι έως 24 μήνες, αυξάνοντας τον κίνδυνο χρήσης τους ακόμη και από μη εξειδικευμένους κυβερνοεγκληματίες.
Η εξέλιξη αυτή έχει προκαλέσει έντονη κινητικότητα και στον Λευκό Οίκο. Σύμφωνα με το Politico, η κυβέρνηση Τραμπ επεξεργάζεται νέο προεδρικό διάταγμα που θα υποχρεώνει εταιρείες όπως η Anthropic, η OpenAI και η Google να υποβάλλουν τα πλέον προηγμένα AI μοντέλα τους σε ομοσπονδιακό έλεγχο πριν από τη δημόσια διάθεσή τους.
Το σχέδιο σηματοδοτεί σημαντική αλλαγή στάσης για την αμερικανική κυβέρνηση, η οποία μέχρι πρόσφατα υποστήριζε μια πιο χαλαρή προσέγγιση στη ρύθμιση της τεχνητής νοημοσύνης. Οι αμερικανικές υπηρεσίες ασφαλείας επιδιώκουν πλέον να κατανοήσουν τις πραγματικές δυνατότητες αυτών των μοντέλων πριν αποκτήσουν πρόσβαση σε αυτά ανταγωνιστικές χώρες όπως η Κίνα και η Ρωσία.
Σύμφωνα με το δημοσίευμα, η νέα ομάδα εργασίας θα αξιοποιήσει και την τεχνογνωσία του AI Security Center της NSA, το οποίο ήδη συνεργάζεται με το αμερικανικό υπουργείο Εμπορίου για την αξιολόγηση των δυνατοτήτων κυβερνοασφάλειας που διαθέτουν τα λεγόμενα «frontier AI models», δηλαδή τα πιο προηγμένα μοντέλα τεχνητής νοημοσύνης που αναπτύσσονται σήμερα.
Πρώην στελέχη της Cyber Command υποστηρίζουν ότι η ενσωμάτωση εργαλείων AI στις στρατιωτικές και κυβερνοεπιχειρήσεις θεωρείται πλέον αναγκαία, τόσο για την άμυνα απέναντι σε επιθέσεις όσο και για την επιτάχυνση της λήψης αποφάσεων και των επιθετικών δυνατοτήτων των ΗΠΑ στον κυβερνοχώρο.
Η σύγκρουση με την Anthropic
Η υπόθεση αποκτά μεγαλύτερη σημασία καθώς η Anthropic βρίσκεται ήδη σε ανοιχτη διαμάχη με το Πεντάγωνο. Τον Μάρτιο, το αμερικανικό υπουργείο Άμυνας χαρακτήρισε την εταιρεία «κίνδυνο για την εφοδιαστική αλυσίδα», έπειτα από αντιπαράθεση σχετικά με τους περιορισμούς που επιδιώκει να επιβάλει η Anthropic στη χρήση των μοντέλων της σε αυτόνομα οπλικά συστήματα και εφαρμογές μαζικής παρακολούθησης.
Η απόφαση αυτή περιπλέκει την πιθανή αξιοποίηση του Claude Mythos από τις αμερικανικές ένοπλες δυνάμεις, παρότι, σύμφωνα με το Politico, η Anthropic έχει εμφανιστεί ανοιχτή στο ενδεχόμενο χρήσης του μοντέλου ακόμη και σε επιθετικές κυβερνοεπιχειρήσεις.
Νωρίτερα αυτόν τον μήνα, το Πεντάγωνο ανακοίνωσε επίσης συμφωνίες με επτά τεχνολογικές εταιρείες, μεταξύ των οποίων η OpenAI και η Google, για την ενσωμάτωση μοντέλων τεχνητής νοημοσύνης σε διαβαθμισμένα στρατιωτικά δίκτυα.
Η στρατηγική αυτή εντάσσεται στη νέα κυβερνοστρατηγική της κυβέρνησης Τραμπ, η οποία προβλέπει στενότερη συνεργασία με τον ιδιωτικό τομέα και ευρύτερη χρήση των λεγόμενων «AI-powered cybersecurity solutions» τόσο για αμυντικές όσο και για επιθετικές επιχειρήσεις στον κυβερνοχώρo.
Με πληροφορίες από Politico
