Έντονη ανησυχία προκαλεί σε κυβερνήσεις και χρηματοπιστωτικούς οργανισμούς το Claude Mythos, ένα νέο μοντέλο τεχνητής νοημοσύνης, το οποίο εκτιμάται ότι μπορεί να εντοπίζει και να εκμεταλλεύεται κενά ασφαλείας σε κρίσιμα συστήματα.
Το AI μοντέλο που ανέπτυξε η εταιρεία Anthropic βρέθηκε στο επίκεντρο συζητήσεων σε πρόσφατες συναντήσεις κορυφαίων αξιωματούχων, μετά από ενδείξεις ότι μπορεί να αποκαλύπτει αδυναμίες σε ευρέως χρησιμοποιούμενα λειτουργικά συστήματα.
Το θέμα συζητήθηκε εκτενώς στη σύνοδο του Διεθνές Νομισματικού Ταμείου στην Ουάσινγκτον, σύμφωνα με τον υπουργό Οικονομικών του Καναδά, François-Philippe Champagne. Όπως ανέφερε, το ζήτημα «είναι αρκετά σοβαρό ώστε να απασχολεί όλους τους υπουργούς Οικονομικών».
Ο ίδιος σημείωσε ότι, σε αντίθεση με γνωστά γεωπολιτικά σημεία κινδύνου, όπως το Στενό του Ορμούζ, όπου οι παράμετροι είναι σαφείς, στην περίπτωση αυτή «έχουμε να κάνουμε με το άγνωστο».
Γιατί το Claude Mythos προκαλεί ανησυχία
Το Claude Mythos αποτελεί ένα από τα πιο πρόσφατα μοντέλα της Anthropic και εντάσσεται στην ευρύτερη πλατφόρμα τεχνητής νοημοσύνης Claude, η οποία ανταγωνίζεται εργαλεία όπως το ChatGPT και το Gemini.
Το μοντέλο παρουσιάστηκε νωρίτερα αυτόν τον μήνα, με τους δοκιμαστές να επισημαίνουν ότι είναι ιδιαίτερα ικανό στο να εντοπίζει και να αξιοποιεί κενά ασφαλείας, ακόμη και σε σενάρια που θεωρούνται εκτός των κανονικών ορίων λειτουργίας τέτοιων συστημάτων.
Η εταιρεία δεν έχει προχωρήσει στη δημόσια διάθεση του Mythos, επικαλούμενη ανησυχίες ότι θα μπορούσε να εντοπίσει παλαιά σφάλματα λογισμικού ή να προσφέρει τρόπους εύκολης εκμετάλλευσης ευπαθειών. Αντί για αυτό, το έχει διαθέσει περιορισμένα σε μεγάλες εταιρείες τεχνολογίας, όπως η Amazon Web Services, η Microsoft και η Nvidia, στο πλαίσιο πρωτοβουλίας με στόχο την ενίσχυση της ασφάλειας κρίσιμων συστημάτων.
Την Πέμπτη, η Anthropic ανακοίνωσε επίσης μια νέα έκδοση του υπάρχοντος μοντέλου Claude Opus, η οποία αναμένεται να επιτρέψει τη δοκιμή των δυνατοτήτων του Mythos σε λιγότερο ισχυρά περιβάλλοντα.
Παρά την έντονη συζήτηση που έχει προκαλέσει, ορισμένοι ειδικοί εκφράζουν επιφυλάξεις για το κατά πόσο οι ανησυχίες είναι δικαιολογημένες, επισημαίνοντας ότι το μοντέλο δεν έχει ακόμη δοκιμαστεί ευρέως από τη βιομηχανία.
Ανεξάρτητη αξιολόγηση από το AI Security Institute στο Ηνωμένο Βασίλειο, που έχει αποκτήσει πρόσβαση σε δοκιμαστική έκδοση του μοντέλου, δίνει μια πιο μετριοπαθή εικόνα των δυνατοτήτων του.
Πώς το Mythos εντοπίζει κενά ασφαλείας
Σύμφωνα με την έκθεση, το Mythos μπορεί να εντοπίζει και να αξιοποιεί κενά ασφαλείας σε συστήματα με χαμηλό επίπεδο προστασίας, χωρίς όμως να εμφανίζει σαφώς ανώτερες επιδόσεις σε σχέση με προηγούμενα μοντέλα της ίδιας εταιρείας.
Οι ερευνητές σημειώνουν ότι πρόκειται για ένα ισχυρό εργαλείο, αλλά όχι για μια δραματική τεχνολογική υπέρβαση. Προσθέτουν επίσης ότι είναι πιθανό να εμφανιστούν σύντομα και άλλα μοντέλα με παρόμοιες δυνατότητες.
Παράλληλα, υπογραμμίζεται ότι δεν είναι η πρώτη φορά που εταιρεία τεχνητής νοημοσύνης επιλέγει να μην διαθέσει άμεσα ένα μοντέλο, επικαλούμενη κινδύνους κατάχρησης. Το 2019, η OpenAI είχε ακολουθήσει παρόμοια προσέγγιση με το GPT-2, καθυστερώντας τη διάθεσή του λόγω ανησυχιών για πιθανή κακόβουλη χρήση.
Ορισμένοι ειδικοί επισημαίνουν ότι τέτοιες κινήσεις μπορεί να λειτουργούν και ως μέσο ενίσχυσης της δημοσιότητας γύρω από ένα νέο μοντέλο, χωρίς να είναι πάντα σαφές το πραγματικό επίπεδο κινδύνου.
Ο τραπεζικός κλάδος προετοιμάζεται για τα AI μοντέλα του μέλλοντος
Την ίδια στιγμή, μεγάλες τράπεζες και αρχές εποπτείας προετοιμάζονται για την πιθανή επίδραση τέτοιων τεχνολογιών στα συστήματά τους.
Ανώτατα στελέχη τραπεζών αναμένεται να αποκτήσουν πρόσβαση στο μοντέλο πριν από οποιαδήποτε ευρύτερη διάθεσή του, ώστε να δοκιμάσουν την αντοχή των υποδομών τους. Ο διευθύνων σύμβουλος της Barclays, C.S. Venkatakrishnan, δήλωσε ότι η εξέλιξη «είναι αρκετά σοβαρή ώστε να προκαλεί ανησυχία», επισημαίνοντας την ανάγκη να εντοπιστούν και να διορθωθούν γρήγορα τα κενά ασφαλείας.
«Πρέπει να κατανοήσουμε καλύτερα τι ακριβώς αποκαλύπτει και ποιες αδυναμίες φέρνει στην επιφάνεια», ανέφερε, προσθέτοντας ότι η τεχνολογία αυτή αντικατοπτρίζει το νέο, πιο διασυνδεδεμένο περιβάλλον στο οποίο λειτουργεί το χρηματοπιστωτικό σύστημα.
Αντίστοιχα, ο διοικητής της Bank of England, Andrew Bailey, προειδοποίησε ότι οι εξελίξεις πρέπει να ληφθούν πολύ σοβαρά υπόψη. Όπως ανέφερε, η χρήση τέτοιων μοντέλων μπορεί να διευκολύνει τον εντοπισμό υπαρχόντων αδυναμιών σε βασικά πληροφοριακά συστήματα, κάτι που ενδέχεται να αξιοποιηθεί και από κακόβουλους παράγοντες.
Στις Ηνωμένες Πολιτείες, το υπουργείο Οικονομικών έχει ήδη θέσει το θέμα σε μεγάλες τράπεζες, καλώντας τες να ελέγξουν τα συστήματά τους ενόψει πιθανής δημόσιας διάθεσης του μοντέλου.
Παράλληλα, πηγές από τον χρηματοπιστωτικό τομέα εκτιμούν ότι και άλλες εταιρείες τεχνητής νοημοσύνης ενδέχεται να παρουσιάσουν σύντομα παρόμοια μοντέλα, χωρίς απαραίτητα να ακολουθήσουν τις ίδιες προληπτικές πρακτικές.
Με πληροφορίες από BBC
