Μετά από ένα δίωρο γεύμα με τους επικεφαλής των μεγαλύτερων εταιρειών της Σίλικον Βάλεϊ, ο Ντόναλντ Τραμπ ανακοίνωσε από τον Λευκό Οίκο μια εθελοντική «συμφωνία» μεταξύ έξι ηγετικών ομίλων για την «αυτoρρύθμιση» της τεχνητής νοημοσύνης.
Ο Αμερικανός πρόεδρος δήλωσε στους δημοσιογράφους ότι το δισέλιδο κείμενο θυμίζει «σχεδόν σύνταγμα», υποστηρίζοντας ότι αποτελεί μια «μορφή προστασίας» απέναντι στους κινδύνους της τεχνητής νοημοσύνης.
Η συμφωνία απέχει παρασάγγας από τα προστατευτικά πλαίσια που ζητούσαν στελέχη της αγοράς, όπως ο Ντάριο Αμοδέι της Anthropic, αλλά και από το παγκόσμιο σύστημα διακυβέρνησης που ήλπιζαν να δουν οι ξένοι ηγέτες ενόψει της πρόσφατης Συνόδου του ΟΗΕ. Τι προβλέπει όμως στην πράξη;
Τι αναφέρει η συμφωνία
Το κείμενο περιγράφει συνοπτικά «επίπεδα ελέγχων και επιθεωρήσεων» που οφείλουν να εφαρμόσουν οι έξι πλευρές που υπογράφουν: Anthropic, OpenAI, Google, Meta, xAI και Nvidia.
Αυτά περιλαμβάνουν «αυστηρούς εσωτερικούς ελέγχους» για την παρακολούθηση απειλών κυβερνοασφάλειας και βιοασφάλειας από προηγμένα μοντέλα AI, ώστε να διασφαλιστεί ότι δεν θα παραβιάζουν συστήματα με «ανεπιθύμητους τρόπους».
Παράλληλα, οι εταιρείες δεσμεύονται να συνεργαστούν με ανεξάρτητο εξωτερικό ελεγκτή, ο οποίος θα αξιολογεί την αποτελεσματικότητα των μέτρων, αλλά και να ορίσουν μια «ανεξάρτητη επιτροπή του διοικητικού συμβουλίου» για την επίβλεψη της διαδικασίας.
Πόσο καινούργια είναι όλα αυτά;
Όχι ιδιαίτερα. Κορυφαία εργαστήρια όπως η Anthropic, η OpenAI και η Google DeepMind πραγματοποιούν ήδη αξιολογήσεις των δυνατοτήτων των προηγμένων μοντέλων τους πριν τα διαθέσουν στην αγορά. Επιπλέον, όλες οι εταιρείες, πλην της Nvidia, είχαν υπογράψει παρόμοιες δεσμεύσεις μετά τη Σύνοδο Κορυφής για την Τεχνητή Νοημοσύνη στη Σεούλ το 2024.
«Η σημασία της συμφωνίας είναι κυρίως επικοινωνιακή», σχολίασε ο Μακένζι Άρνολντ, διευθυντής αμερικανικής πολιτικής στην οργάνωση LawAI. «Δεν εκχωρεί ουσιαστική εξουσία σε κάποιον εποπτικό φορέα ώστε να επιβάλει δεσμευτικούς κανόνες με πραγματικό αντίκρισμα».
Ωστόσο, ενώ η Anthropic και η OpenAI έχουν ήδη δεχτεί να δίνουν πρόσβαση στην εργασία τους σε ανεξάρτητους αξιολογητές, η νέα συμφωνία ενδέχεται να πιέσει και τους υπόλοιπους να πράξουν το ίδιο.
Βέβαια, η επίτευξη άμεσης συμφωνίας για το ποιοι αξιολογητές θεωρούνται αξιόπιστοι φαντάζει δύσκολη. Ο Ντέιβιντ Σακς, πρώην υπεύθυνος πολιτικής AI του Λευκού Οίκου με ισχυρή επιρροή στη διοίκηση Τραμπ, έχει αμφισβητήσει ανοιχτά την ανεξαρτησία οργανισμών όπως η METR, που αξιολογεί τους κινδύνους της τεχνητής νοημοσύνης.
Είναι νομικά δεσμευτική;
Όχι με την παραδοσιακή έννοια, κάτι που παραδέχτηκε έμμεσα και ο ίδιος ο Τραμπ, χαρακτηρίζοντάς τη «ηθικά δεσμευτική». Επικριτές της Big Tech αποδοκίμασαν τη συμφωνία ως άνευ περιεχομένου, με τη Σάσα Χάγουορθ από την οργάνωση Tech Oversight Project να δηλώνει ότι επιτρέπει στους διευθύνοντες συμβούλους «να βαθμολογούν μόνοι τους τον εαυτό τους και να αποφεύγουν ουσιαστικούς κανόνες ασφαλείας».
Ορισμένοι νομικοί, πάντως, θεωρούν ότι το κείμενο αφήνει περιθώριο για μελλοντικές προσφυγές από τις ρυθμιστικές αρχές, εάν οι εταιρείες αθετήσουν τις δεσμεύσεις τους.
«Δεν μπορείς να δηλώνεις δημόσια ότι θα κάνεις κάτι και μετά να μην το πράττεις στην πράξη», σημείωσε ο Τζόελ Θέιερ, συντηρητικός δικηγόρος και σύμβουλος του America First Policy Institute. «Αυτό συνιστά παραπλάνηση των καταναλωτών».
Ο Θέιερ επισήμανε επίσης την παρουσία του προέδρου της Ομοσπονδιακής Επιτροπής Εμπορίου (FTC), Άντριου Φέργκιουσον, στο γεύμα της Τρίτης. Ο Φέργκιουσον έχει αφήσει στο παρελθόν να εννοηθεί ότι οι εταιρείες φέρουν ευθύνη για τις ενέργειες των αυτόνομων συστημάτων AI που αναπτύσσουν. «Αυτές οι δημόσιες υποσχέσεις φωτογραφίζουν μελλοντικές παρεμβάσεις από την FTC», πρόσθεσε.
Την Τετάρτη, η FTC διεύρυνε ήδη την έρευνα που διεξάγει για τις εταιρείες τεχνητής νοημοσύνης, βάζοντας στο στόχαστρο την Anthropic, την OpenAI και άλλα εργαστήρια σχετικά με τους κινδύνους που εγκυμονεί η τεχνολογία τους.
Ποια είναι τα επόμενα βήματα;
Όσοι υποστηρίζουν την ανάγκη αυστηρότερων κανόνων ελπίζουν ότι η συμφωνία αποτελεί μόνο την αφετηρία. Μετά τη συνάντηση, ο Αμοδέι της Anthropic ανέφερε ότι ο μηχανισμός διαχείρισης κινδύνων «βρίσκεται ακόμη υπό συζήτηση», ενώ ο Ντέμις Χασάμπις της Google DeepMind, που έχει ζητήσει τη δημιουργία παγκόσμιου εποπτικού φορέα, δήλωσε ότι η ομάδα του ανυπομονεί να προχωρήσει στην υλοποίηση των δεσμεύσεων.
Σε μια στροφή από προηγούμενες εξαγγελίες του Λευκού Οίκου, αλλά και από τις προσπάθειές του να μπλοκάρει σχετικούς νόμους σε επίπεδο πολιτειών, το κείμενο δεν αποκλείει το ενδεχόμενο νέων νομοθετικών πρωτοβουλιών. Όπως σημειώνεται, «με την πάροδο του χρόνου, ίσως έχει νόημα τα βήματα αυτά να μετουσιωθούν σε νόμους ή ρυθμιστικούς κανόνες».
Ωστόσο, ορισμένες εταιρείες προειδοποιούν ότι η στενότερη συνεργασία σε θέματα ασφαλείας ενδέχεται να τις εκθέσει σε αγωγές για παραβίαση του ανταγωνισμού, γεγονός που συνιστά εμπόδιο για τη συνέχεια.
«Υπάρχει μεγάλη επιφυλακτικότητα», ανέφερε ο Άρνολντ, προσθέτοντας πάντως πως «τέτοιου είδους αμοιβαίες συμφωνίες μπορούν να αποδειχθούν εξαιρετικά χρήσιμες, καθώς δίνουν κίνητρο στις εταιρείες να κάνουν περισσότερα βήματα πρόοδου».
Με πληροφορίες από Financial Times
