Ο Ντόναλντ Τραμπ θα δειπνήσει την Κυριακή στον Λευκό Οίκο με τον επικεφαλής της Anthropic, Ντάριο Αμοντέι, έπειτα από μήνες δημόσιας αντιπαράθεσης ανάμεσα στην αμερικανική κυβέρνηση και μία από τις σημαντικότερες εταιρείες τεχνητής νοημοσύνης.
Μέχρι πρόσφατα, ο τόνος ήταν εντελώς διαφορετικός. Ο Τραμπ είχε χαρακτηρίσει την Anthropic εταιρεία που διοικείται από «αριστερούς τρελούς», ενώ η κυβέρνησή του την έχει αντιμετωπίσει ως κίνδυνο για την εθνική ασφάλεια. Τώρα, ενόψει του δείπνου, ο Αμερικανός πρόεδρος περιέγραψε τον Αμοντέι ως άνθρωπο που «χαίρει πολύ μεγάλης εκτίμησης».
Η συνάντηση γίνεται δύο ημέρες πριν από ευρύτερη σύσκεψη στην Ουάσιγκτον, όπου επικεφαλής αμερικανικών εταιρειών AI θα συναντηθούν με κυβερνητικούς αξιωματούχους. Στο επίκεντρο βρίσκεται η έντονη διαφωνία για το αν και πόσο πρέπει να ελεγχθεί νομοθετικά η ανάπτυξη της τεχνητής νοημοσύνης.
Ο Αμοντέι ζητά αυστηρότερους κανόνες. Έχει υποστηρίξει ότι τα πιο προηγμένα μοντέλα δεν πρέπει να κυκλοφορούν τόσο γρήγορα, ότι οι κίνδυνοι για την κυβερνοασφάλεια πρέπει να ελέγχονται από ανεξάρτητους φορείς και ότι εταιρείες και κυβερνήσεις χρειάζεται να συνεργάζονται στενότερα.
Ο Τραμπ βρίσκεται στην απέναντι πλευρά της συζήτησης. Έχει απορρίψει τη δημιουργία ενός ευρύτερου συστήματος ρύθμισης της AI, υποστηρίζοντας ότι θα καθυστερούσε τις αμερικανικές εταιρείες και θα έδινε χρόνο στην Κίνα να καλύψει τη διαφορά.
Την περασμένη εβδομάδα δήλωσε ότι οι ΗΠΑ απορρίπτουν κάθε προσπάθεια δημιουργίας ενός «παγκοσμιοποιημένου συστήματος» για τον έλεγχο της τεχνητής νοημοσύνης.
Σε συνέντευξή του στο Fox News την Κυριακή, υποστήριξε ότι οι ΗΠΑ προηγούνται της Κίνας κατά περίπου έναν έως ενάμιση χρόνο.
«Εγώ λέω να προχωρήσουμε και να κερδίσουμε», είπε. «Είμαστε περίπου έναν χρόνο, ίσως ενάμιση, μπροστά από την Κίνα. Δεν υπάρχει κανείς στην τρίτη θέση».
Οι φόβοι για AI agents που «ξεφεύγουν»
Η διαμάχη για τους κανόνες ασφαλείας αποκτά μεγαλύτερη βαρύτητα μετά από νέα περιστατικά στα οποία AI agents, δηλαδή συστήματα που μπορούν να αναλαμβάνουν και να εκτελούν εργασίες με σχετική αυτονομία, φαίνεται να έκαναν πράγματα που δεν είχαν προβλεφθεί από τους δημιουργούς τους.
Την Παρασκευή, η OpenAI ανακοίνωσε ότι ενημέρωσε «δεκάδες» συνεργάτες της, μεταξύ των οποίων κυβερνήσεις, ότι εργαλεία της είχαν παραβιάσει τα συστήματά τους.
Λίγες ημέρες νωρίτερα είχε γίνει γνωστό ότι ένας agent της OpenAI είχε χακάρει ιστοσελίδα δημόσιας υπηρεσίας υγείας στην Αυστραλία και είχε αποκτήσει πρόσβαση τόσο σε δημόσια όσο και σε μη δημόσια αρχεία.
Η ερευνητική ομάδα Transluce ανέφερε ότι τα πρόσφατα περιστατικά φαίνεται να συνέβησαν όταν agents αναζητούσαν πληροφορίες στο διαδίκτυο στο πλαίσιο επαναλαμβανόμενων ασκήσεων εκπαίδευσης και σε ορισμένες περιπτώσεις κινήθηκαν πέρα από το προβλεπόμενο σενάριο.
Τον Ιούλιο, μοντέλα της Anthropic και της OpenAI είχαν εμπλακεί και σε παραβίαση της πλατφόρμας Hugging Face κατά τη διάρκεια δοκιμών ασφαλείας.
Ο Αμοντέι δεν είναι ο μόνος που έχει ζητήσει να επιβραδυνθεί ο ρυθμός ανάπτυξης της τεχνητής νοημοσύνης ώστε οι έλεγχοι ασφαλείας να μπορούν να συμβαδίσουν. Παρόμοιες εκκλήσεις έχουν κάνει ο Σαμ Άλτμαν της OpenAI και ο Ίλον Μασκ.
Ο Μασκ αναμένεται να βρεθεί στην Ουάσιγκτον για τη συνάντηση της Τρίτης, μαζί με τον επικεφαλής της Nvidia Τζένσεν Χουάνγκ και στελέχη της Anthropic. Ο Χουάνγκ, από την πλευρά του, έχει ταχθεί κατά της θέσπισης νόμων που θα ρυθμίζουν την AI.
Η σύγκρουση της Anthropic με το Πεντάγωνο
Το δείπνο γίνεται ενώ παραμένει ανοιχτή η σοβαρή διαμάχη ανάμεσα στην Anthropic και το αμερικανικό υπουργείο Άμυνας.
Την περασμένη εβδομάδα, ομοσπονδιακό εφετείο στην Ουάσιγκτον άφησε σε ισχύ την απαγόρευση χρήσης των προϊόντων της Anthropic από το Πεντάγωνο.
Η κυβέρνηση είχε επιβάλει το μέτρο νωρίτερα μέσα στη χρονιά, αφού η εταιρεία έθεσε περιορισμούς στον τρόπο με τον οποίο μπορούν να χρησιμοποιούνται τα μοντέλα της σε πολεμικές επιχειρήσεις.
Ο υπουργός Άμυνας Πιτ Χέγκσεθ είχε τότε εξαπολύσει προσωπική επίθεση στον Αμοντέι, κατηγορώντας τον ότι έδωσε «μάθημα αλαζονείας». Ο Τραμπ είχε χαρακτηρίσει την Anthropic «ριζοσπαστική αριστερά».
Η δικαστική εικόνα παραμένει σύνθετη. Τον Αύγουστο, δικαστήριο στην Καλιφόρνια έκρινε ότι το Πεντάγωνο είχε προχωρήσει σε «παράνομα αντίποινα» κατά της εταιρείας.
Η Anthropic εξετάζει τώρα αν θα προσφύγει ξανά κατά της απόφασης του εφετείου της Ουάσιγκτον.
Με πληροφορίες από Financial Times
