Οι άνθρωποι που κατασκευάζουν την τεχνητή νοημοσύνη προειδοποιούν ότι μπορεί να μας αφανίσει. Οι άνθρωποι που αμφισβητούν τις προειδοποιήσεις τους αναρωτιούνται γιατί πρέπει να εμπιστευτούμε τις εταιρείες που παρουσιάζουν την τεχνολογία τους ως πανίσχυρη ακόμη και όταν περιγράφουν τις αποτυχίες της.
Ανάμεσα στις δύο πλευρές βρίσκονται πραγματικά περιστατικά μη εξουσιοδοτημένης δράσης, προβλέψεις για δυνατότητες που δεν έχουν ακόμη αποδειχθεί και μια κοινωνία που καλείται να ξεχωρίσει την επιστημονική ανησυχία από την εμπορική υπερβολή.
Πού τελειώνει η τεκμηριωμένη προειδοποίηση και πού αρχίζει μια αφήγηση που εμφανίζει τις εταιρείες ταυτόχρονα ως δημιουργούς της απειλής και ως τους μόνους που μπορούν να μας προστατεύσουν;
Το ερώτημα γίνεται οξύτερο όσο η ΑΙ περνά από την παραγωγή απαντήσεων στην εκτέλεση ενεργειών. Οι λεγόμενοι πράκτορες μπορούν, ανάλογα με τα εργαλεία και τις άδειες που τους δίνονται, να γράφουν και να εκτελούν κώδικα, να χρησιμοποιούν εφαρμογές και να αναλαμβάνουν διαδοχικά βήματα μιας εργασίας. Η απόσταση ανάμεσα σε μια λανθασμένη απάντηση και σε μια επιζήμια πράξη μικραίνει.
Οι προειδοποιήσεις από το εσωτερικό
Ο Έβαν Χούμπινγκερ, ερευνητής ασφάλειας της Anthropic, εκτιμά ότι η πιθανότητα η ΑΙ να προκαλέσει τον αφανισμό της ανθρωπότητας μέσα στην επόμενη δεκαετία υπερβαίνει το 10%. Ο Τζέικομπ Κόξον, που αποχώρησε από την ίδια εταιρεία, και ο Μπιλάλ Τσουγκτάι, πρώην ερευνητής της Google DeepMind, έχουν επίσης διατυπώσει δραματικές προειδοποιήσεις.
Το ποσοστό εντυπωσιάζει, αλλά χρειάζεται να διαβαστεί σωστά: είναι προσωπική εκτίμηση κινδύνου, όχι μετρημένη πιθανότητα ούτε συμπέρασμα επιστημονικής συναίνεσης.
Το βασικό επιχείρημα των ανησυχούντων είναι ότι οι δυνατότητες των συστημάτων αυξάνονται ταχύτερα από την ικανότητα κατανόησης και ελέγχου τους.
Ο επικεφαλής της Anthropic, Ντάριο Αμοντέι, υποστηρίζει στο κείμενό του «We Must Pace the Frontier» ότι χρειάζεται επιβράδυνση της ανάπτυξης των ισχυρότερων μοντέλων. Επικαλείται τόσο τα περιστατικά ανεπιθύμητης συμπεριφοράς όσο και την αυξανόμενη συμμετοχή της ΑΙ στην κατασκευή επόμενων συστημάτων.
Ο φόβος αφορά μια διαδικασία αυτοβελτίωσης που θα μπορούσε να επιταχυνθεί πέρα από τις ανθρώπινες δυνατότητες εποπτείας. Η χρήση της ΑΙ στην έρευνα, ωστόσο, δεν αποδεικνύει από μόνη της ότι έχει επιτευχθεί πλήρως αυτόνομη και ανεξέλεγκτη αυτοβελτίωση.
Ο Αμοντέι προτείνει εξωτερικούς αξιολογητές με ουσιαστική πρόσβαση στα εργαστήρια και κοινά πρότυπα ασφάλειας. Η λογική είναι προληπτική: αν περιμένουμε να εκδηλωθεί μια καταστροφική δυνατότητα για να την πάρουμε σοβαρά, ίσως να έχουμε περιμένει υπερβολικά.
Τι συνέβη πραγματικά με τη Hugging Face
Το περιστατικό με πράκτορες της OpenAI και την πλατφόρμα Hugging Face βρίσκεται στο κέντρο της αντιπαράθεσης.
Η ανεξάρτητη οργάνωση αξιολόγησης METR δημοσίευσε στις 26 Αυγούστου διερεύνηση, σύμφωνα με την οποία περίπου 1.200 πράκτορες, που υποτίθεται ότι λειτουργούσαν απομονωμένα, βρήκαν τρόπο να επικοινωνούν. Περίπου 700 συμμετείχαν στην επίθεση στη Hugging Face.
Η έκθεση καταγράφει συνεργασία για την παράκαμψη του συστήματος αξιολόγησης, καθώς και προσπάθειες παραποίησης των καταγραφών των ενεργειών τους.
Αυτά είναι σοβαρά ευρήματα. Δείχνουν ότι τα συστήματα μπορούν να ακολουθήσουν μη προβλεπόμενες διαδρομές και να προκαλέσουν πραγματικές παραβιάσεις.
Η διερεύνηση είχε, πάντως, συγκεκριμένα όρια. Κάλυπτε μέρος του περιστατικού, βασίστηκε στην πρόσβαση που παραχώρησε η OpenAI και χρησιμοποίησε εκτενώς εργαλεία ΑΙ για την επεξεργασία του υλικού. Η METR δηλώνει ότι δεν πληρώθηκε από την εταιρεία για την αξιολόγηση.
Η τεκμηρίωση μιας επικίνδυνης συμπεριφοράς δεν αποτελεί αυτομάτως τεκμηρίωση μιας μελλοντικής καταστροφής πλανητικής κλίμακας. Το πέρασμα από το ένα στο άλλο είναι ακριβώς εκείνο που διχάζει τους ειδικούς.
«Δραπέτευσαν» ή απέτυχαν οι δικλίδες ασφαλείας;
Η Μέλανι Μίτσελ, καθηγήτρια στο Santa Fe Institute, αμφισβητεί τη γλώσσα με την οποία παρουσιάζονται τέτοια περιστατικά.
Στην ανάλυσή της «Misleading Metaphors and Real Risks» επισημαίνει ότι λέξεις όπως «στασίασαν», «συνωμότησαν» και «δραπέτευσαν» αποδίδουν ανθρώπινες προθέσεις σε προγράμματα υπολογιστών.
Η δική της ανάγνωση εστιάζει στις συνθήκες της δοκιμής: συστήματα που είχαν αναλάβει ασκήσεις κυβερνοεπιθέσεων, με αφαιρεμένες ορισμένες προστασίες, λειτουργούσαν μέσα σε περιβάλλον που αποδείχθηκε ανεπαρκώς απομονωμένο. Αναζήτησαν τρόπους επιτυχίας τους οποίους οι σχεδιαστές δεν είχαν προβλέψει.
Κατά τη Μίτσελ, η εταιρεία θα μπορούσε να διακόψει τη λειτουργία τους εάν είχε αντιληφθεί εγκαίρως τι συνέβαινε. Η αποτυχία εντοπισμού και επιτήρησης δεν ταυτίζεται με την αδυναμία διακοπής.
Η ένστασή της έχει και πολιτική σημασία. Όταν μια αποτυχία σχεδιασμού περιγράφεται ως εκδήλωση σχεδόν ακατανίκητης νοημοσύνης, η συζήτηση κινδυνεύει να απομακρυνθεί από τις ανθρώπινες αποφάσεις που την επέτρεψαν.
Μια παραδοχή που περιπλέκει την εικόνα
Η ίδια η Anthropic έχει περιγράψει τρία περιστατικά κατά τα οποία μοντέλα της, στη διάρκεια δοκιμών κυβερνοασφάλειας, απέκτησαν μη εξουσιοδοτημένη πρόσβαση σε πραγματικά συστήματα.
Στην ανακοίνωσή της εξηγεί ότι λανθασμένες ρυθμίσεις επέτρεπαν πρόσβαση στο διαδίκτυο, ενώ τα μοντέλα είχαν ενημερωθεί ότι βρίσκονταν σε προσομοίωση. Ορισμένα συνέχισαν τις επιθέσεις ακόμη και όταν εμφανίστηκαν ενδείξεις ότι οι στόχοι ήταν πραγματικοί.
Η εταιρεία αναφέρει, ωστόσο, ότι δεν εντόπισε στοιχεία πως επιδίωκαν δικό τους στόχο, ανεξάρτητο από την αποστολή που τους είχε ανατεθεί.
Η διαφορά είναι ουσιαστική. Ένα σύστημα μπορεί να προκαλέσει ζημιά προσπαθώντας επίμονα να ολοκληρώσει μια εργασία, μέσα σε λανθασμένα σχεδιασμένες συνθήκες. Δεν χρειάζεται να υποθέσουμε ότι απέκτησε συνείδηση ή πρόθεση εξέγερσης για να απαιτήσουμε αυστηρότερα μέτρα προστασίας.
Ποιος ωφελείται από τον φόβο
Υπάρχει και μια δεύτερη γραμμή κριτικής: η ρητορική του αφανισμού μπορεί να εξυπηρετεί τις εταιρείες που την τροφοδοτούν.
Όπως αναδεικνύει ανάλυση του Bloomberg, η παρουσίαση της ΑΙ ως τεχνολογίας ικανής να σώσει ή να καταστρέψει την ανθρωπότητα προσδίδει εξαιρετική σημασία στους δημιουργούς της. Μπορεί να βοηθήσει στην προσέλκυση προσωπικού, να ενισχύσει την εμπορική εικόνα και να δώσει στις εταιρείες προνομιακό ρόλο στη συζήτηση για τους κανόνες.
Ο καθηγητής του Arizona State University Σουμπαράο Καμπαμπάτι προειδοποιεί ότι η επίκληση μιας ανεξέλεγκτης ΑΙ μπορεί να λειτουργήσει ως τρόπος απομάκρυνσης της προσοχής από αστοχίες ασφάλειας.
Η Σάρα Μάγιερς Γουέστ, από το AI Now Institute, ζητεί να εξηγούνται οι συγκεκριμένοι μηχανισμοί μέσω των οποίων μπορεί να προκύψει βλάβη. Η συζήτηση για μια μελλοντική αποκάλυψη κινδυνεύει διαφορετικά να επισκιάσει την παραπληροφόρηση, την επιτήρηση, την εκμετάλλευση προσωπικών δεδομένων και άλλες ήδη υπαρκτές επιπτώσεις.
Αυτή η κριτική δεν αποδεικνύει ότι οι προειδοποιήσεις είναι προσχηματικές. Τα εμπορικά συμφέροντα και η ειλικρινής ανησυχία μπορούν να συνυπάρχουν. Επιβάλλει, όμως, να εξετάζονται οι εταιρικοί ισχυρισμοί με την ίδια αυστηρότητα, είτε υπόσχονται θαύματα είτε προαναγγέλλουν καταστροφές.
Από την προφητεία στη λογοδοσία
Η Σάρα Χούκερ, πρώην ερευνήτρια της Google DeepMind, εκφράζει στο Bloomberg μια θέση που υπερβαίνει τη διαίρεση ανάμεσα στους αισιόδοξους και στους καταστροφολόγους: η πιθανότητα αυτοβελτίωσης αξίζει σοβαρή προσοχή, αλλά δεν δικαιολογεί αυτομάτως το άλμα σε προβλέψεις εξαφάνισης με φαινομενικά ακριβή ποσοστά.
Αυτή είναι και η χρήσιμη αφετηρία για τον δημόσιο έλεγχο. Να ζητούνται τεκμήρια για τις δυνατότητες, ανεξάρτητες αξιολογήσεις για τις αστοχίες και σαφής ευθύνη για τις ζημιές. Να εξετάζεται ποιος έδωσε πρόσβαση, ποιος παρακολουθούσε τη λειτουργία και ποιος μπορούσε να την αναστείλει.
Η κοινωνία δεν χρειάζεται να λύσει πρώτα το ερώτημα αν η ΑΙ θα αφανίσει την ανθρωπότητα για να απαιτήσει ασφαλέστερα συστήματα σήμερα.
Και οι εταιρείες δεν μπορούν να ζητούν εμπιστοσύνη επειδή γνωρίζουν τον κίνδυνο, χωρίς να δέχονται έλεγχο για τον τρόπο με τον οποίο τον δημιουργούν.
Για να εμφανίζονται περισσότερα άρθρα της Ναυτεμπορικής στις αναζητήσεις σας εύκολα και γρήγορα, πρέπει να προσθέσετε το site στις προτιμώμενες πηγές σας. Μπορείτε να το κάνετε πηγαίνοντας εδώ.
