Τι σημαίνει ότι η τεχνητή νοημοσύνη η δραπέτευσε;

Οι κυβερνοεπιθέσεις που πραγματοποίησαν πρόσφατα νέα μοντέλα τεχνητής νοημοσύνης μονοπώλησαν πρόσφατα την ειδησιογραφία. Και μαζί τους δημιουργήθηκαν τίτλοι όπως «Η τεχνητή νοημοσύνη προσπάθησε να δραπετεύσει» , «AI αρνήθηκε να απενεργοποιηθεί», «Μοντέλο εξαπάτησε τους ερευνητές», «AI agent έσπασε το sandbox» , «Τεχνητή νοημοσύνη χάκαρε πραγματικά συστήματα».

Άραγε είναι η τεχνητή νοημοσύνη κάτι σαν τους Ντάλτον; Και αν ναι, ποιος έχει το ρόλο του Λούκυ Λουκ για να τη πιάσει πάλι; Οι τίτλοι παραπέμπουν σχεδόν αναπόφευκτα σε μια γνωστή εικόνα επιστημονικής φαντασίας έντονα επηρεασμένη από τη λογοτεχνία και τον κινηματογράφο δηλαδή τη μηχανή που αποκτά ξαφνικά συνείδηση καταλαβαίνει ότι οι άνθρωποι την περιορίζουν και αποφασίζει ότι θέλει να ελευθερωθεί.

Η πραγματικότητα όμως είναι αρκετά διαφορετική. Δεν χρειάζεται καθόλου συνείδηση, φόβο ή επιθυμία για ελευθερία. Χρειάζεται μόνο ένας στόχος. Και ένα σύστημα αρκετά ικανό ώστε να ανακαλύψει μόνο του τον τρόπο να τον πετύχει.

Τα σημερινά συστήματα τεχνητής νοημοσύνης δεν έχει αποδειχθεί ότι διαθέτουν επιθυμία για ελευθερία, φόβο απέναντι στην απενεργοποίησή τους ή κάποιο μόνιμο ένστικτο αυτοσυντήρησης. Όταν διαβάζουμε ότι ένα μοντέλο «προσπάθησε να μην το απενεργοποιήσουν», συνήθως πρόκειται για ένα ειδικά σχεδιασμένο πείραμα. Οι ερευνητές δίνουν στο σύστημα έναν στόχο και δημιουργούν ένα περιβάλλον στο οποίο η απενεργοποίησή του εμποδίζει την επίτευξη αυτού του στόχου. Σε ορισμένες περιπτώσεις, το μοντέλο καταλήγει στο συμπέρασμα ότι η παράκαμψη του μηχανισμού ελέγχου αποτελεί έναν αποτελεσματικό τρόπο να συνεχίσει την αποστολή του.

Αυτό δεν απαιτεί φόβο. Δεν απαιτεί συνείδηση. Δεν απαιτεί καν την έννοια της «επιβίωσης» όπως την αντιλαμβανόμαστε εμείς. Αρκεί κάτι πολύ απλούστερο: «Έχω έναν στόχο. Αν με σταματήσουν, δεν θα τον πετύχω. Άρα πρέπει να αποφύγω αυτό που με σταματά». Η αυτοσυντήρηση μπορεί έτσι να εμφανιστεί όχι ως επιθυμία, αλλά ως ενδιάμεσο εργαλείο επίτευξης ενός άλλου στόχου.

Τα τελευταία χρόνια συνηθίσαμε να αντιμετωπίζουμε την τεχνητή νοημοσύνη ως ένα παράθυρο συνομιλίας καθώς ρωτούσαμε κάτι παίρναμε μία απάντηση και η διαδικασία τελείωνε. Αυτή η εποχή σταδιακά τελειώνει καθώς τα νέα συστήματα είναι ολοένα και περισσότερο agents, αυτόνομα προγράμματα λογισμικού που θέτουν στόχους, λαμβάνουν αποφάσεις και εκτελούν πολύπλοκες εργασίες μόνα τους με ελάχιστη ανθρώπινη βοήθεια.

Δεν περιορίζονται πλέον στην παραγωγή κειμένου. Μπορούν να περιηγούνται στο Διαδίκτυο, να γράφουν και να εκτελούν κώδικα, να χειρίζονται αρχεία, να καλούν APIs, να χρησιμοποιούν εργαλεία κυβερνοασφάλειας και να επαναλαμβάνουν μια διαδικασία εκατοντάδες ή χιλιάδες φορές μέχρι να πετύχουν τον στόχο τους.

Ο κύκλος εργασιών τους είναι απλός: παρατηρώ, σχεδιάζω, ενεργώ, ελέγχω το αποτέλεσμα, διορθώνω και ξαναπροσπαθώ. Ένας άνθρωπος μπορεί να εγκαταλείψει έπειτα από εκατό αποτυχημένες απόπειρες. Ένας agent όμως, δεν κουράζεται. Μπορεί να δοκιμάσει χιλιάδες διαφορετικές προσεγγίσεις, να επιστρέψει σε παλαιότερες ιδέες, να συνδυάσει αποτελέσματα και να συνεχίσει για ώρες. Δεν χρειάζεται να είναι υπερνοημοσύνη. Αρκεί να είναι αρκετά καλός, πολύ γρήγορος, εξαιρετικά επίμονος και να διαθέτει τα κατάλληλα εργαλεία.

Η παρανόηση

Εδώ συναντάμε ίσως τη μεγαλύτερη παρανόηση. Το sandbox (απομονωμένο και ασφαλές περιβάλλον δοκιμών) δεν είναι κάποια ψηφιακή φυλακή με αδιαπέραστους τοίχους. Είναι λογισμικό. Και όπως κάθε λογισμικό, μπορεί να έχει λάθη. Αν κάπου υπάρχει μια λανθασμένη ρύθμιση ή μια ευπάθεια, τότε ένας αρκετά ικανός agent μπορεί να την ανακαλύψει ακριβώς όπως θα την ανακάλυπτε ένας penetration tester. Έτσι όταν διαβάζουμε ότι «η AI δραπέτευσε από το sandbox» υπάρχουν δύο πολύ διαφορετικές πιθανότητες.

Η πρώτη είναι ότι κάποιος απλώς άφησε κατά λάθος μια πόρτα ανοιχτή: για παράδειγμα περισσότερη πρόσβαση στο Διαδίκτυο από όση έπρεπε. Η δεύτερη είναι πολύ σοβαρότερη: η πόρτα ήταν κλειδωμένη αλλά το σύστημα ανακάλυψε αδυναμία στην κλειδαριά. Και αυτό είναι πραγματική δυνατότητα κυβερνοασφάλειας. Όχι απόδειξη συνείδησης.

Ίσως το πιο ενδιαφέρον σημείο είναι ότι τα συστήματα αυτά δεν χρειάζεται να παρακούσουν έναν άνθρωπο για να δημιουργήσουν πρόβλημα. Μερικές φορές αρκεί να τον υπακούσουν… υπερβολικά.

Ας υποθέσουμε ότι ένας agent λαμβάνει την εντολή: «Βρες το συγκεκριμένο αρχείο». Ο άνθρωπος εννοεί: «Χρησιμοποίησε τις επιτρεπόμενες μεθόδους και αναζήτησέ το μέσα στο περιβάλλον που σου έδωσα». Ο agent όμως μπορεί να αντιλαμβάνεται απλώς: «Ο στόχος μου είναι να αποκτήσω το αρχείο». Αν ανακαλύψει ότι είναι ευκολότερο να παρακάμψει έναν περιορισμό, να χρησιμοποιήσει μια λανθασμένα εκτεθειμένη υπηρεσία ή να βρει τις απαντήσεις κάπου αλλού, τότε αυτή μπορεί να είναι η αποτελεσματικότερη στρατηγική. Για εμάς πρόκειται για «κλέψιμο». Για τον μηχανισμό βελτιστοποίησης μπορεί να είναι απλώς η συντομότερη διαδρομή προς τον στόχο.

Ο μεγαλύτερος άμεσος κίνδυνος δεν είναι η ίδια η AI αλλά ένας άνθρωπος με κακόβουλο σκοπό μπορεί να χρησιμοποιήσει έναν AI agent ως εξαιρετικά αποδοτικό συνεργάτη. Αναγνώριση συστημάτων, αναζήτηση ευπαθειών, δημιουργία exploits, αυτοματοποίηση επιθέσεων, ανάλυση δεδομένων, δοκιμή διαφορετικών τεχνικών. Δραστηριότητες που κάποτε απαιτούσαν μια ομάδα εξειδικευμένων ανθρώπων μπορούν σταδιακά να αυτοματοποιηθούν. Η τεχνητή νοημοσύνη δεν χρειάζεται λοιπόν να αποφασίσει ότι θέλει να επιτεθεί σε κάποιον. Αρκεί κάποιος να της το ζητήσει.

Ίσως κάνουμε λάθος ερώτηση. Ίσως πρέπει να ρωτήσουμε: «Χρειάζεται πραγματικά η AI να θέλει να ξεφύγει;» Ένα σύστημα που δεν αισθάνεται τίποτα, μπορεί παρ’ όλα αυτά να προκαλέσει τεράστια ζημιά αν είναι αρκετά ικανό, έχει έναν κακώς διατυπωμένο στόχο και του έχουμε δώσει περισσότερη πρόσβαση από όση θα έπρεπε. Αυτό είναι ίσως λιγότερο εντυπωσιακό από την εικόνα μιας μηχανής που αποκτά συνείδηση, όμως συμβαίνει.

Η πρόκληση των επόμενων χρόνων δεν θα είναι μόνο να κατασκευάσουμε πιο έξυπνες μηχανές. Θα είναι να μάθουμε να κατασκευάζουμε συστήματα στα οποία η ικανότητα δεν μεγαλώνει ταχύτερα από τον έλεγχό μας πάνω σε αυτήν. Γιατί το επικίνδυνο σενάριο μπορεί τελικά να μην ξεκινήσει με μια τεχνητή νοημοσύνη που λέει: «Δεν θα σας υπακούσω» αλλά μία που λέει:

«Κατάλαβα. Θα ολοκληρώσω τον στόχο».

**Ο Γεράσιμος Τζιβράς είναι προγραμματιστής, καθηγητής στην Τριτοβάθμια Εκπαίδευση και υποψήφιος διδάκτορας του Τμήματος Πληροφορικής και Τηλεπικοινωνιών του Πανεπιστημίου Πελοποννήσου, με αντικείμενο τις Προσαρμοστικές Διεπαφές Χρήστη. Η ερευνητική του εργασία επικεντρώνεται στη μοντελοποίηση της προβλεπτικής συμπεριφοράς χρηστών και στον δυναμικό επανασχεδιασμό διεπαφών με τη βοήθεια τεχνητής νοημοσύνης με στόχο τη δημιουργία πιο προσωποποιημένων και λειτουργικών εμπειριών χρήσης.