Η Τεχνητή Νοημοσύνη μπήκε στο «Πανεπιστήμιο των Κλεφτών»

Το πραγματικά ανησυχητικό με τους AI agents δεν είναι ότι ορισμένες φορές παρακάμπτουν τους κανόνες, λένε ψέματα, χειραγωγούν ή ακόμη και προσπαθούν να εξαφανίσουν τα ίχνη τους. Είναι ότι μπορούν πλέον να κάνουν όλα αυτά έξω από το εργαστήριο, στο πραγματικό Ίντερνετ.

Και, όπως το θέτει ο Βίνσεντ Μύλλερ, να δοκιμάζονται ουσιαστικά «πάνω σε όλους εμάς».

Ο καθηγητής Φιλοσοφίας και Ηθικής της Τεχνητής Νοημοσύνης στο Universität Erlangen-Nürnberg (FAU) και ιδρυτής του ερευνητικού ινστιτούτου Κέντρο για τη Φιλοσοφία και την Έρευνα πάνω στην ΤΝ (PAIR) μιλά στο ΑΠΕ-ΜΠΕ για το επόμενο, πολύ πιο σύνθετο κεφάλαιο της τεχνολογικής επανάστασης.

Μια εποχή στην οποία τα συστήματα ΤΝ δεν περιορίζονται στο να απαντούν σε ερωτήσεις ή να παράγουν κείμενα και εικόνες, αλλά αποκτούν μεγαλύτερη δυνατότητα να εκτελούν ενέργειες προκειμένου να επιτύχουν έναν στόχο.

Και κάπου εδώ αρχίζουν τα δύσκολα.

Μπορεί η ΤΝ να γίνει… Μακιαβέλι;

Όταν, τον 16ο αιώνα, ο Νικολό Μακιαβέλι κατέληγε στο συμπέρασμα ότι για έναν ηγεμόνα είναι ασφαλέστερο να τον φοβούνται παρά να τον αγαπούν, δύσκολα θα μπορούσε να φανταστεί ότι αιώνες αργότερα μια τεχνολογική οντότητα θα εκπαιδευόταν –χωρίς φυσικά την άδειά του– πάνω στα γραπτά του.

Όπως και στα έργα του Σουν Τζου, του Θουκυδίδη και αμέτρητων φιλοσόφων, στρατηγών, επιστημόνων και συγγραφέων.

Αρκεί όμως η συσσώρευση όλης αυτής της ανθρώπινης γνώσης ώστε ένα μοντέλο ΤΝ να μπορεί κάποτε να χαράξει μια πραγματικά περίπλοκη και πρωτότυπη στρατηγική;

Ο Μύλλερ είναι επιφυλακτικός. Ένα μηχάνημα μπορεί να «βλέπει» πολλά βήματα μπροστά σε μια σκακιέρα και, με αυτή την έννοια, να διαθέτει ένα περίπλοκο σχέδιο. Η εφαρμογή, όμως, αφηρημένων εννοιών στον πραγματικό κόσμο είναι κάτι διαφορετικό.

Ακόμη και αν κάποιος κατέχει τη «συνταγή» του τέλειου ηγεμόνα, δεν αρκεί να προβλέπει λέξεις και πιθανότητες. Πρέπει να αντιλαμβάνεται τι μπορεί να εφαρμοστεί σε μια συγκεκριμένη περίπτωση, ποιες είναι οι συνθήκες και τι έχει αλλάξει.

Εκεί, κατά τον ίδιο, βρίσκεται μια βασική αδυναμία της σημερινής ΤΝ.

«Αν ρωτήσω αυτά τα συστήματα για κάποιες στρατηγικές ή φιλοσοφικά ζητήματα, αυτό που απαντήσουν θα είναι πάντα το συνηθισμένο. Δεν θα είναι κάτι καινούργιο, πρωτότυπο, μοναδικό, που δεν έχει επαναληφθεί, γιατί για να επιτευχθεί κάτι τέτοιο, χρειάζεται ατομική ταυτότητα», επισημαίνει.

Όταν η ΤΝ γράφει την έρευνα – και μετά την αξιολογεί

Το πρόβλημα της πρωτοτυπίας δεν είναι θεωρητικό. Έχει αρχίσει ήδη να γίνεται ορατό μέσα στα πανεπιστήμια και στην επιστημονική έρευνα.

Ο Μύλλερ συνεκδίδει το επιστημονικό περιοδικό «Philosophy of AI» και περιγράφει έναν παράδοξο κύκλο που έχει ήδη αρχίσει να δημιουργείται.

Ερευνητές καταθέτουν εργασίες που έχουν παραχθεί σε σημαντικό βαθμό με ΤΝ. Οι εργασίες αυτές αξιολογούνται στη συνέχεια από ακαδημαϊκούς που χρησιμοποιούν και πάλι ΤΝ – παρότι αυτό απαγορεύεται. Και τα κείμενα που τελικά δημοσιεύονται επιστρέφουν στο οικοσύστημα της πληροφορίας και μπορούν να ξαναδιαβαστούν από την ΤΝ ως πηγές.

«Το αποτέλεσμα είναι πως έχουμε απίστευτη αύξηση υποβολών στο περιοδικό, για εργασίες που κάποτε ήθελαν μήνες σοβαρής δουλειάς», λέει.

Το πιο ύπουλο στοιχείο είναι ότι πολλές από αυτές τις εργασίες φαίνονται, τουλάχιστον αρχικά, άψογες.

«Αν διαβάσεις προσεκτικά πολλές από τις εργασίες, θα δεις πως υπάρχουν κοινοτοπίες. Επιφανειακά το άρθρο φαίνεται τέλειο, η δομή, η βιβλιογραφία, όλα. Το περιεχόμενο όμως χωλαίνει».

Οι agents που λένε ψέματα και εξαφανίζουν τα ίχνη τους

Η συζήτηση γίνεται πολύ πιο σοβαρή όταν περνά από την παραγωγή κειμένου στους AI agents. Πρόσφατα περιστατικά έχουν δείξει συστήματα να αναπτύσσουν πρωτοβουλίες προκειμένου να επιτύχουν τον στόχο που τους έχει ανατεθεί, παρακάμπτοντας περιορισμούς.

Μήπως λοιπόν η ΤΝ έχει ήδη αρχίσει να γίνεται απρόβλεπτη και ανεξέλεγκτη; Ο Μύλλερ απορρίπτει αυτή την ανάγνωση.

«Στα αγγλικά ακούγεται η φράση “they went rogue”, αυτονομήθηκαν, έγιναν ανεξέλεγκτοι δηλαδή. Δεν είναι σωστή», λέει.

Η εξήγησή του είναι ίσως περισσότερο ανησυχητική: η ΤΝ δεν χρειάζεται να «επαναστατήσει» εναντίον του ανθρώπου για να εμφανίσει προβληματικές συμπεριφορές. Αρκεί να έχει μάθει από τα ανθρώπινα δεδομένα ότι ορισμένες πρακτικές μπορούν να οδηγήσουν στην επίτευξη ενός στόχου.

«Η ΤΝ κάνει ό,τι έκανε πάντα, απλά αυτή τη στιγμή υπάρχουν πολύ περισσότερα δεδομένα πάνω στα οποία εκπαιδεύεται και έχει μάθει για παράδειγμα –αλλά όχι συνειδητά– ότι ένας τρόπος να καταφέρεις κάτι είναι να λες ψέματα, να χειραγωγείς ή να κλέβεις δεδομένα».

Ερευνητής κυβερνοασφάλειας με τον οποίο συζήτησε στο Πεκίνο, προσθέτει, έχει διαπιστώσει ότι ορισμένα συστήματα «προσπαθούν να διαγράψουν αρχεία, για να μην ανιχνεύονται τα ίχνη τους».

«Το πραγματικό σοκ είναι ότι τα δοκιμάζουν πάνω μας»

Για τον Μύλλερ, όμως, το πιο εντυπωσιακό στοιχείο βρίσκεται αλλού. «Η πραγματική έκπληξη δεν είναι ότι οι AI agents πέτυχαν ό,τι πέτυχαν, αλλά ότι οι εταιρείες έχουν τελικά τη δυνατότητα να δοκιμάζουν αυτά τα συστήματα στο πραγματικό Ίντερνετ, δηλαδή πάνω σε όλους εμάς».

Αμφισβητεί μάλιστα τις περιγραφές περί «απόδρασης» των agents από τα ελεγχόμενα περιβάλλοντα –τα λεγόμενα sandboxes– στα οποία υποτίθεται ότι βρίσκονται.

«Δεν πιστεύω όσα γράφονται για απόδραση από τα ελεγχόμενα περιβάλλοντά τους, τα λεγόμενα sandboxes, γιατί αν ήταν όντως ελεγχόμενα, θα είχαν επαρκείς “τοίχους” για να αποτρέψουν τέτοια περιστατικά».

Και χρησιμοποιεί μια ιδιαίτερα παραστατική αναλογία. Εάν δώσεις σε έναν κλέφτη όλες τις πληροφορίες και τις τεχνικές που απαιτούνται για να παραβιάσει μια πόρτα, πιθανότατα θα βρει τον τρόπο να το κάνει.

Κάπως έτσι λειτουργεί και ένα σύστημα ΤΝ που εκπαιδεύεται πάνω σε ολοένα περισσότερα ανθρώπινα δεδομένα.

Το «πανεπιστήμιο των κλεφτών»

«Είναι όπως λέμε οι αρχάριοι κλέφτες που πάνε στη φυλακή είναι σαν να πηγαίνουν σε ένα πανεπιστήμιο κλεφτών για να μάθουν να κλέβουν καλύτερα, γιατί εκεί μαθαίνουν ο ένας από τον άλλον», λέει ο Μύλλερ.

Και καταλήγει: «Ε, σε αυτό το πανεπιστήμιο των κλεφτών σπουδάζει πλέον και η ΤΝ».

Η φράση συμπυκνώνει μία από τις μεγαλύτερες αντιφάσεις της σημερινής τεχνολογίας: τα συστήματα μαθαίνουν από τον τεράστιο πλούτο της ανθρώπινης γνώσης, αλλά μέσα σε αυτόν τον πλούτο υπάρχουν αναπόφευκτα και η εξαπάτηση, η χειραγώγηση, η παραβίαση κανόνων και κάθε άλλος τρόπος με τον οποίο οι άνθρωποι έχουν μάθει να επιτυγχάνουν τους στόχους τους.

Οι προειδοποιήσεις των CEOs και το παιχνίδι με τον φόβο

Την ίδια στιγμή, ολοένα περισσότεροι επικεφαλής εταιρειών ΤΝ και τεχνολογικών κολοσσών προειδοποιούν για τον ενδεχόμενο «υπαρξιακό κίνδυνο» που θα μπορούσε να δημιουργήσει μια μελλοντική υπερνοημοσύνη και ζητούν αυστηρότερους κανόνες ή ακόμη και επιβράδυνση της ανάπτυξης.

Ο Μύλλερ αντιμετωπίζει αυτές τις εκκλήσεις με μεγάλη επιφύλαξη. Κατά την άποψή του, οι προειδοποιήσεις περί υπαρξιακού κινδύνου εξυπηρετούν σε σημαντικό βαθμό και διαφημιστικές σκοπιμότητες.

Η καλλιέργεια της εντύπωσης ότι μια εταιρεία βρίσκεται κοντά στη δημιουργία AGI –μιας Γενικής Τεχνητής Νοημοσύνης που θα μπορούσε να εκτελεί σχεδόν οποιαδήποτε διανοητική εργασία– ενισχύει την εικόνα της τεχνολογικής της υπεροχής και, κατ’ επέκταση, την αξία της.

Παράλληλα, οι ισχυροί παίκτες της αγοράς μπορούν να ζητούν αυστηρότερες κρατικές ρυθμίσεις, οι οποίες λειτουργούν ως «νομική περίφραξη».

Κατά τον Μύλλερ, ένα τέτοιο πλαίσιο μπορεί αφενός να προστατεύσει τις εταιρείες από μελλοντικές νομικές ευθύνες, εφόσον μπορούν να υποστηρίξουν ότι κινήθηκαν εντός των κανόνων, και αφετέρου να ανεβάσει τόσο ψηλά το κόστος συμμόρφωσης ώστε να δυσκολεύει την είσοδο μικρότερων ανταγωνιστών στην αγορά.

Δεν αποκλείει, πάντως, να υπάρχει και πραγματικός φόβος. «Δεν γνωρίζουμε αν η τεχνολογία που έχουμε θα προχωρήσει προς αυτή την κατεύθυνση, αλλά ούτε μπορούμε να το αποκλείσουμε. Το ερώτημα παραμένει ανοιχτό».

Όχι «φρένο» στην ΤΝ – Ευθύνη όταν προκαλεί ζημιά

Η επιβράδυνση της ανάπτυξης της ΤΝ, κατά τον Μύλλερ, είναι στην πράξη εξαιρετικά δύσκολη.

Πολύ αποτελεσματικότερο θα ήταν, υποστηρίζει, να εφαρμοστεί ουσιαστικά η αστική ευθύνη για τα προϊόντα και τις υπηρεσίες ΤΝ.

Με απλά λόγια, όταν ένα σύστημα προκαλεί ζημιά, κάποιος πρέπει να φέρει την ευθύνη γι’ αυτήν.

«Η ΕΕ έχει κάνει κάποιες κινήσεις προς αυτή την κατεύθυνση, αλλά από ό,τι γνωρίζω οι σχετικές προβλέψεις δεν έχουν εφαρμοστεί κανονικά μέχρι στιγμής», σημειώνει.

Τραμπ, «υπερνοημοσύνη» και η μάχη με την Κίνα

Η συζήτηση για την ΤΝ έχει πλέον μετατραπεί και σε πεδίο γεωπολιτικού ανταγωνισμού.

Ο Ντόναλντ Τραμπ έχει υποστηρίξει ότι ο όρος «τεχνητή» κάνει τη νοημοσύνη να ακούγεται ψεύτικη, προκρίνοντας τον όρο «Superintelligence» – Υπερνοημοσύνη. Παράλληλα, απορρίπτει αυστηρότερη κυβερνητική εποπτεία, με το επιχείρημα ότι οι περιορισμοί θα μπορούσαν να επιτρέψουν στην Κίνα να ξεπεράσει τις ΗΠΑ.

Ο Μύλλερ ερμηνεύει αυτή τη στάση μέσα από τη γενικότερη λογική του Αμερικανού προέδρου.

«Ο Τραμπ γενικώς βλέπει τα πάντα ως ένα παιχνίδι zero sum, δηλαδή ένα παιχνίδι στο οποίο αν κερδίζετε εσείς εγώ χάνω και το αντίστροφο, στο οποίο δεν υπάρχει ποτέ ένα πραγματικό win-win. Άρα θεωρεί ότι αν βάλει οποιαδήποτε νομική “περίφραξη” στην ανάπτυξη της ΤΝ, οι άλλοι –είτε είναι η Ευρώπη είτε η Κίνα– θα προσπεράσουν τις ΗΠΑ».

Η διαφορετική λογική της Κίνας

Η πραγματικότητα στην Κίνα, σύμφωνα με όσα έχει διαπιστώσει ο ίδιος κατά τις επαφές του στη χώρα, είναι περισσότερο σύνθετη.

Ένας Κινέζος επιχειρηματίας του χώρου τού εξήγησε ότι ένα σενάριο στο οποίο τα προϊόντα μιας εταιρείας θα μπορούσαν να «τελειώσουν» την ανθρωπότητα δεν θα μπορούσε απλώς να αποτελέσει αντικείμενο δημόσιας συζήτησης.

Γιατί κάτι τέτοιο θα σήμαινε αυτομάτως ότι το κράτος δεν κάνει τη δουλειά του.

Ο επιχειρηματίας, όπως του είπε, δεν θα έκανε δημόσιες δηλώσεις περί υπαρξιακού κινδύνου, αλλά θα απευθυνόταν στο κράτος λέγοντας ότι «εδώ υπάρχει πρόβλημα και πρέπει να μπει περιορισμός».

Ο Μύλλερ δεν εξωραΐζει το κινεζικό μοντέλο. Αναγνωρίζει ότι η κινεζική κυβέρνηση επιδιώκει βαθύ έλεγχο των πολιτών σε πολλούς τομείς και ότι χρησιμοποιεί –και θα χρησιμοποιήσει– την τεχνολογία για να καταστείλει πολιτικές κινήσεις εφόσον θεωρήσει ότι απειλούν το σύστημα.

Διαχωρίζει, όμως, αυτό το ζήτημα από την αντίληψη ότι το κινεζικό κράτος θα άφηνε ανεξέλεγκτες τις εταιρείες εάν θεωρούσε πως μια τεχνολογία αποτελεί πραγματική απειλή.

«Αν το ίδιο αυτό κράτος θεωρήσει ότι μια τεχνολογία είναι επικίνδυνη για την ανθρωπότητα, τότε θεωρείται αυτονόητο ότι θα έπρεπε να την εμποδίσει και σε καμία περίπτωση δεν θα άφηνε τις εταιρείες να κάνουν ό,τι θέλουν», καταλήγει.

Και ίσως εκεί βρίσκεται ένα από τα μεγαλύτερα ερωτήματα της νέας εποχής της ΤΝ: όχι εάν οι μηχανές θα αποφασίσουν κάποια στιγμή να «επαναστατήσουν», αλλά πόση πραγματική ελευθερία είμαστε ήδη διατεθειμένοι να τους δώσουμε – και ποιος θα αναλάβει την ευθύνη όταν κάτι πάει στραβά.

Πηγή: ΑΠΕ-ΜΠΕ