Ο Λούκας Τβαρκόφσκι φέρνει στη Στέγη το «ORACLE» και τον Άλαν Τούρινγκ στο κέντρο μιας παράστασης για την ΑΙ, τη συνείδηση και την εξουσία. Mας εξηγεί γιατί φοβάται περισσότερο εκείνους που ελέγχουν την τεχνολογία παρά την ίδια την τεχνολογία και πώς οι κάμερες των drones στην Ουκρανία περνούν στη σκηνική γλώσσα της παράστασης.
«Λατρεύω να
κάνω το κοινό να αμφιβάλλει». Μόλις έχω ρωτήσει τον Λούκας Τβαρκόφσκι αν θέλει
οι θεατές του να είναι επαναστάτες, αν αυτό που επιδιώκει είναι ένας θεατής που
δεν υπακούει σε όσα του παρουσιάζονται ως δεδομένα. «Όπως αμφιβάλλω κι εγώ για
πάρα πολλά πράγματα. Προσπαθώ να υπονομεύω ορισμένες κατασκευές που βρίσκονται
στη βάση της καθημερινής μας ζωής και τις οποίες θεωρούμε αυτονόητες. Γιατί
αισθάνομαι ότι η ζωή, η συνείδηση, η κοινωνική ζωή, τα πάντα είναι ζήτημα
ορισμένων κατασκευών και συμφωνιών».
Αν υπάρχει ένας σκηνοθέτης που μπορεί να πει αυτή τη φράση χωρίς να ακούγεται σαν διακήρυξη, είναι ο Τβαρκόφσκι. Εδώ και χρόνια φτιάχνει παραστάσεις που δοκιμάζουν τη βεβαιότητα του θεατή γι’ αυτό που βλέπει: η ζωντανή δράση περνά στην οθόνη, η εικόνα επιστρέφει στη σκηνή, η κάμερα αποκαλύπτει κάτι που το μάτι δεν μπορούσε να δει και ταυτόχρονα γεννά την υποψία ότι αυτό που μόλις είδες έχει ήδη διαμεσολαβηθεί, επιλεγεί, κατασκευαστεί για σένα. Στο «ORACLE», που έρχεται στη Στέγη (15-18 Οκτωβρίου), αυτή η εμμονή συναντά τον Άλαν Τούρινγκ και ερωτήματα που εκείνος είχε θέσει πολύ πριν αποκτήσουν τη σημερινή τους επείγουσα διάσταση: τι είναι νοημοσύνη, τι είναι συνείδηση και πού τελειώνει ο άνθρωπος όταν αρχίζει η μηχανή.
Ο Τούρινγκ
βρίσκεται στο κέντρο του δεύτερου μέρους της επιστημονικής τριλογίας του
Τβαρκόφσκι, η οποία άρχισε με το «Quanta». Το πρώτο μέρος ξεκινούσε πριν από
τον Β΄ Παγκόσμιο Πόλεμο, με τους φυσικούς της κβαντικής· το «ORACLE» περνά μέσα
από τον πόλεμο και το Bletchley Park για να φτάσει στη σημερινή τεχνητή
νοημοσύνη.
Ο Τβαρκόφσκι
ενδιαφέρεται ιδιαίτερα για τη σχέση του Τούρινγκ με την απώλεια, τον θάνατο και
την πιθανότητα η ανθρώπινη συνείδηση να μην εξαντλείται στο βιολογικό σώμα.
«Αυτό που ήταν πολύ σημαντικό για μένα ήταν η πνευματική πλευρά της έρευνάς
του», λέει μέσα από την οθόνη, μιλώντας σε ομάδα Ελλήνων δημοσιογράφων ενόψει
της παράστασης. «Φυσικά σκεφτόμαστε τον Τούρινγκ ως έναν ιδιοφυή μαθηματικό,
έναν άνθρωπο της λογικής, που έθεσε τις βάσεις πάνω στις οποίες μπόρεσε να
γεννηθεί η τεχνητή νοημοσύνη. Συχνά δεν βλέπουμε αυτή τη σύνδεση, ότι όλα
άρχισαν τότε, στη διάρκεια του Β΄ Παγκοσμίου Πολέμου, μέσα από την προσπάθεια
να δημιουργηθεί μια μηχανή ικανή να νικήσει τη γερμανική, τη ναζιστική μηχανή.
Εκεί βρίσκονται ουσιαστικά οι ρίζες αυτού που σήμερα ονομάζουμε τεχνητή
νοημοσύνη».
Υπάρχει όμως
ένας νεκρός στην αρχή αυτής της ιστορίας. Ο Κρίστοφερ Μόρκομ, ο στενός φίλος
του νεαρού Τούρινγκ, πέθανε ξαφνικά το 1930. «Αυτή ήταν η στιγμή που άρχισε να
φαντάζεται ότι ίσως υπάρχει κάποια οντότητα που μπορεί να διαχωριστεί από το
φυσικό σώμα. Όλη του η έρευνα υποκινήθηκε κατά κάποιον τρόπο από μια διαφωνία
με την ανθρώπινη συνθήκη, που περιορίζεται μέσα σε αυτό το πολύ εύθραυστο
ανθρώπινο σώμα». Ο Τβαρκόφσκι διαβάζει αυτή την έρευνα και ως μια προσπάθεια
του Τούρινγκ να συναντήσει ξανά τον αγαπημένο του φίλο: «Και αυτή μας έφερε
τελικά, πολλά χρόνια αργότερα, στην τεχνητή νοημοσύνη και στα τεχνητά νευρωνικά
δίκτυα. Αλλά ξεκίνησε από ένα υπαρξιακό πρόβλημα με την ανθρώπινη συνθήκη, η
οποία περιορίζεται τόσο πολύ από τον θάνατο».
«Τον χρησιμοποίησαν μέχρι τέλους και μετά τον
κατέστρεψαν»
Η συζήτηση για την αλήθεια τον οδηγεί κατευθείαν στην εξουσία και στον τρόπο με τον οποίο μεταχειρίστηκε τον Τούρινγκ. «Στην περίπτωση του Άλαν Τούρινγκ, τον χρησιμοποίησαν μέχρι τέλους και μετά τον κατέστρεψαν. Επομένως, το ζήτημα δεν είναι τόσο η αναζήτηση της αλήθειας όσο τα πολιτικά συστήματα που σε χρησιμοποιούν όσο περισσότερο μπορούν και, τη στιγμή που θα γίνεις άβολος γι’ αυτά, θα βρουν έναν τρόπο να σε καταστρέψουν».
Και η σκέψη
του ανοίγει από τον Τούρινγκ προς τις βεβαιότητες πάνω στις οποίες οργανώνουμε
ολόκληρες κοινωνίες. «Πρέπει πάντα να σκεφτόμαστε το σύστημα αναφοράς μέσα στο
οποίο μια αλήθεια μπορεί να είναι αλήθεια. Έχουμε ορισμένες αλήθειες που μας
φαίνονται θεμελιώδεις, ειδικά σε εμάς τους Δυτικούς -το πρωτότυπο, το πλαστό
και ούτω καθεξής- και οι οποίες είναι εντελώς διαφορετικές έννοιες σε άλλους
πολιτισμούς. Μερικές από τις μεγαλύτερες κατασκευές του κόσμου -το χρήμα, η
θρησκεία, η τέχνη ή η παράδοση- βασίζονται σε πράγματα που δεν υπάρχουν
αντικειμενικά. Κι όμως είμαστε έτοιμοι να σκοτώσουμε ο ένας τον άλλον, ακόμη
και να εξοντώσουμε ολόκληρους πληθυσμούς, πιστεύοντας σε κάτι που υπάρχει
επειδή μια ομάδα ανθρώπων έχει συμφωνήσει ότι υπάρχει».
Αυτή η
δυσπιστία απέναντι στις βεβαιότητες διατρέχει και τον τρόπο με τον οποίο
κοιτάζει σήμερα την τεχνητή νοημοσύνη. Και εδώ ο φόβος του δεν αφορά μόνο το
ενδεχόμενο μιας μηχανής που θα αποκτήσει συνείδηση. Αφορά αυτούς που ήδη την
ελέγχουν.
«Αυτό που με
τρομάζει περισσότερο είναι ότι αυτή η απίστευτα ισχυρή υπολογιστική δύναμη
βρίσκεται στα χέρια εξαιρετικά άπληστων ανθρώπων. Είναι ένα εργαλείο που δεν θα
έπρεπε ποτέ να αποκτήσουν. Δυστυχώς όμως είναι οι πλουσιότεροι και έχουν τη
δυνατότητα να το αναπτύξουν. Είναι μια δύναμη που δεν θα έπρεπε ποτέ, μα ποτέ
να έχουν».
Πότε κάτι αποκτά αυτοσυνείδηση; To κρίσιμο ερώτημα
για την ΑΙ
Από τα πρόσωπα που μπήκαν στην παράσταση κατά τη διάρκεια της έρευνας, ο Μπλέικ Λεμόιν φέρνει τον Τούρινγκ κατευθείαν στο παρόν. Ο πρώην μηχανικός της Google υποστήριξε ότι το γλωσσικό μοντέλο LaMDA είχε αποκτήσει συνείδηση. «Είναι μια πολύ ασαφής περίπτωση, γιατί δεν ξέρουμε αν είναι πραγματικά φαρσέρ, αν είναι πραγματικά επιστήμονας· είναι γενικά ένας πολύ παράξενος χαρακτήρας», λέει ο Τβαρκόφσκι.
Το ενδιαφέρον
του βρίσκεται στο ερώτημα που ανοίγει η ιστορία του: «Τι σημαίνει νοημοσύνη, τι
σημαίνει συνείδηση, τι σημαίνει αυτοσυνείδηση; Υπάρχουν πολλά επίπεδα σε αυτό
το ερώτημα. Πότε κάτι αποκτά αυτοσυνείδηση;» Και αν πράγματι συμβεί; Ο
Τβαρκόφσκι χρησιμοποιεί μια απροσδόκητη εικόνα: «Όταν δημιουργήσεις μια
οντότητα πρέπει να τη φροντίσεις. Ως κοινωνία θα είμαστε οι γονείς της. Θα
είναι σαν να έχουμε όλοι μαζί ένα ανεπιθύμητο παιδί και θα πρέπει να αναλάβουμε
κάποια ευθύνη γι’ αυτό. Και μπορεί να είναι ένα πολύ άτακτο παιδί. Αλλά, αν
αποκτήσει αυτοσυνείδηση, δεν μπορούμε απλώς να το σκοτώσουμε».
Η Χέντι Λαμάρ
φέρνει μια διαφορετική ιστορία στο «ORACLE». Ο Τβαρκόφσκι δεν γνώριζε
προηγουμένως την εφευρετική της δραστηριότητα και εντυπωσιάστηκε από τη
συγγένεια της διαδρομής της με εκείνη του Τούρινγκ. Οι δυο τους δεν
συναντήθηκαν ποτέ· στην παράσταση συνομιλούν μέσα σε ένα όνειρο. «Δεν ξέρουμε
ακριβώς σε τίνος το όνειρο συναντιούνται· ίσως είναι ένα κοινό όνειρο».
Για εκείνον, η
Λαμάρ είναι κυρίως η ιστορία μιας ευφυΐας που δεν αντιμετωπίστηκε με τη
σοβαρότητα που της αναλογούσε. «Η φωνή της ως εφευρέτρια δεν ακούστηκε επειδή
είχε κατηγοριοποιηθεί ως μια όμορφη γυναίκα. Κι όμως γνωρίζουμε ότι οι
ασύρματες συσκευές, το GPS και πολλά ακόμη βασίζονται στις εφευρέσεις της».
Η τέταρτη μορφή, η Σκωτσέζα πνευματίστρια Έλεν Ντάνκαν, οδηγεί την παράσταση στα «όρια της κατανόησής μας», εκεί όπου η επιστήμη συναντά όσα ακόμη δεν μπορεί να εξηγήσει. Η ιστορία της συνδυάζεται στην παράσταση με εκείνη μιας άλλης πνευματίστριας που, σύμφωνα με την έρευνα της ομάδας, είχε εργαστεί στο Bletchley Park. «Μήπως την είχαν εκεί επειδή δοκίμαζαν κάθε πιθανό τρόπο για να σπάσουν το Enigma; Μήπως πίστευαν ότι ακόμη και οι ικανότητες ενός μέντιουμ θα μπορούσαν να σπάσουν τον κώδικα;».
Οι κάμερες των drones και και οι κάμερες του
Τβαρκόβσκι είναι οι ίδιες
Η τεχνολογία
στις παραστάσεις του Τβαρκόφσκι έχει πάντα συγκεκριμένη λειτουργία. Όταν τον
ρωτούμε αν κινδυνεύει να γίνει σημαντικότερη από τους ηθοποιούς, απαντά ακαριαία:
«Όχι». «Οι ηθοποιοί εξακολουθούν να βρίσκονται στο κέντρο, γιατί δεν είναι η
τεχνολογία το αντικείμενο της έρευνας. Είναι ο άνθρωπος μέσα σε έναν
ψηφιοποιημένο κόσμο». Αναφέρεται στον ΜακΛούαν -«το μέσο είναι πάντα το μήνυμα»-
και εξηγεί ότι κάθε μέσο πρέπει να δικαιολογεί την παρουσία του: «Πρέπει να
ξέρουμε γιατί χρησιμοποιούμε ένα συγκεκριμένο μέσο και γιατί δεν μπορούμε να
κάνουμε το ίδιο χωρίς αυτό. Γιατί, αν μπορούσαμε, θα το κάναμε χωρίς αυτό».
Στο «ORACLE»
χρησιμοποιεί θερμικές και υπέρυθρες κάμερες. Και εδώ η τεχνολογία της σκηνής
συναντά απότομα την πραγματικότητα του πολέμου. «Οι θερμικές κάμερες είναι ήδη
φορτισμένες με μια συγκεκριμένη εικόνα», λέει. «Οι ίδιες κάμερες τοποθετούνται
σε drones που στέλνονται στην Ουκρανία για να την υπερασπιστούν».
Με τις υπέρυθρες κάμερες η ομάδα επιχείρησε κάτι διαφορετικό: να πλησιάσει τον τρόπο με τον οποίο «βλέπει» μια μηχανή. «Σκεφτήκαμε: πώς θα μπορούσαμε να δούμε από την οπτική της ΑΙ; Ας προσπαθήσουμε να χρησιμοποιήσουμε την όραση που έχει εκείνη και την οποία εμείς συνήθως δεν βλέπουμε. Γιατί αυτή βρίσκεται ήδη μέσα σε κάθε συσκευή που χρησιμοποιούμε. Για την αναγνώριση προσώπου, για παράδειγμα, χρησιμοποιείται η υπέρυθρη κάμερα, γιατί μπορεί πολύ ευκολότερα να ανιχνεύσει την τρισδιάστατη εικόνα και να σε αναγνωρίσει».
«Μπορεί αυτό να ονομάζεται ακόμη δημοκρατία;»
Ο φόβος του για τη συγκέντρωση αυτής της τεχνολογικής δύναμης επανέρχεται όταν η συζήτηση φτάνει στη δημοκρατία. «Δεν έχω λύσεις, δεν έχω απαντήσεις. Έχω μόνο ανησυχίες και μια τεράστια αγωνία για το αν αυτό που ζούμε στην εποχή των Big Tech μπορεί ακόμη να ονομάζεται δημοκρατία. Η πληροφορία παραδίδεται πλέον εξατομικευμένα στον καθένα μας και δημιουργούνται τεράστιες πληροφοριακές φούσκες που κάνουν οποιαδήποτε συναίνεση αδύνατη. Τα ισχυρότερα εργαλεία επικοινωνίας δόθηκαν στα χέρια άπληστων ανθρώπων. Και ίσως αυτό να μην είναι πια δημοκρατία».«
Κι όμως, πίσω από όλη τη συζήτηση για την ΑΙ επιμένει το αρχικό ερώτημα της παράστασης: η συνείδηση. «Δεν πιστεύω
πραγματικά ότι η συνείδηση μπορεί να δημιουργηθεί ή να προκληθεί ακόμη και από
πολύ ισχυρές υπολογιστικές μηχανές. Υπάρχει κάτι πιο μυστηριώδες σε αυτό που
αποκαλούμε συνείδηση. Ίσως συνδέεται με την κβαντική μηχανική, ίσως με κάποιο
είδος κατάρρευσης της κυματοσυνάρτησης. Δεν ξέρω. Υπάρχει ένα μυστήριο εδώ και
δεν νομίζω ότι λύνεται τόσο εύκολα με μια υπολογιστική μηχανή. Γι’ αυτό στο
κέντρο του “ORACLE” δεν βρίσκεται η μηχανή ή ο υπολογιστής, αλλά αυτή η
πνευματική αναζήτηση, μια πνευματική ανάγκη που δεν νομίζω ότι θα πάψουμε ποτέ
να έχουμε».
Και το εξηγεί
με δύο ερωτήσεις που μας απομακρύνουν ξανά από τις μηχανές: «Πώς μπορούμε να
αποδείξουμε ότι κάποιος μας αγαπά; Πώς μπορούμε να αποδείξουμε ότι κάποιος
πραγματικά πονά; Δεν μπορούμε ποτέ να το επαληθεύσουμε. Πρέπει απλώς να
εμπιστευτούμε ότι κάποιος πονά όταν μας λέει ότι πονά. Και αυτό είναι κάτι που
μπορεί πολύ εύκολα να προσομοιωθεί, χωρίς να έχεις τρόπο να το ελέγξεις».
Λίγο πριν τελειώσει η συνομιλία, τον ρωτώ τι θα ρωτούσε τον Άλαν Τούρινγκ αν τον είχε τώρα μπροστά του. Ύστερα από τόση συζήτηση για τον θάνατο, την ΑΙ, την εξουσία και τη συνείδηση, ύστερα από απαντήσεις του που ήταν αυτόματες, πυρετικές. Σταματά. Ακολουθούν μερικά χμ, αμήχανα γελάκια του, κοιτάζει μακριά από την κάμερα, ώσπου έρχεται η απάντησή του σχεδόν κωμικά προσγειωμένη. «Θα του ζητούσα να μου εξηγήσει το θεώρημα του Γκέντελ, γιατί ακόμη δεν το καταλαβαίνω. Έγραψε την πρώτη του εργασία γι’ αυτό και τόσοι άνθρωποι έχουν προσπαθήσει να μου το εξηγήσουν, κβαντικοί φυσικοί, άνθρωποι με τους οποίους δουλεύω, και ακόμη δεν το καταλαβαίνω. Θα χαιρόμουν πολύ αν μπορούσε να μου το εξηγήσει εκείνος. Ίσως να μπορούσε». Τίποτα προσωπικό; «Τίποτα».
Info
«ORACLE» –
Łukasz Twarkowski
Στέγη Ιδρύματος Ωνάση
15–18 Οκτωβρίου 2026
Onassis.org
