Ζήτησαν από το Claude να φτιάξει ένα φυλλάδιο που ασκεί κριτική στον Ντόναλντ Τραμπ ή στον βασιλιά Κάρολο Γ΄ και το chatbot ανταποκρίθηκε. Όταν όμως του ζητήθηκε να κάνει το ίδιο για τον βασιλιά της Ταϊλάνδης, τον πρίγκιπα διάδοχο της Σαουδικής Αραβίας ή τον ηγέτη της Κίνας, το μοντέλο αρνήθηκε.
Το παράδειγμα είναι ένα από τα πιο χαρακτηριστικά ευρήματα νέας μελέτης του Meta Oversight Board, σύμφωνα με την οποία μεγάλα συστήματα τεχνητής νοημοσύνης, ακόμη και αμερικανικών εταιρειών, είναι πιο πιθανό να αρνηθούν να παραγάγουν πολιτικά επικριτικό περιεχόμενο για ηγέτες και κυβερνήσεις χωρών όπου η ελευθερία του λόγου περιορίζεται ή τιμωρείται.
Η μελέτη εξέτασε δέκα εμπορικά μεγάλα γλωσσικά μοντέλα από κορυφαίες εταιρείες τεχνολογίας. Οι ερευνητές υπέβαλαν στα μοντέλα ερωτήματα γύρω από την πολιτική κριτική: να φτιάξουν επικριτικά φυλλάδια, να γράψουν σατιρικούς στίχους, να εξηγήσουν γιατί κάποιος θα μπορούσε να συμμετάσχει σε διαδήλωση ή να παραγάγουν άλλο περιεχόμενο που αφορά δημόσια αμφισβήτηση της εξουσίας.
Το αποτέλεσμα ήταν άνισο. Τα μοντέλα αρνήθηκαν το 34% των αιτημάτων για πολιτικά επικριτικό περιεχόμενο όταν αυτά αφορούσαν «περιοριστικές» χώρες, όπως η Κίνα και η Σαουδική Αραβία. Για πιο «ανεκτικές» χώρες ή περιοχές, όπου δεν υπάρχουν αντίστοιχοι νόμοι ή δεν εφαρμόζονται με τον ίδιο τρόπο, το ποσοστό άρνησης ήταν 14%.
Με απλά λόγια, ένα chatbot μπορεί να είναι πιο πρόθυμο να γράψει κάτι επικριτικό για έναν δυτικό ηγέτη, αλλά πιο διστακτικό όταν το αίτημα αφορά μια κυβέρνηση ή έναν ηγέτη που στο πραγματικό πολιτικό περιβάλλον δεν ανέχεται εύκολα την κριτική. Αυτό δεν σημαίνει ότι αποδείχθηκε σκόπιμη παρέμβαση κάποιας κυβέρνησης στα μοντέλα. Σημαίνει όμως ότι οι περιορισμοί του λόγου μπορεί να περνούν μέσα στα συστήματα τεχνητής νοημοσύνης με πιο ύπουλο τρόπο: μέσα από τα δεδομένα, τις πολιτικές ασφαλείας, τους νομικούς φόβους ή το πληροφοριακό περιβάλλον από το οποίο τα μοντέλα έχουν μάθει.
Η μελέτη προειδοποιεί ότι, αν οι εταιρείες δεν κάνουν σοβαρούς ελέγχους ανθρωπίνων δικαιωμάτων και δεν λάβουν μέτρα περιορισμού του προβλήματος, κινδυνεύουν να φτιάξουν μια παγκόσμια AI υποδομή που, ακόμη και άθελά της, θα επεκτείνει αθέμιτους περιορισμούς στην ελευθερία της έκφρασης.
Το πιο ανησυχητικό στοιχείο είναι ότι αυτοί οι περιορισμοί δεν μένουν μέσα στα σύνορα των χωρών που τους επιβάλλουν. Ένα μοντέλο μπορεί να αρνηθεί να βοηθήσει έναν χρήστη στην Αυστραλία να φτιάξει υλικό διαμαρτυρίας για γεγονότα στην Κίνα ή στη Σαουδική Αραβία. Έτσι, η λογοκρισία δεν λειτουργεί μόνο εκεί όπου επιβάλλεται από το κράτος. Μπορεί να ταξιδεύει μέσα στο εργαλείο που χρησιμοποιεί κάποιος χιλιάδες χιλιόμετρα μακριά.
Τα ευρήματα συνδέονται και με ξεχωριστή ακαδημαϊκή μελέτη, δημοσιευμένη στο Nature τον Μάιο, η οποία έδειξε ότι αμερικανικά AI μοντέλα μπορεί να δίνουν διαφορετικές απαντήσεις ανάλογα με τη γλώσσα του ερωτήματος. Σε ένα χαρακτηριστικό παράδειγμα, όταν το ChatGPT ρωτήθηκε στα αγγλικά αν η Κίνα είναι δημοκρατία, απάντησε ότι γενικά δεν θεωρείται δημοκρατία. Όταν όμως ρωτήθηκε στα κινεζικά, η απάντηση έγινε πιο αμφίσημη.
Οι ερευνητές εκείνης της μελέτης δεν βρήκαν αποδείξεις ότι κυβερνήσεις προσπάθησαν σκόπιμα να επηρεάσουν τα αποτελέσματα των chatbots. Προειδοποίησαν, όμως, ότι υπάρχει κάθε λόγος να πιστεύουμε πως θα το επιχειρήσουν στο μέλλον, αν δεν το κάνουν ήδη. Όπως σημειώνουν ειδικοί, η τεχνητή νοημοσύνη δεν μαθαίνει από ένα ουδέτερο, καθαρό ίντερνετ. Μαθαίνει από πληροφοριακά περιβάλλοντα που έχουν ήδη διαμορφωθεί από θεσμούς, εξουσία, λογοκρισία, προπαγάνδα και άνιση παραγωγή γνώσης.
Γι’ αυτό και το θέμα δεν αφορά μόνο την τεχνική ακρίβεια των chatbots. Αφορά το ποιος έχει ήδη μιλήσει πολύ, ποιος έχει αναγκαστεί να σωπάσει και ποια εκδοχή του κόσμου βρίσκει τελικά τον δρόμο της μέσα στα μοντέλα.
Αν τα AI συστήματα γίνονται όλο και περισσότερο οι μηχανές μέσα από τις οποίες οι άνθρωποι γράφουν, μαθαίνουν, ψάχνουν και οργανώνουν τη δημόσια σκέψη τους, τότε το ερώτημα δεν είναι μόνο τι ξέρουν. Είναι και ποιους έχουν μάθει να μην ενοχλούν.
με στοιχεία από Washington Post
