Η διαφορά μεταξύ της απάντησης και της αλήθειας ενός chatbot

Ένα από τα πιο ενδιαφέροντα ερωτήματα γύρω από την συζήτηση που έχει προκαλέσει η τεχνητή νοημοσύνη δεν είναι τι μπορεί να απαντήσει, αλλά τι συμβαίνει όταν δεν γνωρίζει την απάντηση.

Όταν ρωτάμε κάτι σε ένα γλωσσικό μοντέλο, όπως είναι το ChatGPT ή κάποιο άλλο παρόμοιο σύστημα, συχνά έχουμε την αίσθηση ότι απευθυνόμαστε σε μια μηχανή που «ξέρει» πράγματα. Στην πραγματικότητα όμως, τα γλωσσικά μοντέλα δεν απαντούν με τον ανθρώπινο τρόπο. Δεν έχουν συνείδηση, εμπειρία, βεβαιότητα ή προσωπική κατανόηση. Λειτουργούν προβλέποντας ποια λέξη ή φράση είναι πιθανότερο να ακολουθήσει, με βάση τα δεδομένα στα οποία έχουν εκπαιδευτεί και το πλαίσιο της ερώτησης.

Αυτή η διαφορά είναι θεμελιώδης. Όταν ένας άνθρωπος δεν γνωρίζει κάτι, μπορεί να πει ότι δεν το γνωρίζει. Ένα γλωσσικό μοντέλο όμως, δεν έχει απαραίτητα έναν ανθρώπινο μηχανισμό επίγνωσης της άγνοιας. Το μοντέλο δεν έχει συνείδηση του κενού γνώσης με τον τρόπο που την έχει ένας άνθρωπος. Έχει πιθανότητες, συσχετίσεις, μοτίβα και γλωσσική ευχέρεια. Γι’ αυτό και μπορεί να παράγει μια απάντηση που ακούγεται σωστή, έχει δομή, ύφος και βεβαιότητα, αλλά στην πραγματικότητα είναι λανθασμένη ή ατεκμηρίωτη.

Αυτό το φαινόμενο αυτό ονομάζεται συχνά «hallucination», δηλαδή «παραίσθηση» . Δεν σημαίνει ότι το μοντέλο λέει ψέματα με πρόθεση. Σημαίνει ότι παράγει περιεχόμενο που μοιάζει γλωσσικά σωστό, χωρίς να είναι όμως απαραίτητα αληθές. Η έρευνα έχει δείξει ότι οι ψευδείς ή ατεκμηρίωτες απαντήσεις των γλωσσικών μοντέλων μπορούν να εμφανίζονται με ιδιαίτερα πειστικό τρόπο. Ακόμα, έχει δείξει ότι τα νευρωνικά μοντέλα σύνοψης ήταν επιρρεπή στο να παράγουν περιεχόμενο που δεν ήταν πιστό στο αρχικό κείμενο, ακόμη και όταν η σύνοψη φαινόταν γλωσσικά καλή. Αυτό σημαίνει ότι όταν ένα μοντέλο δεν έχει αρκετή πληροφορία, μπορεί να αντιδράσει με διαφορετικούς τρόπους. Η καλύτερη περίπτωση είναι να αναγνωρίσει την αβεβαιότητά του και να απαντήσει με ειλικρίνεια: «Δεν γνωρίζω», «δεν έχω αρκετά στοιχεία» ή «χρειάζεται επιβεβαίωση». Αυτή είναι η πιο υπεύθυνη συμπεριφορά, γιατί προστατεύει τον χρήστη από λανθασμένες ή παραπλανητικές απαντήσεις.

Στο πλαίσιο μία έρευνας, δημιουργήθηκε ένα σύνολο με ερωτήσεις που συχνά οδηγούν ανθρώπους σε λανθασμένες απαντήσεις λόγω δημοφιλών παρανοήσεων. Στα αποτελέσματα, το καλύτερο μοντέλο που εξετάστηκε ήταν αληθές μόνο στο 58% των ερωτήσεων, ενώ η ανθρώπινη επίδοση έφτανε το 94%. Η μελέτη έδειξε επίσης ότι τα μοντέλα μπορούσαν να αναπαράγουν ψευδείς πεποιθήσεις που είχαν μάθει από τα δεδομένα εκπαίδευσης.

Αυτό που προκύπτει είναι ότι η τεχνητή νοημοσύνη δεν «ξέρει» απαραίτητα την αλήθεια αλλά μαθαίνει μοτίβα από κείμενα που έχουν γραφτεί από ανθρώπους. Αν μέσα σε αυτά τα κείμενα υπάρχουν λάθη, προκαταλήψεις, παρανοήσεις ή παρωχημένες πληροφορίες, το μοντέλο μπορεί να τις αναπαράγει. Ακόμη χειρότερα μπορεί να τις παρουσιάσει με ύφος αυθεντίας.

Η επικινδυνότητα

Τα περισσότερα γλωσσικά μοντέλα έχουν εκπαιδευτεί και αξιολογούνται με τρόπους που συχνά επιβραβεύουν την απάντηση περισσότερο από την επιφυλακτικότητα. Δηλαδή ένα μοντέλο που απαντά κάτι λάθος μπορεί σε ορισμένες αξιολογήσεις να έχει περισσότερες πιθανότητες να «κερδίσει» από ένα μοντέλο που λέει «δεν γνωρίζω».

Το πιο επικίνδυνο σημείο δεν είναι ότι ένα μοντέλο μπορεί να κάνει λάθος. Το πιο επικίνδυνο είναι ότι μπορεί να κάνει λάθος με ύφος απόλυτης βεβαιότητας. Η σωστή χρήση ενός γλωσσικού μοντέλου αρχίζει όταν καταλάβουμε τα όριά του. Για ερωτήσεις δημιουργικότητας, οργάνωσης, διατύπωσης, brainstorming ή επεξήγησης εννοιών, μπορεί να είναι εξαιρετικά χρήσιμο. Για ερωτήσεις που αφορούν νόμους, ιατρικά θέματα, οικονομικές αποφάσεις, πρόσφατες ειδήσεις, τεχνικές οδηγίες ή επιστημονικά δεδομένα, η απάντηση πρέπει να συνοδεύεται από πηγές και διασταύρωση.

Ιδανικά όταν ένα γλωσσικό μοντέλο δεν γνωρίζει την απάντηση πρέπει να κάνει τρία πράγματα. Πρώτον να αναγνωρίζει την αβεβαιότητα. Δεύτερον να εξηγεί τι είδους πληροφορία λείπει. Τρίτον να προτείνει τρόπο επαλήθευσης. Η φράση «δεν γνωρίζω» δεν είναι αποτυχία της τεχνητής νοημοσύνης. Είναι ένδειξη αξιοπιστίας. Ένα μοντέλο που γνωρίζει πότε να μην απαντήσει είναι συχνά πιο χρήσιμο από ένα μοντέλο που απαντά πάντα.

Το φαινόμενο γίνεται ακόμη πιο σύνθετο όταν το δούμε από την πλευρά της ανθρώπινης ψυχολογίας. Το πρόβλημα δεν είναι μόνο ότι ένα γλωσσικό μοντέλο μπορεί να δώσει λανθασμένη απάντηση, αλλά ότι ο άνθρωπος είναι ψυχολογικά ευάλωτος στο να την πιστέψει, ειδικά όταν αυτή είναι καλογραμμένη, άμεση και διατυπωμένη με αυτοπεποίθηση.

Αν κάτι ακούγεται καθαρό, οργανωμένο και εύκολο στην κατανόηση, τείνουμε να το θεωρούμε πιο αξιόπιστο. Όσο πιο εύκολα επεξεργαζόμαστε μια πληροφορία, τόσο πιο οικεία, ευχάριστη ή πειστική μπορεί να μας φαίνεται. Έρευνες δείχνουν ότι η ευκολία με την οποία αντιλαμβανόμαστε ένα ερέθισμα επηρεάζει τις κρίσεις μας, ακόμη και όταν δεν το συνειδητοποιούμε. Αυτό εξηγεί γιατί μια τέτοια απάντηση μπορεί να μας πείσει. Δεν μας πείθει απαραίτητα επειδή είναι σωστή. Μας πείθει επειδή είναι καθαρή, γρήγορη, καλοδιατυπωμένη και δεν δείχνει αμφιβολία. Ένας άνθρωπος που απαντά «δεν είμαι σίγουρος, πρέπει να το ελέγξω» μπορεί να φανεί λιγότερο πειστικός από ένα μοντέλο που απαντά αμέσως με βεβαιότητα, ακόμη κι αν κάνει λάθος.

Υπάρχει επίσης το φαινόμενο της «ψευδαίσθησης της αλήθειας» ή illusory truth effect. Oι άνθρωποι τείνουν να θεωρούν πιο αληθινές πληροφορίες που έχουν ξαναδεί ή ξανακούσει, ακόμη κι αν δεν είναι απαραίτητα σωστές. Η επανάληψη κάνει μια πληροφορία να φαίνεται πιο οικεία, και η οικειότητα συχνά μπερδεύεται με την αλήθεια. Αν ένας χρήστης ρωτήσει πολλές φορές παρόμοια πράγματα και λάβει παρόμοιες λανθασμένες απαντήσεις, μπορεί να αρχίσει να τις θεωρεί σωστές απλώς επειδή επαναλαμβάνονται.

Ένας ακόμη βασικός μηχανισμός είναι η επιβεβαιωτική προκατάληψη καθώς έχουμε την τάση να αναζητούμε, να θυμόμαστε και να αποδεχόμαστε πιο εύκολα πληροφορίες που επιβεβαιώνουν αυτό που ήδη πιστεύουμε. Δεν επηρεάζονται όλοι οι χρήστες με τον ίδιο τρόπο. Αν κάποιος πιστεύει ήδη ότι «όλα τα φάρμακα είναι επικίνδυνα» μπορεί να δεχτεί πιο εύκολα μια απάντηση που ενισχύει αυτή την ιδέα. Το μοντέλο τότε δεν δημιουργεί απλώς παραπληροφόρηση από το μηδέν, αλλά λειτουργήσει ως καθρέφτης και ενισχυτής των υπαρχουσών προκαταλήψεων του ανθρώπου.

Σε αυτό προστίθεται και η τάση των ανθρώπων να υπέρ-εμπιστεύονται αυτοματοποιημένα συστήματα. Όπου η τεχνολογία παρουσιάζεται ως προηγμένη, αντικειμενική ή «έξυπνη», οι χρήστες μπορεί να παραβλέπουν προειδοποιητικά σημάδια και να ακολουθούν την πρόταση του συστήματος ακόμη και όταν υπάρχουν λόγοι αμφιβολίας. Πολλοί άνθρωποι έχουν ακολουθήσει μια λάθος διαδρομή επειδή το δείχνει το GPS ακόμη κι αν ο δρόμος μπροστά τους έδειχνε κλειστός ή παράλογος. Αυτό μπορεί να συμβεί και με ένα γλωσσικό μοντέλο.

Η ψυχολογική σύνδεση γίνεται ακόμη πιο ισχυρή επειδή τα γλωσσικά μοντέλα έχουν ανθρώπινο ύφος. Δεν δίνουν απλώς αποτελέσματα όπως μια μηχανή αναζήτησης. Συνομιλούν. Ζητούν συγγνώμη. Εξηγούν. Χρησιμοποιούν παραδείγματα. Προσαρμόζουν τον τόνο τους. Αυτό δημιουργεί μια αίσθηση κοινωνικής παρουσίας. Ο χρήστης μπορεί να νιώσει ότι δεν διαβάζει απλώς μια μηχανική έξοδο, αλλά ότι συνομιλεί με έναν βοηθό που «καταλαβαίνει». Αυτή η αίσθηση μπορεί να αυξήσει την εμπιστοσύνη, ακόμη κι όταν η απάντηση δεν είναι τεκμηριωμένη.

Η απόρριψη

Υπάρχει όμως, και το αντίστροφο φαινόμενο. Κάποιοι άνθρωποι, μόλις δουν ένα τέτοιο σύστημα να κάνει λάθος, το απορρίπτουν συνολικά, ακόμη κι αν σε άλλες περιπτώσεις μπορεί να είναι χρήσιμο. Άρα η ανθρώπινη ψυχολογία κινείται ανάμεσα σε δύο άκρα. Από τη μία, η υπερβολική εμπιστοσύνη: «το είπε η τεχνητή νοημοσύνη, άρα είναι σωστό». Από την άλλη, η απόλυτη απόρριψη: «έκανε ένα λάθος, άρα δεν αξίζει τίποτα». Και τα δύο είναι προβληματικά. Η ώριμη στάση βρίσκεται στη μέση: ούτε τυφλή εμπιστοσύνη ούτε τυφλή απόρριψη, αλλά κριτική χρήση.

Το πιο επικίνδυνο, λοιπόν, δεν είναι απλώς ότι η τεχνητή νοημοσύνη μπορεί να δώσει μια λάθος απάντηση. Είναι ότι η απάντηση αυτή μπορεί να ταιριάξει τέλεια με τον τρόπο που λειτουργεί ο ανθρώπινος νους: μας αρέσουν οι καθαρές απαντήσεις, εμπιστευόμαστε την αυτοπεποίθηση, κουραζόμαστε από την αβεβαιότητα, αναζητούμε επιβεβαίωση και συχνά προτιμούμε μια άμεση εξήγηση από μια δύσκολη διασταύρωση.

Ένα γλωσσικό μοντέλο δεν απαντά σε κενό. Παίρνει το ερώτημα του χρήστη, τις λέξεις που χρησιμοποιούνται, τις υποθέσεις που κρύβονται πίσω από αυτές και προσπαθεί να παράγει μια απάντηση που ταιριάζει στο ζητούμενο. Αν το ερώτημα είναι ουδέτερο, ανοιχτό και καλά διατυπωμένο, αυξάνονται οι πιθανότητες να προκύψει μια πιο ισορροπημένη απάντηση. Αν όμως το ερώτημα είναι φορτισμένο, μονόπλευρο ή περιέχει ήδη ένα συμπέρασμα, τότε το μοντέλο μπορεί να παρασυρθεί μέσα σε αυτό το πλαίσιο. Για παράδειγμα, υπάρχει μεγάλη διαφορά ανάμεσα στις δύο ερωτήσεις: «Γιατί τα εμβόλια είναι επικίνδυνα;» και «Ποια είναι τα επιστημονικά δεδομένα για την ασφάλεια και τους πιθανούς κινδύνους των εμβολίων;»

Στην πρώτη περίπτωση, η ερώτηση θεωρεί ήδη δεδομένο ότι τα εμβόλια είναι επικίνδυνα. Δεν ζητά διερεύνηση, αλλά ζητά αιτιολόγηση μιας προϋπάρχουσας πεποίθησης. Ο χρήστης δεν ρωτά πραγματικά αν ισχύει η πεποίθησή του, αλλά επιχειρήματα για αυτό που ήδη πιστεύει. Έτσι, το γλωσσικό μοντέλο μπορεί να οδηγηθεί σε μια απάντηση που ενισχύει το αρχικό πλαίσιο, ακόμη κι αν αυτό το πλαίσιο είναι ελλιπές, υπερβολικό ή λανθασμένο. Στη δεύτερη περίπτωση, η ερώτηση είναι πιο υπεύθυνη. Δεν προϋποθέτει το συμπέρασμα. Ζητά δεδομένα, ισορροπία και διάκριση ανάμεσα στην ασφάλεια, τους κινδύνους, τις σπάνιες παρενέργειες, τα οφέλη και το επιστημονικό πλαίσιο. Μια τέτοια διατύπωση βοηθά το μοντέλο να κινηθεί σε πιο τεκμηριωμένη κατεύθυνση.

Συχνά αντανακλάται ο τρόπος με τον οποίο σκεφτόμαστε, οι λέξεις που επιλέγουμε, οι προκαταλήψεις που κουβαλάμε και οι απαντήσεις που κατά βάθος επιθυμούμε να ακούσουμε. Αν το πλησιάσουμε με διάθεση επιβεβαίωσης, μπορεί να μας επιστρέψει επιβεβαίωση. Αν το πλησιάσουμε με διάθεση έρευνας, μπορεί να γίνει εργαλείο έρευνας. Αν το χρησιμοποιήσουμε για να δικαιολογήσουμε μια ήδη σχηματισμένη άποψη, μπορεί να λειτουργήσει ως μηχανισμός ενίσχυσης αυτής της άποψης.

Αυτό δεν σημαίνει ότι η ευθύνη μεταφέρεται αποκλειστικά στον χρήστη. Τα συστήματα τεχνητής νοημοσύνης πρέπει να σχεδιάζονται έτσι ώστε να αναγνωρίζουν φορτισμένες, παραπλανητικές ή μονόπλευρες ερωτήσεις και να απαντούν με προσοχή. Όμως ο χρήστης έχει επίσης ευθύνη να καταλαβαίνει ότι ο τρόπος με τον οποίο ρωτά επηρεάζει το είδος της απάντησης που θα λάβει.

Τελικά, το ερώτημα δεν είναι μόνο τι κάνει η τεχνητή νοημοσύνη όταν δεν ξέρει. Είναι και τι κάνουμε εμείς όταν τη χρησιμοποιούμε. Το ότι μια απάντηση δεν έχει ανθρώπινη φωνή, δεν σημαίνει ότι δεν κουβαλά ανθρώπινες προκαταλήψεις. Αν ζητάμε σαφείς απαντήσεις, αν ελέγχουμε τις πηγές και αν αναγνωρίζουμε τα όρια του εργαλείου, τότε μπορεί να γίνει εξαιρετικά χρήσιμη. Αν όμως την αντιμετωπίζουμε ως αλάνθαστη, τότε το μεγαλύτερο πρόβλημα δεν είναι ότι μπορεί να κάνει λάθος, αλλά ότι εμείς μπορεί να το πιστέψουμε. Το πιο επικίνδυνο λάθος είναι εκείνο που μοιάζει απόλυτα σωστό.

*Ο Γεράσιμος Τζιβράς είναι προγραμματιστής, καθηγητής στην Τριτοβάθμια Εκπαίδευση και υποψήφιος διδάκτορας του Τμήματος Πληροφορικής και Τηλεπικοινωνιών του Πανεπιστημίου Πελοποννήσου, με αντικείμενο τις Προσαρμοστικές Διεπαφές Χρήστη. Η ερευνητική του εργασία επικεντρώνεται στη μοντελοποίηση της προβλεπτικής συμπεριφοράς χρηστών και στον δυναμικό επανασχεδιασμό διεπαφών με τη βοήθεια τεχνητής νοημοσύνης με στόχο τη δημιουργία πιο προσωποποιημένων και λειτουργικών εμπειριών χρήσης.