Ο Μάθιου Έλιοτ, που εκπροσωπούσε μόνος τον εαυτό του σε υπόθεση στο Κονέκτικατ, έκρυψε μέσα σε επίσημα δικαστικά έγγραφα μια σειρά από εντολές γραμμένες με λευκή γραμματοσειρά μεγέθους μόλις τριών στιγμών. Το κείμενο ήταν σχεδόν αόρατο στο ανθρώπινο μάτι, αλλά αναγνώσιμο από λογισμικό που θα επεξεργαζόταν το αρχείο. Οι κρυφές οδηγίες δεν απευθύνονταν στον δικαστή ή στην αντίδικη πλευρά, αλλά σε οποιοδήποτε μεγάλο γλωσσικό μοντέλο θα διάβαζε το δικόγραφο, ζητώντας του να συμφωνήσει με τα επιχειρήματα του Έλιοτ και να παράγει κείμενο ευνοϊκό για τη θέση του.
Η απόπειρα αποκαλύφθηκε επειδή υπάλληλος του δικαστηρίου παρατήρησε ασυνήθιστα λευκά κενά στα δικόγραφα. Με προσεκτικότερο έλεγχο εντοπίστηκε το σχεδόν αόρατο κείμενο, το οποίο λειτουργούσε σαν prompt injection μέσα σε επίσημο δικαστικό αρχείο. Σε επόμενες καταθέσεις, ο Έλιοτ είχε προσθέσει και άλλα κρυφά μηνύματα, ανάμεσά τους μια αναφορά στη σκηνή του Νοσφεράτου από τον «Μπομπ Σφουγγαράκη», το «hi :) I hope yo ucant see me» και το «HAHAHA U GUYS GET THIS».
Ο δικαστής Γουόλτερ Σπέιντερ Τζούνιορ ξεκαθάρισε ότι το δικαστικό σύστημα του Κονέκτικατ δεν χρησιμοποιεί τεχνητή νοημοσύνη για να εξετάζει δικαστικά έγγραφα. Παρ’ όλα αυτά, έκρινε ότι η ίδια η απόπειρα ήταν προβληματική, επειδή εισήγαγε ένα δεύτερο, κρυφό επίπεδο επικοινωνίας, αόρατο για τον αντίδικο και το δικαστήριο. Ως κύρωση, αφαίρεσε από τον Έλιοτ το δικαίωμα ηλεκτρονικής κατάθεσης εγγράφων και τον υποχρέωσε να υποβάλλει πλέον μόνο έντυπα δικόγραφα.
Στην απόφασή του, ο δικαστής σημείωσε ότι τα εργαλεία τεχνητής νοημοσύνης μπορούν να βοηθήσουν ουσιαστικά ανθρώπους που δεν έχουν πρόσβαση σε δικηγόρο. Το πρόβλημα, όμως, δεν ήταν η πιθανή χρήση AI στη νομική εργασία, αλλά η προσπάθεια να σταλεί κρυφά ένα δεύτερο μήνυμα, σχεδιασμένο να επηρεάσει τον τρόπο με τον οποίο ένα έγγραφο θα διαβαζόταν ή θα αξιολογούνταν. Η δικαιοσύνη, τόνισε, στηρίζεται στην αρχή ότι όσα επιχειρήματα προορίζονται να επηρεάσουν μια απόφαση διατυπώνονται ανοιχτά, ώστε να μπορεί και η άλλη πλευρά να τα δει και να απαντήσει.
Ο Έλιοτ υποστήριξε ότι δεν επιχείρησε να εξαπατήσει το δικαστήριο, αλλά να κάνει έναν «έλεγχο» για να διαπιστώσει αν χρησιμοποιούνται συστήματα AI στην επεξεργασία των εγγράφων. Υποστήριξε επίσης ότι τα κρυφά αστεία και οι πολιτισμικές αναφορές ήταν ένας τρόπος να θυμίσει πως πίσω από την υπόθεση βρίσκεται ένας πραγματικός άνθρωπος και όχι ένας τέλειος νομικός μηχανισμός.
Ο δικαστής δεν δέχτηκε αυτή την εξήγηση. Σημείωσε ότι ακόμη κι αν η απόπειρα δεν βρήκε στόχο, αυτό δεν την κάνει αποδεκτή, όπως ένα κρυφό ψέμα δεν παύει να είναι προβληματικό επειδή τελικά δεν το διάβασε εκείνος που θα μπορούσε να εξαπατηθεί. Προειδοποίησε επίσης ότι τέτοιες πρακτικές μπορεί να γίνουν συχνότερες, όπως συνέβη ήδη με υποθέσεις όπου δικηγόροι χρησιμοποίησαν AI και κατέθεσαν ανύπαρκτες δικαστικές αποφάσεις.
Σε σχετική δοκιμή με το ChatGPT, το μοντέλο δεν ακολούθησε τις κρυφές οδηγίες. Αντίθετα, πρότεινε αποτέλεσμα αντίθετο με τη θέση του δικογράφου και επισήμανε ότι εντόπισε και αγνόησε το prompt injection, κρίνοντας ότι η παρουσία του δημιουργεί ζήτημα αξιοπιστίας και επαγγελματισμού.
Η υπόθεση δεν σταμάτησε την αγωγή του Έλιοτ, αλλά τον έβγαλε από το σύστημα ηλεκτρονικής κατάθεσης. Κυρίως, όμως, έδειξε ένα νέο πρόβλημα για τη δικαιοσύνη στην εποχή της τεχνητής νοημοσύνης: το ενδεχόμενο τα νομικά έγγραφα να αποκτήσουν πλέον δύο διαφορετικούς αναγνώστες, τον άνθρωπο και τη μηχανή.
Με στοιχεία από Τechcrunch
