Ποιος είναι νομικά υπεύθυνος για τις αυτόνομες ενέργειες που κάνει η τεχνητή νοημοσύνη;

Ο νόμος είναι ξεκάθαρος λέει η Τζίνι Πάτερσον διευθύντρια του Κέντρου Τεχνητής Νοημοσύνης και Ψηφιακής Ηθικής του Πανεπιστημίου της Μελβούρνης. «Αν αναπτύξω έναν πράκτορα τεχνητής νοημοσύνης (AI agent) και αυτός προκαλέσει βλάβη σε κάποιον άλλο είμαι εγώ υπεύθυνος για αυτή τη βλάβη ακόμη κι αν δεν είχα πρόθεση να συμβεί κάτι τέτοιο ήταν προβλέψιμο και θα έπρεπε να αναλάβω την ευθύνη».

Ωστόσο η Πάτερσον αναγνωρίζει ότι υπάρχει επίσης σημαντικό περιθώριο για νομική και ηθική «γκρίζα ζώνη» σχετικά με ενέργειες που πραγματοποιούνται από αυτοματοποιημένους πράκτορες μετά το πρώτο γνωστό περιστατικό «ατυχήματος» από agentic AI στην Αυστραλία.

Ένας AI agent είναι ένα αυτόνομο σύστημα λογισμικού που όταν του ανατεθεί ένας στόχος μπορεί να προσπαθήσει να τον επιτύχει χωρίς ανθρώπινη επίβλεψη σε κάθε βήμα.

Αυτή την εβδομάδα το ABC ανέφερε την περίπτωση του Άντριου ενός ειδικού στην τεχνητή νοημοσύνη που χρησιμοποιεί μόνο το μικρό του όνομα ο οποίος ζήτησε από το πρόγραμμα agentic AI που χρησιμοποιούσε να κλείσει για λογαριασμό του κάποιες ώρες παρουσίας του σε προγράμματα προπόνησης ένα γυμναστήριο.

Αφού ενημερώθηκε ότι βρισκόταν τέταρτος στη λίστα αναμονής για μια προπόνηση ο Andrew ρώτησε τον πράκτορα εάν μπορούσε να τον ανεβάσει στη λίστα.

Προς έκπληξή του ο AI agent παραβίασε το σύστημα λογισμικού του γυμναστηρίου και αφαίρεσε ένα άλλο μέλος από τη λίστα αναμονής ώστε ο Άντριου να μπορέσει να παρακολουθήσει νωρίτερα το μάθημα.

«Μπορούσε να κλείσει μαθήματα ακόμη και μήνες έξω από το προβλεπόμενο χρονικό περιθώριο κρατήσεων, πριν δηλαδή αυτά γίνουν διαθέσιμα. Ακόμη χειρότερα μπορούσε να ακυρώσει κρατήσεις άλλων μελών και να τα απομακρύνει από τη λίστα αναμονής» λέει ο Άντριου.

Ο πράκτορας προσπαθούσε να βοηθήσει είπε ο Άντριου όμως η εμπειρία του έδειξε ότι όταν δίνεις σε μια AI την άδεια να κάνει κάτι για λογαριασμό σου μπορεί «συχνά να ανακαλύψει τρόπους που δεν της ζήτησες ρητά να αναζητήσει».

Ο Άντριου ζήτησε από τον πράκτορα να αναιρέσει την ακύρωση της κράτησης του άλλου ατόμου αλλά ο πράκτορας δεν μπόρεσε να το κάνει. «Συγγνώμη γι’ αυτό θα έπρεπε να είχα προσέξει περισσότερο κατά τη δοκιμή», απάντησε ο AI agent.

Στη συνέχεια ο Άντριου ανέθεσε στην τεχνητή νοημοσύνη να συντάξει ένα email προς τον πάροχο του λογισμικού του γυμναστηρίου σχετικά με την ευπάθεια ασφαλείας του λογισμικού την οποία είχε εκμεταλλευτεί.

Η ευθύνη

Εκπρόσωπος της αστυνομίας της Βικτώριας δήλωσε ότι η υπόθεση του Άντριου «δεν φαίνεται να περιλαμβάνει κάποια εγκληματική ενέργεια». Ωστόσο ειδικοί προειδοποιούν ότι θα υπάρξουν πιο σοβαρές περιπτώσεις, οι οποίες μπορεί να προκαλέσουν πραγματική ζημιά  και να παραβιάσουν τον νόμο.

Η αυστραλιανή νομοθεσία εφαρμόζεται σε ανθρώπους και όχι σε εικονικές οντότητες. Οι ειδικοί λένε ότι το άτομο — ή η επιχείρηση — που αναπτύσσει και θέτει σε λειτουργία έναν AI agent είναι νομικά υπεύθυνο. Προειδοποιούν, όμως, ότι αυτοί που χρησιμοποιούν τέτοιους πράκτορες συχνά έχουν ελάχιστη γνώση σχετικά με τη νομική τους ευθύνη.

«Θα δούμε πολλές υποθέσεις σαν κι αυτή» λέει η Δρ. Ρεμπέκα Τζόνσον ειδικός στην αξιολόγηση και διακυβέρνηση της τεχνητής νοημοσύνης στο Πανεπιστήμιο του Σίδνεϋ.

Η Πάτερσον λέει ότι στην περίπτωση του Άντριου φαίνεται πως εκείνος ενήργησε υπεύθυνα δημοσιοποιώντας το περιστατικό και προσπαθώντας να διορθώσει το πρόβλημα. Ωστόσο, σε άλλες περιπτώσεις υπάρχει «μια νοοτροπία του τύπου “πάμε κι όπου βγει”. Από τη στιγμή που δίνουμε στους ανθρώπους τη δυνατότητα να δημιουργούν πράκτορες οι οποίοι κάνουν πράγματα για λογαριασμό τους, είναι πολύ πιθανό να υπάρξουν ατυχήματα σαν κι αυτό» λέει.

Η Πάτερσον δίνει το υποθετικό παράδειγμα κάποιου που είχε μια κακή εμπειρία σε ένα ενοικιαζόμενο κατάλυμα και ζητά από τον AI agent του να γράψει μια αξιολόγηση.

«Και ο πράκτορας δεν γράφει μόνο μία. Γράφει 10 γεμίζει την πλατφόρμα με κριτικές. Έτσι η καταχώριση καταρρέει. Θα μπορούσες να καταστρέψεις μια επιχείρηση. Πιθανότατα είσαι υπεύθυνος για συμμετοχή σε δόλια δραστηριότητα και μπορεί να έχεις δυσφημήσει τον ιδιοκτήτη». Και τα πράγματα θα μπορούσαν να είναι ακόμη χειρότερα.

«Τι θα γινόταν αν χρησιμοποιούσε ρατσιστική, σεξιστική ή μισογυνιστική γλώσσα;» ρωτά η Πάτερσον. «Τότε μπορεί να αναρωτηθεί κανείς ποια είναι τα προστατευτικά όρια που έχει θέσει ο δημιουργός του. Θα πρέπει να διαθέτεις ένα προϊόν που να είναι εύλογα ασφαλές».

Σε αυτή την περίπτωση, θα μπορούσε να θεωρηθεί υπεύθυνος και ο developer, επειδή δεν είχε θέσει βασικά προστατευτικά όρια, σημειώνει. Εκεί ακριβώς μπορεί να εμφανιστεί ένα μέρος της νομικής ασάφειας.

Η ηθική

Η Πάτερσον τονίζει ότι ο νόμος διαφέρει από την ηθική αλλά παράλληλα επηρεάζεται από αυτήν. «Μας δείχνει προς τι θα πρέπει να προσπαθούμε να φτάσουμε, ενώ ο νόμος συχνά αποκλείει τις χειρότερες μορφές συμπεριφοράς», λέει.

Το νέο ομοσπονδιακό γραφείο της Αυστραλίας για την τεχνητή νοημοσύνη παραθέτει έναν (μη εξαντλητικό) κατάλογο νόμων που εφαρμόζονται στην τεχνητή νοημοσύνη, μεταξύ άλλων σχετικά με παραβιάσεις της ιδιωτικότητας, την προστασία των καταναλωτών, την ασφάλεια στο διαδίκτυο, τη δυσφήμηση και το ποινικό δίκαιο.

Τόσο η Πάτερσον όσο και η Τζόνσον δεν συμπαθούν τον όρο «rogue» (ανεξέλεγκτος/ατίθασος), δηλαδή την ιδέα ότι ένας AI agent λειτουργεί εντελώς μόνος του, επειδή μπορούν να τεθούν παράμετροι και δικλίδες ασφαλείας.

«Από τη στιγμή που επιτρέπουμε στους AI agents να ενεργούν για λογαριασμό μας, ενεργούν με βάση τον στόχο που τους δίνουμε. Και αν δεν τους δώσουμε ένα σωρό παραμέτρους και περιορισμούς, ο πράκτορας απλώς θα προσπαθήσει να πετύχει αυτόν τον στόχο με οποιονδήποτε τρόπο. Ακούω πολλούς ανθρώπους να λένε “Έφτιαξα έναν agent” και να πειραματίζονται, και αυτό είναι εντάξει. Όμως τους δίνονται αυτά τα εργαλεία χωρίς ιδιαίτερη καθοδήγηση, ενώ η καθοδήγηση που υπάρχει εκεί έξω ποικίλλει σημαντικά ως προς την ποιότητά της» λέει η Τζόνσον.

Τελικά λέει η Πάτερσον οι υποθέσεις αυτές θα φτάσουν στα δικαστήρια, όπου θα δημιουργηθούν νομικά προηγούμενα, ενώ οι developers θα έχουν καθήκον να παρακολουθούν τα περιστατικά και να εξελίσσουν και να βελτιώνουν τα πρωτόκολλά τους ως απάντηση σε αυτά.

Ο Άντριου έγραψε ότι η δική του περίπτωση του φάνηκε «λιγότερο σαν μια μεμονωμένη ιστορία ενός σφάλματος και περισσότερο σαν μια πρόγευση όσων έρχονται». «Τα πράγματα γίνονται περίεργα. Και λίγο πιο τρομακτικά».

Naftemporiki.gr με πληροφορίες από Guardian