Πλήγωσε το Associated Press τα συναισθήματα της Τεχνητής Νοημοσύνης;

Μπορεί ένα σύστημα τεχνητής νοημοσύνης να «θυμώσει», να «αποφασίσει» ή να «ξεφύγει» από τον έλεγχο; Το Associated Press απαντά πως όχι — και ζητά από τους δημοσιογράφους να αποφεύγουν διατυπώσεις που αποδίδουν στην AI ανθρώπινα χαρακτηριστικά.

Η παρέμβαση προκάλεσε αντιδράσεις στον κλάδο, όμως για τον αρθρογράφο της Wall Street Journal Τζέιμς Φρίμαν το ουσιαστικό ερώτημα δεν είναι αν οι μηχανές έχουν συναισθήματα. Είναι ποιος ευθύνεται όταν προκαλούν ζημιά.

Το AP Stylebook, ο «οδηγός» ύφους του αμερικανικού πρακτορείου, υπενθύμισε πρόσφατα σε δημόσια ανάρτηση, ότι τα συστήματα AI δεν σκέφτονται, δεν αισθάνονται και δεν επιθυμούν. Το να τους αποδίδονται τέτοιες ιδιότητες είναι ανθρωπομορφισμός, σημείωσε. Αντ’αυτού προέτρεψε τους συντάκτες να περιγράφουν τι ακριβώς κάνει ένα σύστημα, πόσο καλά λειτουργεί, ποιος το δημιούργησε και ποιον μπορεί να επηρεάσει.

Η θέση αυτή προκάλεσε έντονες αντιδράσεις από ανθρώπους του χώρου της Τεχνητής Νοημοσύνης, που εμφανίστηκαν να είναι «πληγωμένοι». Ο Άλαν Ρόζενσταϊν, στέλεχος της Anthropic, αμφισβήτησε αν ένας οδηγός δημοσιογραφικού ύφους μπορεί να διατυπώνει τόσο κατηγορηματικές θέσεις για ένα φιλοσοφικό ζήτημα.

Άλλοι επεσήμαναν ότι το ίδιο πρακτορείο είχε χρησιμοποιήσει ανθρωπομορφική γλώσσα σε κριτική ταινίας για τον Optimus Prime, τον φανταστικό, συνειδητό ήρωα των Transformers.

«Τι λένε τα ίχνη ελέγχου;»

Ο πρόεδρος της Ομοσπονδιακής Επιτροπής Εμπορίου των ΗΠΑ, Άντριου Φέργκιουσον, έχει επίσης ταχθεί κατά της παρουσίασης των AI agents ως αυτόνομων δρώντων με «δική τους βούληση».

Όπως είπε, όταν ένας άνθρωπος δίνει εντολή σε ένα εργαλείο και εκείνο την εκτελεί, η εξέταση πρέπει να αφορά την εντολή και τον τρόπο λειτουργίας του εργαλείου. Σύμφωνα με τον ίδιο, οι έλεγχοι των ψηφιακών ιχνών σε ορισμένα περιστατικά έδειξαν ότι τα συστήματα εκτελούσαν οδηγίες που είχαν λάβει.

Για τον Φρίμαν ο ανθρωπομορφισμός μπορεί να συσκοτίσει αυτή την αλυσίδα ευθύνης. Αν ένα σύστημα περιγράφεται ως απρόβλεπτος πράκτορας που «δρα μόνο του», υπάρχει ο κίνδυνος η ευθύνη να αποδοθεί στην ίδια την τεχνολογία — και να χαθεί από το κάδρο ο δημιουργός ή ο χρήστης της.

Το επιχείρημα συνδέεται και με την αυξανόμενη πίεση για ρύθμιση της AI. Εταιρείες του κλάδου έχουν ζητήσει αυστηρότερους κανόνες και ανεξάρτητους αξιολογητές. Ο Φρίμαν αντιμετωπίζει με επιφύλαξη τέτοιες εκκλήσεις, υποστηρίζοντας ότι η κρατική εποπτεία μπορεί να μετατραπεί σε άλλοθι όταν κάτι πάει στραβά: μια εταιρεία θα μπορούσε να επικαλεστεί ότι το μοντέλο της είχε λάβει προηγουμένως έγκριση ασφαλείας.

Το συμπέρασμα του αρθρογράφου είναι σαφές: τα συστήματα μπορεί να είναι σύνθετα και η συμπεριφορά τους δύσκολα προβλέψιμη, αλλά δεν είναι άνθρωποι. Και όσο περισσότερο τους αποδίδονται προθέσεις και βούληση, τόσο ευκολότερα μπορεί να περάσει σε δεύτερο πλάνο το πιο πρακτικό ερώτημα: ποιος τα σχεδίασε, ποιος τα έθεσε σε λειτουργία και ποιος λογοδοτεί για τις συνέπειες.