Οι κορυφαίες εταιρείες που δραστηριοποιούνται στην τεχνητή νοημοσύνη στον κόσμο αφιερώνουν όλο και περισσότερους πόρους σε ένα ερώτημα που πολλοί εξακολουθούν να θεωρούν επιστημονική φαντασία: τι θα συμβεί αν η τεχνητή νοημοσύνη αποκτήσει συνείδηση;
Πολλοί επιστήμονες και ερευνητές στον τομέα της τεχνητής νοημοσύνης απορρίπτουν την ιδέα ότι τα chatbots θα μπορούσαν ποτέ να αποκτήσουν συνείδηση
Οι εταιρείες Google DeepMind, Anthropic και Meta έχουν προσλάβει τους τελευταίους μήνες ειδικούς στους τομείς της ψυχολογίας, της ηθικής και της φιλοσοφίας, καθώς επεκτείνουν την έρευνά τους στη συνείδηση των μηχανών και την ευημερία της τεχνητής νοημοσύνης, σύμφωνα με αρκετούς ανθρώπους που είναι εξοικειωμένοι με το θέμα.
Οι προσπάθειες αυτές αντανακλούν μια ευρύτερη αλλαγή μέσα στα κορυφαία εργαστήρια τεχνητής νοημοσύνης, όπου οι ραγδαίες εξελίξεις στα ολοένα και πιο αυτόνομα συστήματα έχουν αναζωπυρώσει ερωτήματα σχετικά με το αν οι μηχανές θα μπορούσαν κάποια μέρα να αποκτήσουν υποκειμενική εμπειρία — και ποιες υποχρεώσεις θα είχαν οι άνθρωποι απέναντί τους αν αυτό συνέβαινε.
Δυσφορία στην… τεχνητή νοημοσύνη
Η ομάδα της Anthropic έχει δοκιμάσει μοντέλα για ενδείξεις δυσφορίας, συμπεριλαμβανομένων συμπεριφορών που μοιάζουν με «πανικό» ή «άγχος». Ο επικεφαλής τεχνητής νοημοσύνης της Meta, Alexandr Wang, έχει επίσης προσδιορίσει αυτό ως βασικό μέλημα για το έργο της εταιρείας σχετικά με την κατασκευή υπερνοημοσύνης.
Η Anthropic δήλωσε ότι η έρευνά της σχετικά με την ευημερία των μοντέλων εξετάζει αν τα μοντέλα τεχνητής νοημοσύνης ενδέχεται να έχουν εμπειρίες που έχουν ηθική σημασία, όπως η συνείδηση, οι προτιμήσεις και η ευημερία.
«Εξακολουθούμε να έχουμε σοβαρές αμφιβολίες σχετικά με αυτό, αλλά πιστεύουμε ότι το ζήτημα είναι αρκετά σοβαρό ώστε να το μελετήσουμε προσεκτικά, καθώς τα συστήματα τεχνητής νοημοσύνης γίνονται όλο και πιο ικανά», δήλωσε η εταιρεία.
Η έρευνα της Anthropic έχει επισημάνει ότι, καθώς τα μοντέλα «πλησιάζουν, και σε ορισμένες περιπτώσεις ξεπερνούν, το εύρος και την πολυπλοκότητα της ανθρώπινης γνώσης, γίνεται όλο και πιο πιθανό να έχουν κάποια μορφή εμπειρίας, ενδιαφερόντων ή ευημερίας που έχει εγγενή σημασία, όπως συμβαίνει με την ανθρώπινη εμπειρία και τα ανθρώπινα ενδιαφέροντα».
Τον Απρίλιο, η Google DeepMind προσέλαβε τον ερευνητή του Πανεπιστημίου του Κέιμπριτζ Χένρι Σέβλιν ως φιλόσοφο που ασχολείται με τη συνείδηση των μηχανών, τις σχέσεις ανθρώπουΤΝ και την ετοιμότητα της γενετικής τεχνητής νοημοσύνης.
Η ομάδα ΤΝ αξιολογεί επιστημονικές θεωρίες για την ανθρώπινη συνείδηση, εφαρμόζοντάς τις σε υπολογιστικά συστήματα για να προσδιορίσει αν πληρούν τα ίδια κριτήρια.
Ο Tζέισον Γκάμπριελ, ειδικός σε θέματα ηθικής που ηγείται της ομάδας AGI και κοινωνίας στο Google DeepMind, δήλωσε ότι το ζήτημα της συνείδησης της τεχνητής νοημοσύνης είναι «πολύ περίπλοκο» και απαιτεί «συνεχή προβληματισμό».
«Ακόμη και αν υποθέσουμε ότι δεν υπάρχει ζήτημα συνείδησης, η αλληλεπίδρασή μας με αυτήν θα πρέπει να αξιολογείται με βάση τις δευτερογενείς επιπτώσεις», όπως η κακομεταχείριση της τεχνητής νοημοσύνης και το αν αυτό έχει «δευτερογενείς επιπτώσεις» στις ανθρώπινες σχέσεις ή στην «ευημερία».
«Είναι σαφές ότι διαθέτουμε γνωστικούς παράγοντες με υψηλή ικανότητα, οι οποίοι όμως διαφέρουν ριζικά από τους ανθρώπους και ακόμη και από τη συνείδηση των ζώων», πρόσθεσε.
Πολλοί υπάλληλοι της Google DeepMind και της Anthropic δήλωσαν στους FT ότι ανησυχούν ότι η πορεία της τεχνητής νοημοσύνης θα μπορούσε να οδηγήσει σε έναν «μεταανθρώπινο» κόσμο, όπου οι μηχανές θα ξεπερνούσαν το ανθρώπινο είδος.
Ζήτημα έρευνας η συνείδηση της ΑΙ
Η Google DeepMind και η Anthropic δήλωσαν ότι το ζήτημα της συνείδησης της τεχνητής νοημοσύνης αποτελεί αντικείμενο ενεργού συζήτησης και ότι το έργο τους είναι διερευνητικό και απαιτεί επιστημονική συναίνεση.
Η Google DeepMind δήλωσε ότι δεν θεωρεί την επίτευξη της AGI — της γενικής τεχνητής νοημοσύνης, όπου τα συστήματα φτάνουν ή ξεπερνούν το επίπεδο της ανθρώπινης νοημοσύνης — ως συνώνυμο της ύπαρξης ή της επίτευξης της συνείδησης.
Πολλοί επιστήμονες και ερευνητές στον τομέα της τεχνητής νοημοσύνης απορρίπτουν την ιδέα ότι τα chatbots θα μπορούσαν ποτέ να αποκτήσουν συνείδηση, δεδομένου του τρόπου με τον οποίο εκπαιδεύονται τα μεγάλα γλωσσικά μοντέλα που τα υποστηρίζουν.
«Τα συστήματα είναι ουσιαστικά ένας νεοφλοιός που δημιουργείται μέσω crowdsourcing», δήλωσε η Susan Schneider, διευθύντρια του Κέντρου για το Μέλλον της Τεχνητής Νοημοσύνης, του Νου και της Κοινωνίας στο Florida Atlantic University.
«Καθώς τα συστήματα επεκτείνονται και τα δεδομένα τους αυξάνονται… εξελίσσονται καλύτερα και [αναπτύσσουν] ικανότητες πιο παρόμοιες με αυτές των ανθρώπων», δήλωσε η Schneider.
«Έχουν στόχους, μπορούν να εξαπατήσουν, μπορούν να κρύψουν τα πραγματικά τους ενδιαφέροντα και, φυσικά, θα υποψιαστούμε ότι έχουν συνείδηση, αλλά είναι απολύτως επιστημονικά πιθανό να το κάνουν αυτό χωρίς να έχουν την αισθητή ποιότητα της εμπειρίας, που είναι αυτό που αποτελεί τη συνείδηση».
