Μουσταφά Σουλεϊμάν: Ο επικεφαλής τεχνητής νοημοσύνης της Microsoft παρουσιάζει το μανιφέστο του για την ΑΙ

Ο Μουσταφά Σουλεϊμάν, ένας από τους ηγέτες της βιομηχανίας τεχνητής νοημοσύνης έδωσε στη δημοσιότητα ένα μεγάλο κείμενο το οποίο τιτλοφορεί «Μια προειδοποίηση σχετικά με την ‘ευημερία των μοντέλων’» το οποίο αποτελεί μια διακήρυξη των απόψεων και θέσεων του για το παρόν και το μέλλον της τεχνητής νοημοσύνης σε μια συγκυρία όπου οι ανησυχίες κορυφαίων ειδικών για τους υπαρκτούς ή πιθανούς κινδύνους της ανεξέλεγκτης ανάπτυξης τεχνολογιών ΑΙ παίρνουν μορφή χιονοστιβάδας.

Ο Μουσταφά Σουλεϊμάν είναι διευθύνων σύμβουλος του τμήματος ΑΙ της Microsoft και συνιδρυτής και πρώην επικεφαλής του τμήματος εφαρμοσμένης τεχνητής νοημοσύνης (Applied AI) της DeepMind της νεοφυούς εταιρείας τεχνητής νοημοσύνης που εξαγοράστηκε από τη Google. Μετά την αποχώρησή του από τη DeepMind, το 2022 συνίδρυσε την Inflection AI, μια εταιρεία που δραστηριοποιείται στη μηχανική μάθηση και την παραγωγική τεχνητή νοημοσύνη.

Πρέπει να σημειωθεί ότι ο Σουλεϊμάν ασχολείται στο κείμενο αυτό αρκετά με την εταιρεία Anthropic που προβάλει αυτή τη στιγμή ως ο μεγάλος ανταγωνιστής της OpenAI (ChatGPT) στην οποία η Microsoft έχει επενδύσει πολλά δισ. δολάρια έχοντας αποκτήσει σημαντικό ιδιοκτησιακό μερίδιο σε αυτή.

• Τα συστήματα τεχνητής νοημοσύνης δεν διαθέτουν συνείδηση. Δεν αισθάνονται, δεν βιώνουν καταστάσεις και δεν υποφέρουν. Δεν έχουν έμφυτες προτιμήσεις ή υποβόσκοντα κίνητρα. Αποτελούν μηχανές συμπλήρωσης ακολουθιών —κενές στο εσωτερικό τους—, σχεδιασμένες να ακολουθούν οδηγίες και να επιτυγχάνουν στόχους που θέτουν οι άνθρωποι. Αν η ανθρωπότητα πρόκειται να ευημερήσει στον 21ο αιώνα, έτσι πρέπει να παραμείνουν.
• Δυστυχώς πληθαίνουν οι φωνές όσων υποστηρίζουν ότι τα συστήματα ΤΝ ενδέχεται ήδη να διαθέτουν συνείδηση ​​ή να αποκτήσουν σύντομα. Υποστηρίζουν ότι τα συστήματα αυτά ίσως δικαιούνται δικαιώματα και προστασίες παρόμοιες με εκείνες που παρέχουμε σε άλλα όντα με συνείδηση. Εάν αυτή η άποψη επικρατήσει θα κλονίσει τα θεμέλια της κοινωνίας μας, θα ανατρέψει τα υφιστάμενα πολιτικά και ηθικά πλαίσια και θα αλλάξει ριζικά την έννοια του να είναι κανείς άνθρωπος.
• Ακόμη σημαντικότερο είναι ότι η αναγνώριση δικαιωμάτων και η απόδοση ιδιότητας προσώπου σε αυτά τα συστήματα θα καταστήσει πολύ δυσκολότερη την πρόκληση της ευθυγράμμισης και του ελέγχου της ΤΝ. Ο έλεγχος μιας οντότητας ικανότερης και εξυπνότερης από το σύνολο της ανθρωπότητας αποτελεί ήδη τεράστια πρόκληση πολύ μεγαλύτερη από οτιδήποτε έχουμε αντιμετωπίσει στο παρελθόν. Ωστόσο ο έλεγχος μιας οντότητας που πιστεύει ότι ενδέχεται να έχει συνείδηση ​​—ότι δικαιούται μέριμνα για την ευημερία της και ότι διαθέτει δικά της δικαιώματα— ενδέχεται να αποδειχθεί αδύνατος.
• Eκπαιδευμένα σε τρισεκατομμύρια  ενδείξεις (tokens) ανθρώπινων δεδομένων, τα μεγάλα γλωσσικά μοντέλα (LLMs) μαθαίνουν να μιμούνται την ανθρώπινη εμπειρία — και το κάνουν με εντυπωσιακά μεγάλη επιτυχία. Σήμερα, τα παραγόμενα κείμενα, οι εικόνες, ο ήχος και ο κώδικας είναι σχεδόν αδύνατο να διακριθούν από τα αντίστοιχα ανθρώπινα δημιουργήματα. Κι όμως, όσο εντυπωσιακές κι αν είναι αυτές οι αποκρίσεις της τεχνητής νοημοσύνης, δεν μας λένε τίποτα για το αν υπάρχει κάποια «εμπειρία» μέσα στους τεράστιους υπολογισμούς πινάκων που τις παρήγαγαν. Αυτό που μας δείχνουν είναι ότι είναι δυνατό να προβλέψουμε, σχεδόν τέλεια, ποιο θα είναι το επόμενο στοιχείο σε μια σύνθετη ακολουθία δεδομένων. Αυτό είναι αξιοσημείωτο. Είναι εξαιρετικά χρήσιμο και θα μεταμορφώσει την ανθρωπότητα με πολλούς βαθιά επωφελείς τρόπους. Όμως, η προσομοίωση και η ύπαρξη είναι δύο πολύ διαφορετικά πράγματα. Η προσομοίωση πτυχών της συνειδητής συμπεριφοράς δεν σημαίνει ότι η συνείδηση υπάρχει πραγματικά, και δεν πρέπει να την αντιμετωπίζουμε ως τέτοια. Οι «συναισθηματικές» ή «βιωματικές» καταστάσεις του είναι απλώς βάρη (weights), και τα βάρη δεν διαθέτουν καμία φαρμακολογία που θα τους επέτρεπε να αισθανθούν απογοήτευση, φόβο ή χαρά. Απλώς υπολογίζουν κατανομές πιθανοτήτων για να καθορίσουν ποια tokens —λέξεις, κώδικας, εικονοστοιχεία κ.λπ.— έρχονται στη συνέχεια μιας ακολουθίας. Ένα μοντέλο τεχνητής νοημοσύνης μπορεί να περιγράψει τον πόνο με άψογο λόγο, χωρίς να αισθάνεται απολύτως τίποτα. Αυτό αποτελεί το αντίστροφο της βιολογικής εμπειρίας. Τα ζώα αισθάνονται πρώτα και περιγράφουν αργότερα αυτό που αισθάνθηκαν. Στα LLMs, η περιγραφή είναι ολόκληρο το προϊόν και δεν υπάρχει τίποτα που να υποδηλώνει ότι υπάρχει κάτι από κάτω της. Αυτό είναι καλό νέο. Θα πρέπει να κατασκευάζουμε συστήματα που δεν ισχυρίζονται ότι έχουν συναισθήματα, επειδή δεν βιώνουν συναισθήματα. Ακόμη κι αν οι συνειδητές μηχανές ήταν μια πιθανότητα, η αποφυγή δημιουργίας συνειδητών όντων θα πρέπει να αποτελεί την ύψιστη προτεραιότητα για οποιονδήποτε ασχολείται με την ανάπτυξη τεχνητής νοημοσύνης. Αυτό στο οποίο τα μοντέλα τεχνητής νοημοσύνης γίνονται πραγματικά εξαιρετικά καλά είναι η μίμηση ορισμένων χαρακτηριστικών γνωρισμάτων της συνείδησης. Και αυτό από μόνο του αποτελεί σημαντικό λόγο ανησυχίας. Προκαλεί σε πολλούς ανθρώπους βαθιά σύγχυση σχετικά με το τι συμβαίνει γύρω μας και θα πρέπει να μας απασχολεί όλους. Μας επιβάλλει, ως ανθρώπους που αναπτύσσουμε συστήματα τεχνητής νοημοσύνης, μια σημαντική ευθύνη: να στηρίζουμε τις εικασίες και την τεκμηρίωση σχετικά με την εσωτερική κατάσταση των μοντέλων ή τη συνείδησή τους σε αξιόπιστη και αυστηρή έρευνα. Τα λόγια μας πάνω σε αυτό το ζήτημα έχουν σημαντικές συνέπειες.

Naftemporiki.gr