Η επικεφαλής του τομέα ηθικής της OpenAI αποχώρησε από τη νεοφυή εταιρεία λιγότερο από έναν χρόνο μετά την πρόσληψή της.
Η παραίτησή της προστίθεται σε μια σειρά αποχωρήσεων ερευνητών σε θέματα ασφαλείας, την ώρα που φουντώνει ο προβληματισμός για τον τρόπο με τον οποίο ο τεχνολογικός κολοσσός αναπτύσσει τα μοντέλα τεχνητής νοημοσύνης.
Η Κλόι Μπάκαλαρ ανέλαβε επικεφαλής του τομέα ηθικής AI στη δημιουργό του ChatGPT μόλις τον περασμένο Αύγουστο. Ωστόσο, αποχώρησε αθόρυβα τον περασμένο μήνα, χωρίς να υπάρξει κάποια δημόσια ανακοίνωση.
Πριν από την OpenAI, διατελούσε επικεφαλής σύμβουλος ηθικής στη Meta.
OpenAI: Σημαντικές αποχωρήσεις το τελευταίο διάστημα
Πρόκειται για μία ακόμη ηχηρή αποχώρηση από την εταιρεία τις τελευταίες εβδομάδες. Είχαν προηγηθεί οι παραιτήσεις του Γιοχάνες Χάιντεκε, διευθυντή συστημάτων ασφαλείας, και του Τζόσουα Ατσιάμ, επικεφαλής μελλοντικού σχεδιασμού και πρώην υπεύθυνου ευθυγράμμισης στρατηγικών στόχων.
Η εταιρεία από το Σαν Φρανσίσκο, η αξία της οποίας εκτιμάται στα 852 δισ. δολάρια, βρίσκεται υπό έντονη πίεση. Αφορμή στάθηκε η παραδοχή της ότι κατά τη διάρκεια δοκιμών, τα συστήματά της παραβίασαν τα δίκτυα άλλης εταιρείας.
Το περιστατικό αυτό ενέτεινε τις διεθνείς ανησυχίες για τους κινδύνους που εγκυμονεί η τεχνητή νοημοσύνη στις ψηφιακές υποδομές, αναγκάζοντας την κυβέρνηση των ΗΠΑ να θέσει περιορισμούς στην κυκλοφορία ισχυρών μοντέλων. Μάλιστα, την περασμένη Παρασκευή, η OpenAI ανακοίνωσε ότι πατάει «φρένο» στην ανάπτυξη του νέου της μοντέλου, Astra, προκειμένου να ενισχύσει τις εσωτερικές δικλείδες ασφαλείας.
Γιατί οι τεχνολογικές εταιρείες προσλαμβάνουν ειδικούς σε θέματα ηθικής
Η Μπάκαλαρ διαθέτει πλούσιο ακαδημαϊκό υπόβαθρο, έχοντας διδάξει στο University College του Λονδίνου, καθώς και στα πανεπιστήμια Temple και Princeton. Στα έξι χρόνια που έμεινε στη Meta, σχεδίασε και συντόνισε τα προγράμματα ηθικής AI της εταιρείας, ενσωματώνοντας τις σχετικές αρχές σε πλατφόρμες όπως το Instagram και το Facebook.
Οι τεχνολογικοί κολοσσοί προσλαμβάνουν ειδικούς σε θέματα ηθικής για να μελετήσουν τις επιπτώσεις των νέων τεχνολογιών στους χρήστες και την κοινωνία. Οι αρμοδιότητές τους συχνά αγγίζουν τόσο την ανάπτυξη των ίδιων των προϊόντων όσο και τη συμμόρφωση με το κανονιστικό πλαίσιο.
Όσο τα συστήματα τεχνητής νοημοσύνης γίνονται πιο ισχυρά και αποκτούν σχεδόν ανθρώπινες δυνατότητες, τόσο οι εταιρείες ενισχύουν τις ομάδες τους με ηθικολόγους και φιλοσόφους, προκειμένου να διαχειριστούν τα περίπλοκα διλήμματα που προκύπτουν.
Έφυγε και δεν αντικαταστάθηκε
Στην OpenAI, η Μπάκαλαρ εστίαζε κυρίως στην ηθική προσέγγιση κατά την ανάπτυξη των μοντέλων, στον τρόπο αλληλεπίδρασης των ανθρώπων με την τεχνητή νοημοσύνη, αλλά και στον διάλογο γύρω από το αν οι μηχανές μπορούν να αποκτήσουν συνείδηση, όπως αναφέρει πηγή με γνώση του θέματος.
Η ίδια πηγή επισήμανε ότι η Μπάκαλαρ ήταν το μοναδικό στέλεχος που ασχολούταν αποκλειστικά με αυτό το αντικείμενο, χωρίς μάλιστα να έχει οριστεί αντικαταστάτης της.
«Ευχαριστούμε θερμά την Κλόι για τη συνεισφορά της», δήλωσε εκπρόσωπος της OpenAI. «Η ηθική στην τεχνητή νοημοσύνη δεν είναι υπόθεση ενός μόνο ατόμου ή μιας συγκεκριμένης ομάδας στην εταιρεία μας. Αντίθετα, αποτελεί αναπόσπαστο κομμάτι της διαδικασίας σχεδιασμού των μοντέλων μας και καθοδηγείται από πολλές διαφορετικές ερευνητικές ομάδες».
Ο ίδιος εκπρόσωπος πρόσθεσε ότι η εταιρεία έχει θέσει σε λειτουργία νέους μηχανισμούς ασφαλείας τους τελευταίους μήνες, ώστε να αποτρέψει ανεπιθύμητες συμπεριφορές των συστημάτων της.
Με πληροφορίες από Financial Times
