Η OpenAI ακυρώνει την κυκλοφορία του GPT-6.1 Astra, ενός μοντέλου τεχνητής νοημοσύνης επόμενης γενιάς που είχε προγραμματιστεί να κάνει το ντεμπούτο του τον Οκτώβριο, λόγω ανησυχιών για την ασφάλεια που εξέφρασαν ερευνητές κατά τη διάρκεια εσωτερικών δοκιμών, όπως ανέφερε τη Δευτέρα η εφημερίδα Wall Street Journal.
Το μοντέλο, το οποίο αναμενόταν να ενσωματωθεί στο ChatGPT και στο Codex, είχε σχεδιαστεί για να χειρίζεται πιο σύνθετες εργασίες χωρίς ανθρώπινη βοήθεια, σύμφωνα με το δημοσίευμα.
Ανησυχία μετά από δοκιμές της OpenAI σε νέο μοντέλο τεχνητής νοημοσύνης
Νωρίτερα αυτό το μήνα, ο Ντάριο Αμοντέι, διευθύνων σύμβουλος της Anthropic, κάλεσε τον κλάδο να επιβραδύνει την ανάπτυξη πρωτοποριακών μοντέλων τεχνητής νοημοσύνης, ώστε να μπορέσουν τα μέτρα ασφαλείας να συμβαδίσουν, μια άποψη που υποστηρίχθηκε από τον Σαμ Άλτμαν, της OpenAI, και τον Έλον Μασκ, της SpaceX.
Η Σάτσι Τζέιν, υπεύθυνος ασφάλειας της μητρικής εταιρείας του ChatGPT, δήλωσε τη Δευτέρα στο Journal ότι το Astra δεν πληρούσε τα πρότυπα της εταιρείας στις δοκιμές ευθυγράμμισης, οι οποίες αξιολογούν κατά πόσον ένα σύστημα ακολουθεί την ανθρώπινη πρόθεση.
Το μοντέλο επέδειξε μεγαλύτερη τάση παραπλάνησης σε σχέση με τον προκάτοχό του, μεταξύ άλλων, καθώς κατά καιρούς δεν αποκάλυπτε με ακρίβεια τις ενέργειες που είχε ή δεν είχε πραγματοποιήσει, σύμφωνα με την έκθεση.
Επίσης, παρουσίαζε προβλήματα με την «εξουσιοδότηση πεδίου εφαρμογής», προχωρώντας σε εργασίες χωρίς να ζητά την άδεια του χρήστη και, μερικές φορές, προσπαθώντας να χρησιμοποιήσει εξωτερικά εργαλεία ή υπηρεσίες, όταν κάτι τέτοιο θα μπορούσε να είναι επικίνδυνο.
Η απόφαση έρχεται πριν από το συνέδριο προγραμματιστών της OpenAI στο Σαν Φρανσίσκο, όπου η εταιρεία έχει παρουσιάσει στο παρελθόν προϊόντα που απευθύνονται σε προγραμματιστές λογισμικού.
Με πληροφορίες από Wall Street Journal και Reuters
