Η Anthropic ανακοίνωσε ότι Claude αναλαμβάνει πλέον στο 26% της έρευνας και ανάπτυξης, σηματοδοτώντας ένα σημαντικό βήμα προς την τεχνητή νοημοσύνη που εξελίσσεται χωρίς ανθρώπινη παρέμβαση.
Το περασμένο Σαββατοκύριακο, ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, κάλεσε τις κορυφαίες εταιρείες του κλάδου να συντονίσουν μια επιβράδυνση στην ανάπτυξη της τεχνολογίας, ώστε να υπάρξει χρόνος για τη δημιουργία δικλείδων ασφαλείας. Αν και ηγέτες ανταγωνιστικών εταιρειών στήριξαν άμεσα την ιδέα, ο πρόεδρος Ντόναλντ Τραμπ άσκησε κριτική στην πρόταση.
Ο Αμοντέι και άλλες εξέχουσες προσωπικότητες του χώρου προειδοποιούν το τελευταίο διάστημα για το ενδεχόμενο η τεχνητή νοημοσύνη να αποκτήσει επαρκή ευφυΐα ώστε να βελτιώνεται μόνη της. Σε ένα τέτοιο σενάριο, γνωστό ως «αναδρομική αυτοβελτίωση», ο άνθρωπος ενδέχεται να χάσει τον έλεγχο ή την κατανόηση της τεχνολογίας.
Σε ανάρτησή της την Πέμπτη, όπου αποκάλυψε τη συμβολή του Claude στην ανάπτυξη νέων μοντέλων, η εταιρεία δεν διευκρίνισε πόσο κοντά θεωρεί ότι βρίσκεται αυτή η καμπή. Ξεκαθάρισε, ωστόσο, ότι προς το παρόν το Claude δεν λειτουργεί σε κανένα στάδιο «πλήρως αυτόνομα», χωρίς δηλαδή την επίβλεψη ανθρώπου.
Σύμφωνα με εσωτερική αξιολόγηση, το Claude ήταν σε θέση να «ηγείται» των εργασιών έρευνας και ανάπτυξης περίπου στο 26% των περιπτώσεων, με τους ανθρώπους να διατηρούν καθαρά εποπτικό ρόλο και να δίνουν κατευθυντήριες γραμμές. Μέχρι τον Φεβρουάριο, το ποσοστό αυτό ήταν μηδενικό.
«Όταν τα μοντέλα επιταχύνουν τη δική τους ανάπτυξη, γίνεται πιο δύσκολο για τον άνθρωπο να τα κατανοήσει ή να τα ελέγξει», ανέφερε η εταιρεία. «Γι’ αυτό είναι σημαντικό να δημοσιοποιούμε αυτά τα στοιχεία, ώστε να γνωρίζουμε πόσο απέχουμε από την επίτευξη της αναδρομικής αυτοβελτίωσης».
Για τη μέτρηση της συνεισφοράς του Claude, η Anthropic χρησιμοποίησε μια ειδική έκδοση του μοντέλου με βάση σύστημα αξιολόγησης που ανέπτυξε εξωτερικός συνεργάτης, ενώ στη συνέχεια τα ευρήματα επιβεβαιώθηκαν από ανθρώπους.
30.000 AI agents «δουλεύουν» για την Anthropic
Η εταιρεία αποκάλυψε επίσης ότι διαθέτει περίπου 30.000 «πράκτορες» τεχνητής νοημοσύνης (AI agents) που εκτελούν εργασίες έρευνας και μηχανικής, ενώ πρόσφατα διοχέτευσε περίπου το 6% της υπολογιστικής της ισχύος για την ασφάλεια των συστημάτων.
Παράλληλα, η Anthropic φάνηκε να καλεί και τις υπόλοιπες εταιρείες του κλάδου να δημοσιοποιήσουν αντίστοιχα στοιχεία για την πορεία προς την αυτοβελτιούμενη τεχνητή νοημοσύνη και την κατανομή των πόρων τους.
«Κάθε εταιρεία που αναπτύσσει μοντέλα αιχμής θα μπορούσε να δημοσιεύει τακτικά αυτά τα μεγέθη, χρησιμοποιώντας μια κοινά αποδεκτή μεθοδολογία», σημείωσε η εταιρεία. «Δημοσιοποιούμε τους δείκτες αυτούς για να προσφέρουμε στο κοινό, σε τρίτους και στις κυβερνήσεις καλύτερη εικόνα για τους ρυθμούς ανάπτυξης στα εργαστήρια αιχμής».
Οι προτάσεις της εταιρείας έρχονται μετά από μια εβδομάδα έντονων συζητήσεων στον τεχνολογικό κλάδο και στην Ουάσινγκτον σχετικά με τους πιθανούς κινδύνους της τεχνητής νοημοσύνης για την ανθρωπότητα.
Με πληροφορίες από Washingtonpost
