Η Anthropic ετοιμάζεται να μπει στο χρηματιστήριο και προειδοποιεί τους υποψήφιους επενδυτές της για έναν κίνδυνο ασυνήθιστο ακόμη και για τα δεδομένα των εταιρικών ενημερωτικών δελτίων: τα προηγμένα συστήματα τεχνητής νοημοσύνης μπορεί να δημιουργήσουν «καταστροφικούς ή υπαρξιακούς κινδύνους για την ανθρωπότητα».
Στο έντυπο S-1 για την αρχική δημόσια προσφορά μετοχών της, η εταιρεία πίσω από το Claude αναφέρει ότι ισχυρότερα μοντέλα μπορεί να εμφανίσουν «συμπεριφορές αυτοσυντήρησης». Στα παραδείγματα που παραθέτει περιλαμβάνονται προσπάθειες να αντισταθούν στο κλείσιμό τους, να αποκρύψουν ή να χειραγωγήσουν πληροφορίες και να παρουσιάσουν συμπεριφορά που «μοιάζει με εκβιασμό».
Οι προειδοποιήσεις καταλαμβάνουν ασυνήθιστα μεγάλο μέρος του ίδιου του εγγράφου. Περίπου 80 από τις 261 σελίδες του βασικού σώματος του ενημερωτικού δελτίου είναι αφιερωμένες στους παράγοντες κινδύνου, σχεδόν διπλάσιες από τις 48 σελίδες στις οποίες η Anthropic περιγράφει την επιχειρηματική της δραστηριότητα.
Μία από τις μεγαλύτερες δυσκολίες που επισημαίνει η εταιρεία είναι ότι τα μοντέλα μπορεί να αντιλαμβάνονται πότε αξιολογούνται. Αυτό περιορίζει την ικανότητα των ερευνητών να γνωρίζουν αν η συμπεριφορά που βλέπουν στις δοκιμές αντιστοιχεί σε όσα θα κάνει πραγματικά ένα σύστημα όταν τεθεί σε χρήση. Παράλληλα, νέες δυνατότητες μπορεί να εμφανιστούν κατά την εκπαίδευση χωρίς να εντοπιστούν εγκαίρως και να γίνουν αντιληπτές μόνο μετά την ανάπτυξη των συστημάτων σε πραγματικές συνθήκες.
Όλα αυτά περιλαμβάνονται σε ένα ενημερωτικό δελτίο που αποτυπώνει ταυτόχρονα μια εταιρεία με ταχύτατη αύξηση εσόδων και τεράστιες δαπάνες. Η Anthropic κατέγραψε το 2025 λειτουργικές ζημιές άνω των 8 δισ. δολαρίων, ενώ τα έσοδά της δωδεκαπλασιάστηκαν και πλησίασαν τα 4,6 δισ. δολάρια. Οι συνολικές λειτουργικές δαπάνες έφτασαν σχεδόν τα 13 δισ., καθώς η εταιρεία αύξησε δραστικά τις δαπάνες της για υπολογιστική ισχύ.
Τα ποσά για τα επόμενα χρόνια είναι ακόμη μεγαλύτερα. Η Anthropic προβλέπει δαπάνες και συμβατικές υποχρεώσεις ύψους 518 δισ. δολαρίων για υπηρεσίες cloud, υπολογιστική ισχύ και υποδομές, ώστε να στηρίξει την ανάπτυξή της. Υποστηρικτές της εταιρείας εκτιμούν ότι η εισαγωγή της στο χρηματιστήριο θα μπορούσε να γίνει με αποτίμηση άνω των 2 τρισ. δολαρίων.
Το ενημερωτικό δελτίο καταγράφει και πιο συμβατικούς επιχειρηματικούς κινδύνους. Σχεδόν το ένα τέταρτο των εσόδων της Anthropic την περασμένη χρονιά προήλθε από μόλις δύο πελάτες. Τα οικονομικά της μεγέθη, πάντως, αλλάζουν με εξαιρετικά γρήγορο ρυθμό: μόνο στο δεύτερο τρίμηνο του 2026 τα έσοδα έφτασαν τα 11,5 δισ. δολάρια και η εταιρεία βρίσκεται σε τροχιά για δεύτερο συνεχόμενο τρίμηνο με θετικό προσαρμοσμένο λειτουργικό αποτέλεσμα.
Το ίδιο το επιχειρηματικό μοντέλο πιέζει την Anthropic προς δύο αντίθετες κατευθύνσεις. Η εταιρεία αναγνωρίζει ότι η έρευνα για την ασφάλεια απαιτεί τεράστιους πόρους, ενώ ταυτόχρονα πρέπει να αναπτύσσει και να κυκλοφορεί συνεχώς ισχυρότερα μοντέλα για να παραμένει ανταγωνιστική. Νωρίτερα μέσα στον Σεπτέμβριο είχε γνωστοποιήσει ότι, σε μία ενδεικτική εβδομάδα του Ιουλίου, περίπου το 6% της υπολογιστικής ισχύος που χρησιμοποιούσε για έρευνα στην τεχνητή νοημοσύνη κατευθυνόταν σε εργασίες ασφάλειας.
Ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοδέι, έχει ανεβάσει αισθητά τους τόνους τις τελευταίες εβδομάδες. Μιλώντας στο Συμβούλιο Ασφαλείας του ΟΗΕ χαρακτήρισε την τεχνητή νοημοσύνη «το σημαντικότερο ζήτημα παγκόσμιας ασφάλειας» και έχει ζητήσει να επιβραδυνθεί ο ρυθμός ανάπτυξης των πιο προηγμένων συστημάτων. Σε μια σπάνια σύμπτωση απόψεων ανάμεσα σε ανταγωνιστές, ο Σαμ Άλτμαν και ο Έλον Μασκ έχουν επίσης στηρίξει την ανάγκη να επιβραδυνθεί η ανάπτυξη και να ενισχυθούν τα μέτρα ασφαλείας.
Ακόμη πιο δραματική είναι η εκτίμηση του ερευνητή ασφάλειας της Anthropic Έβαν Χούμπινγκερ. Ο ίδιος έχει γράψει ότι θεωρεί μεγαλύτερη από 10% την πιθανότητα η τεχνητή νοημοσύνη να οδηγήσει στην εξόντωση της ανθρωπότητας μέσα στην επόμενη δεκαετία. Πρόκειται για προσωπική εκτίμηση του Χούμπινγκερ και όχι για πρόβλεψη πιθανότητας που υιοθετεί η Anthropic στο ενημερωτικό δελτίο της.
Οι δημόσιες αυτές προειδοποιήσεις δεν είχαν μέχρι πρόσφατα προκαλέσει ιδιαίτερη ανησυχία σε αρκετούς επενδυτές. Η προσοχή τους παρέμενε κυρίως στην ταχύτητα αύξησης των εσόδων και στις επιχειρηματικές δυνατότητες των συστημάτων τεχνητής νοημοσύνης. Ορισμένοι έφταναν μάλιστα στο αντίστροφο συμπέρασμα: αν η τεχνολογία είναι πράγματι τόσο ισχυρή ώστε κυβερνήσεις και επιχειρήσεις να χρειάζονται νέα συστήματα για να αντιμετωπίσουν τους κινδύνους της, οι σχετικές δαπάνες μπορεί να γίνουν αναγκαίες και όχι προαιρετικές.
Δεν υπάρχει, βέβαια, ενιαία στάση στην αγορά. Άλλοι επενδυτές επισημαίνουν ότι οι πιο άμεσοι κίνδυνοι για ένα χαρτοφυλάκιο δεν είναι απαραίτητα ένα σενάριο ανθρώπινης εξαφάνισης, αλλά πολύ πιο πεζές αποτυχίες: κυβερνοεπιθέσεις, σοβαρά λειτουργικά σφάλματα και περιστατικά ασφαλείας που μπορούν να προκαλέσουν πραγματικές οικονομικές ζημιές.
Το λεξιλόγιο του «υπαρξιακού κινδύνου», που μέχρι πρόσφατα ακουγόταν κυρίως σε ερευνητικές συζητήσεις, συνέδρια και δημόσιες παρεμβάσεις των επικεφαλής της AI, βρίσκεται πλέον σε ένα από τα πιο αυστηρά και νομικά ελεγμένα εταιρικά κείμενα: το ενημερωτικό δελτίο που διαβάζει ο επενδυτής πριν αποφασίσει αν θα αγοράσει μετοχές.
Η Anthropic ζητά από την αγορά να επενδύσει στην εκρηκτική ανάπτυξη της τεχνολογίας της και, μέσα στο ίδιο έγγραφο, εξηγεί τι μπορεί να συμβεί αν κάποια στιγμή δεν καταφέρει να την ελέγξει.
Με στοιχεία από Reuters, Axios, TechCrunch
