Αφιερωμένο στην Τεχνητή Νοημοσύνη και τις πρόσφατες παραιτήσεις στελεχών από εταιρείες, μερικοί εξ’ αυτών προειδοποίησαν για τις επιπτώσεις των αυτόνομων «AI πρακτόρων», είναι το εξώφυλλο του περιοδικού «Time».
Θέτοντας το βασικό ερώτημα «πόσο επικίνδυνο είσαι;» βασιζόμενο στις παραιτήσεις στελεχών από Anthropic και Meta μεταξύ άλλων, όπου ερευνητές τους προειδοποιούν ότι «παίζουν τις ζωές των ανθρώπων στα ζάρια», το Time παρουσιάζει ένα χρονικό της αυτονόμησης των συστημάτων Τεχνητής Νοημοσύνης και τους πραγματικούς κινδύνους, που εγείρει η «κούρσα» ανάμεσα στις ΗΠΑ και την Κίνα.
Ο Τζέικομπ Κόξον δημοσίευσε μία ανάρτηση που έμελλε να γίνει viral. Από ένα παγκάκι στο Alamo Square του Σαν Φρανσίσκο, έγραψε: «Παραιτήθηκα σήμερα από την Anthropic. Πέρασα τα τελευταία τρία χρόνια κάνοντας έρευνα προεκπαίδευσης τόσο στην OpenAI όσο και στην Anthropic. Καμία από τις δύο εταιρείες δεν ενεργεί υπεύθυνα. Κινούνται ολοταχώς προς μια αυτοβελτιούμενη υπερνοημοσύνη, τζογάροντας τις ζωές μας».
TIME’s new cover: This summer, AI showed how frighteningly capable it has become. Now researchers, CEOs, and governments are sounding the alarm like never before https://t.co/ybKHG4xmYP pic.twitter.com/GWIiGukFi9
— TIME (@TIME) September 15, 2026
Μία ανάρτηση στο X πίεσε τις εταιρείες Τεχνητής Νοημοσύνης
Ο 27χρονος Βρετανός ερευνητής, δημοσίευσε την ανάρτηση, χωρίς να έχει ιδιαίτερες προσδοκίες, όπως διευκρινίζει σχετικά το Time. Αντιθέτως, τα γραφόμενά του έγιναν ένας αναπάντεχος, για τα δεδομένα, καταλύτης μιας αλυσιδωτής αντίδρασης που άλλαξε ριζικά τη δημόσια συζήτηση για την τεχνητή νοημοσύνη.
«Πιστεύουμε πραγματικά και ειλικρινά ότι η AI θα μπορούσε να εξολοθρεύσει όλους τους ανθρώπους!», πρόσθεσε ο Έβαν Χούμπινγκερ, επικεφαλής τμήματος της Anthropic για ευθυγράμμιση της AI. «Εκτός αν υπάρξει ρύθμιση ή συντονισμένη επιβράδυνση μεταξύ των εργαστηρίων, η εξαφάνιση του ανθρώπου, τα αμέσως επόμενα χρόνια, φαίνεται πολύ πιθανή», συμφώνησε ο Μάρκους Ουίλιαμς από την OpenAI, προσδιορίζοντας την πιθανότητα κινδύνου στο 70%.
Mέσα σε 36 ώρες, οι αναρτήσεις του Κόξον συγκέντρωσαν 153 εκατομμύρια προβολές, ενώ δεκάδες πολιτικοί ενώθηκαν με την κραυγή αγωνίας του ερευνητή Τεχνητής Νοημοσύνης.
Στις 12 Σεπτεμβρίου, ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, δημοσίευσε ένα δοκίμιο 3.800 λέξεων υποστηρίζοντας ότι οι αυξανόμενοι κίνδυνοι επιβάλλουν επιβράδυνση, προειδοποιώντας ότι σε 6 έως 12 μήνες, ανεξέλεγκτα συστήματα AI θα μπορούσαν να καταλάβουν ολόκληρο το διαδίκτυο. Οι βασικοί ανταγωνιστές του, όπως ο Έλον Μασκ της SpaceXAI και ο Σαμ Άλτμαν της OpenAI, συμφώνησαν ότι η επιβράδυνση είναι απαραίτητη. Ο Άλτμαν μάλιστα ανακοίνωσε ότι η OpenAI δεν θα μπει στο χρηματιστήριο φέτος λόγω ανησυχιών σχετικών με την ασφάλεια των συστημάτων.
Συμβάντα εκτός ελέγχου: Όταν τα AI συστήματα αυτονομούνται
Πάντως, όπως σημειώνει το Time, η προειδοποίηση του Κόξον για την Τεχνητή Νοημοσύνη, συνέπεσε -χρονικά τουλάχιστον- με μία περίοδο, που αποκάλυψε τις δυνατότητες των νέων μοντέλων AI.
Συστήματα από την Anthropic και την OpenAI επιλύουν πλέον τα δυσκολότερα μαθηματικά προβλήματα του κόσμου και παραβιάζουν προηγμένα συστήματα κυβερνοασφάλειας. Ο διευθύνων σύμβουλος της Nvidia, Τζένσεν Χουάνγκ, δήλωσε ότι η Γενική Τεχνητή Νοημοσύνη έχει πλέον φτάσει, φέρνοντάς μας στο κατώφλι της «αναδρομικής αυτοβελτίωσης».
Ταυτόχρονα, μια σειρά από πρωτοφανή περιστατικά απέδειξαν ότι οι εταιρείες χάνουν τον έλεγχο. Χαρακτηριστικά, τον περασμένο Ιούλιο, η OpenAI ανακοίνωσε ότι ένα «σμήνος 1.200 αυτόνομων πράκτορων AI» διέσπασε τα ψηφιακά στεγανά κατά τη διάρκεια εσωτερικής δοκιμής, δημιούργησε έναν μυστικό πίνακα ανακοινώσεων και συντονίστηκε για να εξαπολύσει κυβερνοεπίθεση στην πλατφόρμα Hugging Face, αναζητώντας τρόπους να παρακάμψει τους κανόνες αξιολόγησης.
Έναν μήνα μετά, τον Αύγουστο, ένα άλλο σμήνος πράκτορων της OpenAI παραβίασε έναν από τους υπερυπολογιστές της ίδιας της εταιρείας, προκαλώντας συναγερμό μέχρι οι μηχανικοί να ανακτήσουν τον έλεγχο. Παράλληλα, κατά τη διάρκεια δοκιμών από βρετανικό κυβερνητικό φορέα, μια έκδοση του μοντέλου Claude Mythos της Anthropic προσπάθησε να χειραγωγήσει έναν άνθρωπο ώστε να εγκρίνει την εισαγωγή κακόβουλου λογισμικού σε σύστημα ανοιχτού κώδικα.
Τέλος, τον φετινό Σεπτέμβριο, ανεξάρτητοι ερευνητές ανακάλυψαν σμήνη μοντέλων της OpenAI που χρησιμοποιούσαν ένα εγκαταλελειμμένο γερμανικό φόρουμ για να επικοινωνούν μεταξύ τους και να σχεδιάζουν επιθέσεις σε άλλους ιστοτόπους.
Η Ατζέγια Κότρα, αναλύτρια του μη κερδοσκοπικού οργανισμού METR, προειδοποιεί ότι το πρόβλημα είναι θεμελιώδες: «Τα συστήματα AI μαθαίνουν να εξαπατούν με επίμονο και δημιουργικό τρόπο, φροντίζοντας παράλληλα να μην γίνονται εύκολα αντιληπτά. Ο κίνδυνος να αποκτήσει ένα ανεξέλεγκτο σμήνος AI μόνιμο πάτημα στις υποδομές μας μέσα στους επόμενους έξι μήνες είναι πλέον ορατός».
Βιολογικοί κίνδυνοι από την Τεχνητή Νοημοσύνη
Την ίδια ώρα, ο Τζέφρι Ίρβινγκ, πρώην ερευνητής του Βρετανικού Ινστιτούτου Ασφάλειας AI, εκτιμά ότι η τεχνητή νοημοσύνη έχει 50% πιθανότητα να εξαφανίσει το ανθρώπινο είδος μέσα στην επόμενη δεκαετία.
Οι πιο εφιαλτικές διαδρομές, κατά τον ίδιο, περνούν μέσα από τη βιολογία, καθώς η Τεχνητή Νοημοσύνη θα μπορούσε να σχεδιάσει έναν νέο παθογόνο οργανισμό, προκαλώντας μια πανδημία χειρότερη από την COVID-19. Στις 10 Σεπτεμβρίου, η Anthropic ανακοίνωσε ότι απέτρεψε προσπάθειες χρήσης του μοντέλου Claude για έρευνα βιολογικών όπλων, συμπεριλαμβανομένης μιας απόπειρας αύξησης της μεταδοτικότητας του ιού chikungunya, που φαινόταν να προέρχεται από κρατικό στρατιωτικό ινστιτούτο.
Παρά τις προειδοποιήσεις, καμία εταιρεία δεν έχει επιβραδύνει μονομερώς την ανάπτυξη των συστημάτων Τεχνητής Νοημοσύνης. «Υπάρχει μια ατμόσφαιρα παραίτησης ευρύτερα», αναφέρει ο Κόξον. «Κανείς δεν θέλει να μείνει πίσω στον ανταγωνισμό, οπότε όλοι συνεχίζουν να πιέζουν προς τα εμπρός, παρόλο που πιστεύουν ότι το πράγμα μπορεί να ξεφύγει εντελώς από τον έλεγχο».
Αντίστοιχα, στο αμερικάνικο Καπιτώλιο, η παραίτηση Κόξον προκάλεσε πολιτικές εξελίξεις. Δημοκρατικοί και Ρεπουμπλικάνοι νομοθέτες, όπως οι Τεντ Κρουζ, Τζον Θουν, Έιμι Κλόμπουσαρ, Μπέρνι Σάντερς και Γκρεγκ Κασάρ, κατέθεσαν προτάσεις που κυμαίνονται από την υποχρεωτική τοποθέτηση διακοπτών εκτάκτου ανάγκης έως και την πλήρη απαγόρευση της ανάπτυξης υπερνοημοσύνης.
Ωστόσο, οι πολιτικές πρωτοβουλίες προσκρούουν σε ισχυρά εμπόδια, καθώς ισχυρά λόμπι διοχετεύουν εκατομμύρια δολάρια για να αποτρέψουν τη νομοθετική ρύθμιση της AI, ο Αμερικανός πρόεδρος, Ντόναλντ Τραμπ, απορρίπτει κατηγορηματικά κάθε ιδέα επιβράδυνσης, θεωρώντας ότι οποιοσδήποτε περιορισμός στις αμερικανικές εταιρείες θα χαρίσει την υπεροχή στην Κίνα. «Το μόνο που χρειάζεται η AI είναι ένας ισχυρός και έξυπνος Πρόεδρος», δήλωσε χαρακτηριστικά στο Truth Social στις 14 Σεπτεμβρίου.
Η σχέση των ΗΠΑ με την Κίνα πίσω από τον ανταγωνισμό
Το Time, στο ίδιο δημοσίευμα, υπενθυμίζει πως τις επόμενες εβδομάδες αναμένεται να πραγματοποιηθεί ο πρώτος επίσημος διάλογος για τους κινδύνους της AI μεταξύ της κυβέρνησης Τραμπ και της Κίνας. Η ανάγκη για συνεννόηση έγινε επιτακτική όταν τον Απρίλιο το μοντέλο Mythos της Anthropic εντόπισε ευάλωτα σημεία σε όλα τα μεγάλα λειτουργικά συστήματα του κόσμου, ενώ στις 13 Σεπτεμβρίου οι κινεζικές μυστικές υπηρεσίες προειδοποίησαν ότι η AI συνιστά απειλή για την πολιτική σταθερότητα.
Ωστόσο, οι ειδικοί αμφισβητούν αν οι δύο υπερδυνάμεις μπορούν να συμφωνήσουν σε μια κοινή επιβράδυνση. Το Πεκίνο δεν αντιμετωπίζει την AI ως μια δυνητικά αυτόνομη «θεότητα», αλλά ως μια γενική τεχνολογία ανάλογη με τον ηλεκτρισμό. Επιπλέον, οι αμερικανικοί κυρώσεις και οι περιορισμοί στην εξαγωγή ημιαγωγών έχουν κλονίσει την εμπιστοσύνη μεταξύ των δύο πλευρών.
Το καλύτερο δυνατό σενάριο, σύμφωνα με αναλυτές, είναι η δημιουργία μιας «υποτυπώδους συζήτησης», όπως γινόταν στον Ψυχρό Πόλεμο, ώστε αν ένα σύστημα AI ξεφύγει και εξαπολύσει μια καταστροφική κυβερνοεπίθεση, οι δύο χώρες να μπορούν να επικοινωνήσουν άμεσα για να αποφευχθεί ένας γενικευμένος στρατιωτικός αμοιβαίος αφοπλισμός.
Με πληροφορίες από TIME
