Anthropic: Προσλαμβάνει ειδικούς για να αποτρέψει το τέλος του κόσμου…που φοβάται ότι μπορεί να προκαλέσει η ίδια

Δεν το κρύβει. Φοβάται την ίδια της την τεχνολογία. Και τώρα προσλαμβάνει ειδικούς με μισθούς εκατοντάδων χιλιάδων δολαρίων για να εμποδίσουν την τεχνητή νοημοσύνη να χρησιμοποιηθεί για την καταστροφή.

Ο λόγος για την Anthropic που αναζητεί εκείνους που θα βάλουν φρένο στην κατασκευή εκρηκτικών, την ανάπτυξη πυρηνικών όπλων, τη διάπραξη κυβερνοεπιθέσεων και ακόμη και την προετοιμασία επιθέσεων με εκατομμύρια θύματα.

Σύμφωνα με τον ιστότοπο Axios.com οι αγγελίες εργασίας της εταιρείας μοιάζουν περισσότερο με κατάλογο παγκόσμιων απειλών παρά με συνηθισμένες θέσεις σε μια εταιρεία τεχνολογίας.

Συνολικά, η Anthropic αναζητεί προσωπικό για 32 ρόλους που έχουν έναν κοινό στόχο: να εντοπίζουν έγκαιρα πώς μπορεί κάποιος να εκμεταλλευτεί τα συστήματα τεχνητής νοημοσύνης για να προκαλέσει πραγματική καταστροφή.

Από τα εκρηκτικά έως τα πυρηνικά όπλα

Η εταιρεία προσλαμβάνει αναλυτές με εξειδίκευση στα χημικά και τα εκρηκτικά, στα πυρηνικά και ραδιολογικά όπλα, στις οικονομικές απάτες, στο κυβερνοέγκλημα και σε άλλες μορφές κακόβουλης χρήσης της τεχνητής νοημοσύνης.

Σε μία από τις αγγελίες αναφέρεται ότι ο υποψήφιος θα έχει «κρίσιμο ρόλο στην προστασία από την κατάχρηση συστημάτων τεχνητής νοημοσύνης για ραδιολογικές και πυρηνικές βλάβες».

Με απλά λόγια, οι νέοι εργαζόμενοι θα πρέπει να σκέφτονται σαν εκείνους που προσπαθούν να παρακάμψουν τα φίλτρα ασφαλείας, να αποσπάσουν επικίνδυνες πληροφορίες από τα μοντέλα και να τα χρησιμοποιήσουν για την κατασκευή όπλων ή την εκτέλεση επιθέσεων.

Μισθοί που αγγίζουν τις 300.000 δολάρια

Η Anthropic είναι διατεθειμένη να πληρώσει ακριβά αυτή την τεχνογνωσία. Οι αμοιβές για αρκετές από τις συγκεκριμένες θέσεις κινούνται από τα μέσα έως τα υψηλά επίπεδα των 200.000 δολαρίων ετησίως.

Το ύψος των μισθών δείχνει πόσο σοβαρά αντιμετωπίζουν πλέον οι εταιρείες τεχνητής νοημοσύνης τον κίνδυνο τα ισχυρότερα μοντέλα τους να μετατραπούν σε εργαλεία στα χέρια εγκληματιών, τρομοκρατικών οργανώσεων ή κρατικών μηχανισμών.

Εκπρόσωπος της Anthropic δήλωσε ότι βασική προϋπόθεση της υπεύθυνης ανάπτυξης είναι να διασφαλίζεται ότι τα μοντέλα δεν παρέχουν δυνητικά επικίνδυνες πληροφορίες.

Όπως εξήγησε, η εταιρεία προσλαμβάνει συστηματικά ειδικούς σε ευαίσθητους τομείς, ανθρώπους που γνωρίζουν τόσο τη φύση των απειλών όσο και τον τρόπο με τον οποίο η τεχνητή νοημοσύνη μπορεί να τις ενισχύσει.

Να βρουν τις αδυναμίες πριν κυκλοφορήσει το μοντέλο

Οι ειδικοί αυτοί δεν περιορίζονται στον προγραμματισμό. Το έργο τους είναι να δοκιμάζουν τα συστήματα πριν κυκλοφορήσουν, να επιχειρούν να παρακάμψουν τους μηχανισμούς ασφαλείας και να εντοπίζουν κενά που θα μπορούσαν να εκμεταλλευτούν κακόβουλοι χρήστες.

Η εταιρεία υποστηρίζει ότι απασχολεί ήδη εκατοντάδες εργαζομένους που ασχολούνται αποκλειστικά με ζητήματα ασφάλειας. Οι ομάδες αυτές πραγματοποιούν διαρκείς δοκιμές πίεσης στα μοντέλα και διορθώνουν τις αδυναμίες που εντοπίζουν.

Για τον λόγο αυτόν, οι θέσεις απαιτούν πραγματική εμπειρία σε πεδία όπως η βιολογία, η πυρηνική τεχνολογία, τα εκρηκτικά και η κυβερνοασφάλεια. Δεν αρκεί κάποιος να γνωρίζει πώς λειτουργεί ένα μοντέλο τεχνητής νοημοσύνης. Πρέπει να καταλαβαίνει πώς μπορεί να χρησιμοποιηθεί στον πραγματικό κόσμο για να προκαλέσει βλάβη.

Ο φόβος του Ντάριο Αμοντέι για μια επίθεση με εκατομμύρια νεκρούς

Ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, έχει επανειλημμένα προειδοποιήσει ότι η τεχνητή νοημοσύνη μπορεί να ενισχύσει δραματικά τις δυνατότητες κακόβουλων δρώντων.

Σε κείμενό του τον Ιανουάριο είχε χαρακτηρίσει τις βιολογικές επιθέσεις ως ένα από τα πιο ανησυχητικά σενάρια. Όπως είχε γράψει, δεν θεωρεί βέβαιο ότι μια τέτοια επίθεση θα πραγματοποιηθεί αμέσως μόλις γίνει τεχνικά εφικτή. Εκτιμά, όμως, ότι όσο αυξάνεται ο αριθμός των ανθρώπων με πρόσβαση σε ισχυρά μοντέλα και όσο περνούν τα χρόνια, μεγαλώνει και ο κίνδυνος μιας μεγάλης επίθεσης με εκατομμύρια θύματα.

Η Anthropic έχει δεχθεί συχνά κριτική ότι υιοθετεί υπερβολικά καταστροφολογική στάση απέναντι στην τεχνητή νοημοσύνη. Ωστόσο, οι νέες προσλήψεις δείχνουν ότι η εταιρεία δεν περιορίζεται στις προειδοποιήσεις. Επενδύει μεγάλα ποσά για να αντιμετωπίσει τους κινδύνους που η ίδια περιγράφει.

Η ρήξη με το Πεντάγωνο

Στις αρχές του έτους, η Anthropic συγκρούστηκε με το αμερικανικό υπουργείο Άμυνας σχετικά με την πιθανή χρήση της τεχνολογίας της σε συστήματα μαζικής παρακολούθησης και αυτόνομα όπλα.

Η διαφωνία αυτή ανέδειξε ένα από τα πιο δύσκολα ερωτήματα γύρω από την τεχνητή νοημοσύνη: ποιος αποφασίζει πώς μπορούν να χρησιμοποιηθούν τα ισχυρότερα μοντέλα, ιδίως όταν το κράτος, ο στρατός και οι ιδιωτικές εταιρείες έχουν διαφορετικές προτεραιότητες.

Και η OpenAI αναζητεί ειδικούς για βιολογικούς κινδύνους

Η Anthropic δεν είναι η μόνη εταιρεία που ενισχύει τις ομάδες ασφαλείας της. Η OpenAI αναζητεί επίσης ερευνητή με ειδίκευση στους βιολογικούς και χημικούς κινδύνους, προσφέροντας ετήσιο βασικό μισθό από 295.000 έως 445.000 δολάρια.

Καθώς τα μοντέλα γίνονται ισχυρότερα, οι μεγαλύτερες εταιρείες του κλάδου προσπαθούν να προλάβουν κινδύνους που μέχρι πρόσφατα έμοιαζαν περισσότερο με σενάρια επιστημονικής φαντασίας.

Οι εταιρείες γράφουν μόνες τους τους κανόνες

Το πρόβλημα είναι ότι η τεχνογνωσία μετακινείται ολοένα περισσότερο προς τον ιδιωτικό τομέα και λιγότερο προς τις κυβερνήσεις και τις δημόσιες αρχές.

Σε συνδυασμό με την απουσία ενός συνεκτικού διεθνούς ρυθμιστικού πλαισίου, αυτό σημαίνει ότι οι ίδιες οι εταιρείες που κατασκευάζουν τα πιο ισχυρά μοντέλα είναι εκείνες που καλούνται να αποφασίσουν ποιοι κίνδυνοι είναι αποδεκτοί, ποια φίλτρα είναι επαρκή και ποια χρήση πρέπει να απαγορεύεται.

Η μεγάλη αντίφαση είναι πλέον προφανής: οι εταιρείες τεχνητής νοημοσύνης αναπτύσσουν συστήματα που υπόσχονται να αλλάξουν τον κόσμο και ταυτόχρονα προσλαμβάνουν στρατιές ειδικών για να διασφαλίσουν ότι αυτά τα ίδια συστήματα δεν θα χρησιμοποιηθούν για να τον καταστρέψουν.