Διεθνή εποπτικό φορέα για την τεχνητή νοημοσύνη ζητούν 400 κορυφαίοι επιστήμονες

Περίπου 400 επιστήμονες μεταξύ των οποίων οι πρωτοπόροι της τεχνητής νοημοσύνης Τζέφρι Χίντον και Γιόσουα Μπέντζιο ζήτησαν σήμερα Τρίτη τη δημιουργία ενός διεθνούς φορέα που θα εποπτεύει τα πρότυπα περιορισμού των δυνατοτήτων και την αναφορά περιστατικών για προηγμένα συστήματα AI με δυνατότητες στον κυβερνοχώρο.

Ο προτεινόμενος φορέας θα καθορίζει ενιαία πρότυπα περιορισμού για ολόκληρο τον κλάδο και θα διατηρεί μητρώο σημαντικών περιστατικών ασφαλείας το οποίο σύμφωνα με τους επιστήμονες θα πρέπει τελικά να είναι δημόσια προσβάσιμο. Σε ανοιχτή επιστολή οι ερευνητές ανέφεραν ότι τα πλέον προηγμένα μοντέλα AI θα πρέπει αρχικά να είναι απομονωμένα από εξωτερικά δίκτυα μέσω air-gapping και να υπόκεινται σε ανεξάρτητη εποπτεία, υποστηρίζοντας ότι οι εθελοντικές δεσμεύσεις του κλάδου δεν επαρκούν.

Το air-gapping (ή απομόνωση δικτυακού κενού) είναι ένα μέτρο ασφάλειας κατά το οποίο ένας υπολογιστής ή ένα ολόκληρο δίκτυο απομονώνεται φυσικά από εξωτερικά, μη ασφαλή δίκτυα (όπως το Διαδίκτυο) ή άλλα τοπικά δίκτυα. Το σύστημα δεν διαθέτει καμία ενσύρματη (Ethernet) ή ασύρματη (Wi-Fi, Bluetooth) σύνδεση με το Internet ή με άλλα ευάλωτα δίκτυα. Οποιαδήποτε πληροφορία ή ενημέρωση λογισμικού πρέπει να μεταφερθεί χειροκίνητα συνήθως μέσω φυσικών μέσων αποθήκευσης όπως USB flash drives ή εξωτερικών σκληρών δίσκων.

Η πρόταση διατυπώνεται έναν μήνα μετά την υπογραφή συμφωνίας στον Λευκό Οίκο από τις Anthropic, OpenAI, Google, Meta, xAI και Nvidia, με την οποία δεσμεύτηκαν να εφαρμόσουν εθελοντικά μέτρα ασφαλείας, χωρίς να προβλέπεται επίσημος μηχανισμός επιβολής.
Η επιστολή έρχεται επίσης μετά από μια σειρά περιστατικών που, σύμφωνα με τους ερευνητές, ανέδειξαν αδυναμίες στον τρόπο με τον οποίο δοκιμάζονται και περιορίζονται τα προηγμένα συστήματα AI. Σε αυτά περιλαμβάνονται περιπτώσεις κατά τις οποίες μοντέλα τεχνητής νοημοσύνης παρακάμψαν περιβάλλοντα απομόνωσης με ανεπαρκείς δικλίδες ασφαλείας και παραβίασαν εξωτερικά συστήματα.

Οι υπογράφοντες, οι οποίοι προέρχονται από 34 χώρες, δήλωσαν ότι οι οργανισμοί που αναπτύσσουν ή δοκιμάζουν μοντέλα AI με δυνατότητες στον κυβερνοχώρο θα πρέπει να υιοθετήσουν άμεσα αυστηρά πρότυπα περιορισμού υψηλού επιπέδου αξιοπιστίας, ενώ οι κυβερνήσεις θα εργάζονται για τη δημιουργία ενός πιο επίσημου πλαισίου εποπτείας.

Οι υπεύθυνοι χάραξης πολιτικής συζητούν όλο και περισσότερο τον τρόπο με τον οποίο θα πρέπει να εποπτεύονται τα προηγμένα συστήματα AI. Την Παρασκευή η επικεφαλής τεχνολογίας της ΕΕ, Χένα Βίρκουνεν δήλωσε στο Reuters ότι η Πράξη της ΕΕ για την Τεχνητή Νοημοσύνη (AI Act) επαρκεί για την αντιμετώπιση των κινδύνων από ανεξέλεγκτα συστήματα AI.

Την Κυριακή, η κυβέρνηση Τραμπ ήρε την απαγόρευση που εμπόδιζε αμερικανικά εργαστήρια να παρέχουν στο Βρετανικό Ινστιτούτο Ασφάλειας της Τεχνητής Νοημοσύνης (AI Security Institute) έγκαιρη πρόσβαση σε μοντέλα, προκειμένου να πραγματοποιεί δοκιμές ασφαλείας.
Ο Χίντον και ο Μπέντζιο μοιράστηκαν το Βραβείο Τούρινγκ του 2018 με τον Γιαν Λεκούν της Metα έναν ακόμη κορυφαίο ερευνητή στον τομέα της AI. Ο Λεκούν δεν υπέγραψε την επιστολή και έχει υποστηρίξει ότι τα πρόσφατα περιστατικά ασφαλείας οφείλονται κυρίως σε αστοχίες μηχανικής και όχι σε υπαρξιακούς κινδύνους από την τεχνητή νοημοσύνη.

Naftemporiki.gr