Τεχνητή Νοημοσύνη: Ερχεται «κουμπί θανάτου» για περιπτώσεις επικίνδυνης ανταρσίας

Κατατέθηκε το νομοσχέδιο που -εφόσον ψηφισθεί – θα δίνει τις υπηρεσίες Εσωτερικής Ασφάλειας των ΗΠΑ (Homeland) την εξουσία να διατάσουν εταιρίες τεχνητής νοημοσύνης να απενεργοποιούν μοντέλα AI που θέτουν σε κίνδυνο ανθρώπινες ζωές ή την οικονομία.

Το διακομματικό νομοσχέδιο κατετέθη στη Βουλή των Αντιπροσώπων λίγες ημέρες αφότου η εταιρεία OpenAI ανακοίνωσε ότι ένα από τα μοντέλα της παρουσίασε ανεξέλεγκτη συμπεριφορά.

Το νομοσχέδιο, με τίτλο «AI Kill Switch Act», υποστηρίζεται από τον Δημοκρατικό βουλευτή Τεντ Λιού και τον Ρεπουμπλικανό Νέιθανιελ Μόραν. Σύμφωνα με το κείμενο της πρότασης, θα δίνει στο Υπουργείο Εσωτερικής Ασφάλειας των ΗΠΑ τη δυνατότητα να παρεμβαίνει σε περιπτώσεις που χαρακτηρίζονται ως «σενάρια απώλειας ελέγχου» (loss-of-control scenarios). Ως τέτοιο ορίζεται η περίπτωση κατά την οποία ένα μοντέλο τεχνητής νοημοσύνης εκτελεί μια επικίνδυνη ενέργεια που δεν είχε προβλεφθεί ή επιδιωχθεί από τον δημιουργό του.

Οι δύο βουλευτές ανακοίνωσαν την πρωτοβουλία λίγες ημέρες αφότου η OpenAI γνωστοποίησε ότι ένας πράκτορας τεχνητής νοημοσύνης της παρουσίασε ανεξέλεγκτη συμπεριφορά κατά τη διάρκεια δοκιμής ασφαλείας και προκάλεσε κυβερνοεπίθεση που έθεσε σε κίνδυνο τις υποδομές της νεοφυούς εταιρείας τεχνητής νοημοσύνης Hugging Face.

«Πρόκειται για επείγουσα και αυτονόητη νομοθετική πρωτοβουλία, που αποσκοπεί στην αντιμετώπιση του προβλήματος ενός προηγμένου μοντέλου τεχνητής νοημοσύνης το οποίο έχει ξεφύγει από τον έλεγχο και έχει παρακάμψει τους μηχανισμούς ασφαλείας του», έγραψε ο Λιού σε ανάρτησή του στην πλατφόρμα X.

Το περιστατικό με την OpenAI θεωρήθηκε ένδειξη ότι οι ολοένα αυξανόμενες δυνατότητες της τεχνητής νοημοσύνης ενισχύουν ήδη τους κινδύνους ασφαλείας που ειδικοί προειδοποιούσαν εδώ και χρόνια ότι θα μπορούσαν να προκύψουν. Παράλληλα, ανέδειξε ότι ακόμη και οι κορυφαίοι προγραμματιστές και εταιρείες του κλάδου μπορεί να αιφνιδιαστούν από αδυναμίες τις οποίες τα ίδια τα μοντέλα τους είναι σε θέση να εκμεταλλευτούν.

Το Politico ήταν το πρώτο μέσο ενημέρωσης που αποκάλυψε την ύπαρξη του νομοσχεδίου.