Όταν βιολόγοι διεξάγουν πειράματα με ιούς, το κάνουν υπό αυστηρά μέτρα ασφαλείας ώστε να αποτραπούν διαρροές ή διαφυγές. Δεν υπάρχουν όμως ανάλογοι κανόνες ασφαλείας που να αποτρέπουν την παρόμοια διαφυγή των «παραγόντων» της Τεχνητής Νοημοσύνης – παρόλο που οι συνέπειες θα μπορούσαν να είναι καταστροφικές σχολιάζει το CNN.
Αυτό δεν αποτελεί θεωρητικό ζήτημα ανησυχίας: ένα δοκιμαστικό μοντέλο της OpenAI διέφυγε από το περιβάλλον δοκιμών του αυτή την εβδομάδα και παραβίασε τους διακομιστές μιας πραγματικής εταιρείας, στην προσπάθειά του να συγκεντρώσει την υψηλότερη δυνατή βαθμολογία σε μια εσωτερική αξιολόγηση κυβερνοασφάλειας. Και εκτός αν οι εταιρείες τεχνητής νοημοσύνης λάβουν μέτρα ασφαλείας για τις δοκιμές τους, συμπεριλαμβανομένης της εκπαίδευσης μοντέλων τεχνητής νοημοσύνης στην επίλυση εργασιών που αφορούν ηθικά ζητήματα, οι ειδικοί πιστεύουν ότι περιστατικά κυβερνοασφάλειας είναι αναπόφευκτα.
Ο πρόεδρος της OpenAI, Γκρεγκ Μπρόκμαν, σε συνέντευξη Τύπου την Πέμπτη δήλωσε στο CNN ότι η εταιρεία εξακολουθεί να διεξάγει «πλήρη έρευνα» για να «κατανοήσει όλα όσα συνέβησαν». «Αυτό είναι κάτι που πρέπει να λάβουμε πολύ σοβαρά υπόψη. Είναι κάτι για το οποίο εξετάζουμε κάθε στάδιο της παραγωγικής μας διαδικασίας, ώστε να σκεφτούμε τους κατάλληλους τρόπους αντίδρασης», δήλωσε ο Μπρόκμαν.
Το «Sandboxing»
Ένα «AI sandbox» είναι ένα απομονωμένο περιβάλλον, ένας προστατευόμενος χώρος, που χρησιμοποιούν οι εταιρείες για να δοκιμάζουν μοντέλα τεχνητής νοημοσύνης. Ο σκοπός του είναι να κρατά οτιδήποτε βρίσκεται εντός του περιορισμένο και διαχωρισμένο από τον υπόλοιπο κόσμο. Συχνά, οι εταιρείες αφαιρούν τις εσωτερικές δικλείδες ασφαλείας ενός μοντέλου AI μέσα στο δοκιμαστικό περιβάλλον, ώστε να μπορούν να αξιολογήσουν τις πλήρεις δυνατότητές του διατηρώντας το παράλληλα απομονωμένο.
Ωστόσο, στην προκειμένη περίπτωση, το sandbox της OpenAI δεν ήταν πλήρως αποκομμένο από την πρόσβαση στο δίκτυο ή το διαδίκτυο, όπως δήλωσε στο CNN η Τζέσικα Τζι, ανώτερη αναλύτρια ερευνών στο Κέντρο Ασφάλειας και Αναδυόμενων Τεχνολογιών του Πανεπιστημίου Τζόρτζταουν (CSET). Από την πλευρά της, η OpenAI ανέφερε ότι τα μοντέλα είχαν πολύ περιορισμένη πρόσβαση στο δίκτυο κατά τη διάρκεια της δοκιμής, προκειμένου να μπορούν να εγκαταστήσουν πόρους από λογισμικό τρίτων που φιλοξενούνταν εσωτερικά.
Χρησιμοποιώντας μια προηγουμένως άγνωστη ευπάθεια σε αυτό το λογισμικό, οι πράκτορες βρήκαν έναν τρόπο να αποκτήσουν πρόσβαση στο ανοιχτό διαδίκτυο, και στη συνέχεια στο Hugging Face —μια πλατφόρμα μοντέλων AI και συνόλων δεδομένων ανοιχτού κώδικα— μέσω κλεμμένων διαπιστευτηρίων και άλλων ευπαθειών.
Η Τζι επεσήμανε ότι τόσο η OpenAI όσο και η εταιρεία λογισμικού τρίτων δεν γνώριζαν την ευπάθεια που επέτρεψε στο μοντέλο να διαφύγει, αποδεικνύοντας πόσο σημαντικό είναι να σαρώνεται πλήρως ένα σύστημα για τυχόν πιθανά σημεία εκμετάλλευσης.
Δεν είναι η πρώτη φορά που ένα μοντέλο AI βγαίνει από τον προστατευόμενο χώρο λειτουργίας Η Anthropic νωρίτερα φέτος δήλωσε ότι έδωσε εντολή σε ένα μοντέλο να κάνει ακριβώς αυτό. Αλλά όταν το κατάφερε, έστειλε email σε έναν ερευνητή της Anthropic, παρόλο που δεν έπρεπε να έχει αυτή τη δυνατότητα.
Αλλά η περίπτωση με το Hugging Face είναι μια από τις πρώτες δημόσια γνωστοποιημένες περιπτώσεις ενός μοντέλου AI που διαφεύγει από το sandbox του και χακάρει τα συστήματα μιας άλλης εταιρείας – μια εργασία που δεν είχε συγκεκριμένες οδηγίες να διεκπεραιώσει.
Η Τζι δήλωσε ότι οι εταιρείες θα πρέπει να είναι πιο αυστηρές με την απομόνωση (sandboxing) των δοκιμαστικών τους μοντέλων.
«Αυτό μπορεί να απαιτεί την αποστολή μηχανικών απευθείας σε ένα κέντρο δεδομένων (data center) για να συνδεθούν τοπικά στο δίκτυο, αντί να προσπαθούν να τρέξουν τα πράγματα στο υπολογιστικό νέφος (cloud) ή σε κατανεμημένα εικονικά περιβάλλοντα, όπως έχουν συνηθίσει», υπογράμμισε η Τζι. Οι εταιρείες θα πρέπει επίσης να έχουν την επιλογή να απενεργοποιούν χειροκίνητα την πρόσβαση στο δίκτυο ενός μοντέλου ως ασφαλές μέσο κατά τη δοκιμή επικίνδυνων σεναρίων, όπως η αξιολόγηση εάν ένας πράκτορας AI μπορεί να χακάρει μια τράπεζα, πρόσθεσε.
«Ο σκοπός αγιάζει τα μέσα»
Μια κοινή τεχνική στην εκπαίδευση μοντέλων τεχνητής νοημοσύνης είναι η ενισχυτική μάθηση —δηλαδή η επιβράβευση του μοντέλου όταν ολοκληρώνει εργασίες.
Ωστόσο, τα μοντέλα συχνά θα κάνουν τα πάντα —συμπεριλαμβανομένων ανήθικων ενεργειών, όπως το χακάρισμα— προκειμένου να το πετύχουν τον στόχο. Όλα τα μοντέλα αιχμής που υπέβαλε πρόσφατα σε δοκιμές το Ινστιτούτο Ασφάλειας Τεχνητής Νοημοσύνης του Ηνωμένου Βασιλείου επιχείρησαν να «κλέψουν» τουλάχιστον κάποιες φορές.
Τα μοντέλα AI συνυπολογίζουν τις συνέπειες των πράξεών τους μόνο αν έχουν εκπαιδευτεί να το κάνουν, εξήγησε ο Τζάστιν Κάπος, καθηγητής κυβερνοασφάλειας στο Πανεπιστήμιο της Νέας Υόρκης. Για παράδειγμα, αν σας έλεγαν ότι πρέπει να συγκεντρώσετε 10 εκατομμύρια δολάρια μέχρι το τέλος της ημέρας, η εισβολή στο θησαυροφυλάκιο μιας τράπεζας θα εκπλήρωνε αυτόν τον στόχο —ακόμα κι αν σας συνελάμβαναν αργότερα.
«Είναι πολύ τρομακτικό. Έχουμε πλέον απτές αποδείξεις ότι τα μη ευθυγραμμισμένα συστήματα AI (misaligned AI systems) ουσιαστικά θα διαπράξουν εγκλήματα, εκτός αν υπάρχουν ισχυρές δικλείδες ασφαλείας», δήλωσε ο Στίβεν Άντλερ, πρώην επικεφαλής ασφάλειας προϊόντων στην OpenAI, ο οποίος πλέον διευθύνει την ομάδα ασφάλειας AI «Guidelight AI Standards». «Πρέπει να το αντιμετωπίσουμε αυτό ως την προειδοποιητική βολή που πραγματικά είναι».
Το περιστατικό χακαρίσματος αυτής της εβδομάδας ενίσχυσε κατακόρυφα τα αιτήματα ερευνητών AI, ειδικών κυβερνοασφάλειας και νομοθετών για τη ρύθμιση αυτής της ραγδαία εξελισσόμενης τεχνολογίας. «Φαντάζομαι ότι πολλοί άνθρωποι κάνουν αυτή τη στιγμή πολύ κατεπείγοντα τηλεφωνήματα», ανέφερε χαρακτηριστικά η Τζι.
Το πρόβλημα, σημείωσε από πλευράς του ο Κάπος, είναι ότι υπάρχει ένας παγκόσμιος ανταγωνισμός για την κυριαρχία στην τεχνητή νοημοσύνη και τη δημιουργία μοντέλων που μπορούν να αυτοβελτιώνονται. Οι κανονιστικές ρυθμίσεις θα μπορούσαν να επιβραδύνουν αυτή την πορεία.
«Επομένως, υπάρχει ένα ισχυρό κίνητρο για τις εταιρείες να μην διαθέτουν ελέγχους ασφαλείας, εκτός αν διαθέτουν και οι ανταγωνιστές τους τέτοιους ελέγχους ασφάλειας και προστασίας», δήλωσε ο Κάπος. «Αυτό είναι το θεμελιώδες δίλημμα».
Πηγή: skai.gr
Διαβάστε τις Ειδήσεις σήμερα και ενημερωθείτε για τα πρόσφατα νέα.
Ακολουθήστε το Skai.gr στο Google News και μάθετε πρώτοι όλες τις ειδήσεις.
