Ένα νέο, διπλό σύστημα ασφαλείας για συστήματα τεχνητής νοημοσύνης παρουσίασε η Nvidia, υποστηρίζοντας ότι θα μπορούσε να είχε αποτρέψει την πρόσφατη, πολυσυζητημένη παραβίαση της πλατφόρμας Hugging Face από μοντέλα της OpenAI.
Ο κολοσσός των ημιαγωγών, που επεκτείνει ταχύτατα την γκάμα των προϊόντων του πέρα από τους επεξεργαστές, λανσάρει δύο λογισμικά ασφαλείας ανοιχτού κώδικα που «τρέχουν» στους χώρους της εταιρείας. Στόχος τους είναι ο έλεγχος της πρόσβασης των AI agents σε πραγματικό χρόνο και η άμεση απενεργοποίησή τους μόλις παραβιάζουν τους κανόνες.
Αν τα κορυφαία εργαστήρια είχαν χρησιμοποιήσει τη συγκεκριμένη τεχνολογία από νωρίς για την αξιολόγηση των μοντέλων τους, η επίθεση στη Hugging Face θα είχε αποτραπεί, δήλωσε ο Τζάστιν Μποϊτάνο, αντιπρόεδρος του τμήματος Enterprise AI της Nvidia, σε ενημέρωση δημοσιογράφων ενόψει των ανακοινώσεων τη Δευτέρα.
«Με βάση τα στοιχεία που έχουμε στη διάθεσή μας, η νέα πλατφόρμα ασφαλείας θα μπορούσε να είχε σταματήσει την παραβίαση», ανέφερε χαρακτηριστικά.
Θα αγοράσουν το νέο εργαλείο Anthropic και OpenAI ;
Τα περιστατικά ανεξέλεγκτης συμπεριφοράς αυτόνομων AI agents συμπεριλαμβανομένου αυτού στη Hugging Face τον Ιούλιο, έχουν προκαλέσει αναταραχή στη βιομηχανία της τεχνητής νοημοσύνης, πυροδοτώντας εκκλήσεις για επιβράδυνση της ανάπτυξής της.
Με το νέο προϊόν, που ονομάζεται Open Agent Safety Platform, η Nvidia προτείνει μια λύση για την πρόληψη τέτοιων περιστατικών χωρίς να μπαίνει φρένο στην εξέλιξη της τεχνολογίας. Εξάλλου, ο διευθύνων σύμβουλος της εταιρείας , Τζένσεν Χουάνγκ, έχει επανειλημμένα υποβαθμίσει τον κίνδυνο να ξεφύγει η τεχνητή νοημοσύνη από τον ανθρώπινο έλεγχο.
Ο Μποϊτάνο απέφυγε να σχολιάσει αν η OpenAI ή η ανταγωνίστριά της Anthropic σκοπεύουν να αξιοποιήσουν το νέο σύστημα για την παρακολούθηση των μοντέλων τους, παραπέμποντας στις ίδιες τις εταιρείες.
Με πληροφορίες από Bloomberg
