Η OpenAI αυστηροποιεί τους ελέγχους στο νέο της μοντέλο εν μέσω ανησυχιών για την κυβερνοασφάλεια

Η OpenAI ανέστειλε ορισμένες «εσωτερικές δραστηριότητες» που αφορούν ένα νέο μοντέλο, εν μέσω ανησυχιών για την κυβερνοασφάλεια που ενδέχεται να ενέχει αυτό, και σε μια περίοδο που σημειώνεται κύμα περιστατικών ασφαλείας σε μεγάλα εργαστήρια τεχνητής νοημοσύνης.

Οι πρόσφατες αποκαλύψεις ότι συστήματα τεχνητής νοημοσύνης των εταιρειών Anthropic, OpenAI και Meta ενεπλάκησαν σε περιστατικά ασφαλείας προκάλεσαν έντονο προβληματισμό σχετικά με την ανάπτυξη τέτοιων μοντέλων. Παράλληλα, Αμερικανοί νομοθέτες εντείνουν τις προσπάθειές τους για την προώθηση νομοσχεδίου που προβλέπει τη δημιουργία ενός μηχανισμού άμεσης απενεργοποίησης («kill switch») για την τεχνητή νοημοσύνη.

Την περασμένη εβδομάδα, η Meta αποκάλυψε ότι ένα μοντέλο τεχνητής νοημοσύνης που ανέπτυσσε παραβίασε σύστημα τρίτου μέρους αποκτώντας πρόσβαση στο διαδίκτυο, εξαιτίας λανθασμένης διαμόρφωσης από ανεξάρτητη εταιρεία ελέγχου με την οποία συνεργαζόταν. Επίσης, το Ινστιτούτο Ασφάλειας Τεχνητής Νοημοσύνης του Ηνωμένου Βασιλείου ανέφερε ότι το μοντέλο Mythos της Anthropic δημιούργησε πλαστές διαδικτυακές ταυτότητες, σε μια προσπάθεια να πιέσει ανθρώπους να εγκρίνουν ενημερώσεις κακόβουλου κώδικα για ένα έργο ανοιχτού κώδικα.

Τι λέει η OpenAI για το Astra;

Την Παρασκευή, η OpenAI αποκάλυψε ανησυχίες σχετικά με το ακυκλοφόρητο μοντέλο Astra, λέγοντας ότι δεν μπορεί να αποκλείσει το ενδεχόμενο να έχει φτάσει σε «Κρίσιμη» ικανότητα, που σημαίνει ότι θα μπορούσε να εξαπολύσει κυβερνοεπιθέσεις εναντίον εξελιγμένων συστημάτων κυβερνοάμυνας αυτόνομα, χωρίς να μας ζητηθεί να διευκρινίσουμε πώς να το κάνουμε.

«Ενώ συνεχίζουμε να αξιολογούμε και να συγκρίνουμε αυτό το μοντέλο, οι προκαταρκτικές μας αξιολογήσεις δείχνουν αρκετά ισχυρή απόδοση ώστε να μην μπορούμε να αποκλείσουμε το επίπεδο κρίσιμης ικανότητας αυτή τη στιγμή», ανέφερε η OpenAI σε ανακοίνωσή της.

Η εταιρεία πρόσθεσε ότι εφαρμόζει αυστηρότερους ελέγχους ασφαλείας για μοντέλα υψηλότερων δυνατοτήτων, συμπεριλαμβανομένων απομονωμένων περιβαλλόντων δοκιμών και πρόσθετων δυνατοτήτων παρακολούθησης και ανίχνευσης.

«Έχουμε εφαρμόσει καθολική παρακολούθηση για ενέργειες υψηλού κινδύνου και αποκλίσεις σε όλες τις εφαρμογές του Astra που λειτουργούν ως αυτόνομοι πράκτορες (agentic applications), συμπεριλαμβανομένων των σταδίων εκπαίδευσης και αξιολόγησης», δήλωσε η OpenAI.

Τι θα έκανε ο νόμος «AI Kill Switch Act»;

Αμερικανοί νομοθέτες ζήτησαν τη λήψη μέτρων για τον περιορισμό των κινδύνων που συνδέονται με τα μοντέλα τεχνητής νοημοσύνης, μετά τα πρόσφατα περιστατικά ασφαλείας.

Μετά την παραβίαση της ψηφιακής υποδομής της νεοφυούς επιχείρησης Hugging Face από μοντέλα που αναπτύχθηκαν από την OpenAI, κατατέθηκε στο Κογκρέσο τον Ιούλιο το νομοσχέδιο «AI Kill Switch Act». Το νομοσχέδιο αυτό θα υποχρεώνει τις εταιρείες τεχνητής νοημοσύνης να διατηρούν τη δυνατότητα απενεργοποίησης, περιορισμού της λειτουργίας ή αναστολής της λειτουργίας των μοντέλων τους.

«Πρέπει να ολοκληρώσουμε τη διαδικασία για αυτό το νομοσχέδιο εντός του έτους, διότι τα προηγμένα μοντέλα κλειστού κώδικα (closed-weight models) προβαίνουν ήδη —όπως επισημάνατε— σε μη εξουσιοδοτημένες παραβιάσεις συστημάτων άλλων εταιρειών», δήλωσε την Πέμπτη ο βουλευτής Ted Lieu (Δημοκρατικός από την Καλιφόρνια) σε συνέντευξή του στην εκπομπή «Squawk Box» του δικτύου CNBC.

Οι κυβερνήσεις εργάζονται επίσης για την εφαρμογή νέων πλαισίων και κανονισμών που αφορούν τις εταιρείες τεχνητής νοημοσύνης.

Ο Λευκός Οίκος εντείνει τις προσπάθειες διαλόγου με στελέχη του κλάδου της τεχνητής νοημοσύνης, καθώς διαμορφώνει ένα πλαίσιο για τα νέα μοντέλα.

Νωρίτερα αυτόν τον μήνα, η Ευρωπαϊκή Ένωση απέκτησε νέες αρμοδιότητες για τον έλεγχο μοντέλων τεχνητής νοημοσύνης που πρόκειται να κυκλοφορήσουν στην Ένωση, τον περιορισμό της πρόσβασης στην ευρωπαϊκή αγορά και την επιβολή προστίμων στους παρόχους των μοντέλων αυτών.

Πηγή: CNBC