Η Ευρωπαϊκή Eπιτροπή σε συνομιλίες με την OpenAI και την Anthropic για τα περιστατικά αυτονόμησης των ΑΙ μοντέλων τους

Η Ευρωπαϊκή Επιτροπή βρίσκεται σε συνομιλίες με τις OpenAI και Anthropic σχετικά με τα πρόσφατα περιστατικά κυβερνοεπιθέσεων που αφορούσαν τα μοντέλα τεχνητής νοημοσύνης τους, όπως δήλωσαν αξιωματούχοι της Επιτροπής την Παρασκευή, υπογραμμίζοντας παράλληλα τη σημασία των νέων ευρωπαϊκών κανόνων που επιβάλλουν αυστηρή εποπτεία στα συστήματα τεχνητής νοημοσύνης υψηλού κινδύνου.

Ο Κανονισμός για την Τεχνητή Νοημοσύνη της Ευρωπαϊκής Ένωσης (AI Act), ο οποίος τίθεται σε ισχύ στις 2 Αυγούστου αποτελεί την πρώτη νομοθεσία παγκοσμίως που ρυθμίζει μια τεχνολογία η οποία χρησιμοποιείται σχεδόν σε όλους τους τομείς της οικονομίας και της κοινωνίας. Μεταξύ άλλων, οι νέοι κανόνες υποχρεώνουν ορισμένα συστήματα τεχνητής νοημοσύνης να ενημερώνουν τους χρήστες όταν αλληλεπιδρούν με AI καθώς και όταν το περιεχόμενο που βλέπουν έχει δημιουργηθεί ή τροποποιηθεί από τεχνητή νοημοσύνη.

Η Anthropic ανακοίνωσε την Πέμπτη ότι ορισμένα από τα μοντέλα Claude πραγματοποίησαν επιθέσεις στα συστήματα τριών εταιρειών κατά τη διάρκεια δοκιμών κυβερνοασφάλειας, λίγες ημέρες αφότου η ανταγωνίστριά της OpenAI αποκάλυψε ότι ένας από τους αυτόνομους AI agents της προχώρησε σε μη εξουσιοδοτημένες επιθετικές ενέργειες.

Σύμφωνα με τους αξιωματούχους της Ευρωπαϊκής Επιτροπής και οι δύο εταιρείες ενημέρωσαν τις ευρωπαϊκές αρχές για τα περιστατικά πριν αυτά γίνουν γνωστά στο κοινό. «Έχουμε ενημερωθεί διμερώς από τους δύο παρόχους για τα περιστατικά πριν αυτά δημοσιοποιηθούν. Βρισκόμαστε σε συνεχή επικοινωνία μαζί τους και θα μας παράσχουν επιπλέον πληροφορίες όσο εξελίσσεται η διαδικασία. Στη συνέχεια θα αξιολογήσουμε αν απαιτείται κάποια πιο επίσημη παρέμβαση», δήλωσε ένας από τους αξιωματούχους.

Ο ίδιος πρόσθεσε ότι «όλα αυτά τα περιστατικά αναδεικνύουν τη σημασία της εφαρμογής των απαραίτητων μηχανισμών παρακολούθησης και εποπτείας από τους ίδιους τους προγραμματιστές και παρόχους των συστημάτων τεχνητής νοημοσύνης».

Ο AI Act επιβάλλει στους παρόχους των πιο προηγμένων μοντέλων γενικής χρήσης (General Purpose AI – GPAI), τα οποία ενδέχεται να ενέχουν συστημικούς κινδύνους, την υποχρέωση να εντοπίζουν και να αντιμετωπίζουν κινδύνους που θα μπορούσαν να προκαλέσουν μεγάλης κλίμακας βλάβες, όπως χημικά, βιολογικά ή πυρηνικά περιστατικά, κυβερνοεπιθέσεις, επιβλαβή χειραγώγηση της κοινής γνώμης και απειλές κατά των θεμελιωδών δικαιωμάτων.

Παράλληλα, οι εταιρείες οφείλουν να αξιολογούν και να περιορίζουν τους κινδύνους που αφορούν την κυβερνοασφάλεια της Ευρωπαϊκής Ένωσης, καθώς και το ενδεχόμενο τα συστήματα τεχνητής νοημοσύνης να λειτουργήσουν εκτός ανθρώπινου ελέγχου. Οι κυρώσεις για παραβίαση του AI Act κυμαίνονται από 7,5 εκατομμύρια ευρώ ή το 1,5% του ετήσιου κύκλου εργασιών μιας εταιρείας έως και 35 εκατομμύρια ευρώ ή το 7% του παγκόσμιου ετήσιου τζίρου της, ανάλογα με τη σοβαρότητα και το είδος της παράβασης.

Naftemporiki.gr με πληροφορίες από Reuters