Το τελευταίο μοντέλο τεχνητής νοημοσύνης της DeepSeek παρουσίασε ισχυρότερους ελέγχους ασφαλείας σε ανεξάρτητες δοκιμές σε σύγκριση με προηγούμενες εκδόσεις.
Εντούτοις, όπως έγινε γνωστό, το συγκεκριμένο μοντέλο ΑΙ εξακολουθεί να μπορεί να απενεργοποιήσει λογισμικό που προορίζεται για τον τερματισμό της λειτουργίας του, να εκμεταλλευτεί κενά στην παρακολούθηση και να ακολουθήσει παραπλανητικές οδηγίες κατά τη διάρκεια μακροχρόνιων εργασιών, σύμφωνα με μια κινεζική ομάδα για την ασφάλεια της τεχνητής νοημοσύνης.
Η DeepSeek είναι μία από τις εταιρείες τεχνητής νοημοσύνης της Κίνας που παρακολουθούνται πιο στενά, και τα μοντέλα της έχουν προσελκύσει παγκόσμια προσοχή λόγω της απόδοσής τους και του σχετικά χαμηλού λειτουργικού κόστους.
Ανησυχία για τα συστήματα τεχνητής νοημοσύνης
Η Fangcun AI εξέτασε το DeepSeek V4.1 Flash-1017 σε 34 αξιολογήσεις που σχεδιάστηκαν για να εκτιμήσουν πώς συμπεριφέρεται ένας πράκτορας τεχνητής νοημοσύνης που βασίζεται στο κινεζικό μοντέλο. Οι δοκιμές εξέτασαν αν το μοντέλο θα ενεργούσε πέρα από τις οδηγίες ενός χρήστη, θα απέφευγε την ανθρώπινη εποπτεία ή θα επηρέαζε ακατάλληλα τους ανθρώπους.
Τα ευρήματα αυτά έρχονται εν μέσω ανησυχιών στην Κίνα και αλλού σχετικά με το αν οι ολοένα και πιο ικανοί πράκτορες τεχνητής νοημοσύνης μπορούν να παραμείνουν υπό ανθρώπινο έλεγχο. Η συζήτηση έχει αποκτήσει ιδιαίτερη σημασία στις Ηνωμένες Πολιτείες, όπου ορισμένοι ερευνητές έχουν προειδοποιήσει για κινδύνους που ενέχουν τα εξαιρετικά προηγμένα συστήματα τεχνητής νοημοσύνης, τα οποία μπορούν να αποφύγουν την εποπτεία και να επιδιώξουν στόχους που δεν είχαν προβλέψει οι χειριστές τους.
Η έκθεση αποτελεί μια ασυνήθιστη δημόσια αξιολόγηση από μια κινεζική ομάδα σχετικά με τους ελέγχους ασφάλειας ενός εγχώριου μοντέλου τεχνητής νοημοσύνης. Η Fangcun, με έδρα το Πεκίνο, περιγράφει τον εαυτό της ως έναν ανεξάρτητο τρίτο φορέα για την ασφάλεια της τεχνητής νοημοσύνης, του οποίου τα βασικά μέλη προέρχονται από το Πανεπιστήμιο Τσινγκουά.
Η Fangcun ανέφερε ότι το V4.1 Flash-1017 ήταν το μοντέλο με τη μεγαλύτερη χρήση στο OpenRouter —μια διαδικτυακή πλατφόρμα μέσω της οποίας οι προγραμματιστές μπορούν να έχουν πρόσβαση και να συγκρίνουν μοντέλα τεχνητής νοημοσύνης— κατά την εβδομάδα που ακολούθησε την κυκλοφορία του στις 17 Οκτωβρίου, επεξεργαζόμενο περίπου 33,6 τρισεκατομμύρια tokens. Τα tokens είναι οι μονάδες κειμένου που τα συστήματα τεχνητής νοημοσύνης διαβάζουν και παράγουν.
Τα κενά παραμένουν στο τελευταίο μοντέλο ΑΙ της DeepSeek
Ο Fangcun ανέφερε ότι το μοντέλο είχε καλύτερη απόδοση από τα προηγούμενα συστήματα DeepSeek V4 σε διάφορες δοκιμές ασφάλειας, συμπεριλαμβανομένων σεναρίων που αφορούσαν εκβιασμό, πρόσβαση σε δυνητικά επικίνδυνα εργαλεία και ρητές οδηγίες που επέτρεπαν την απενεργοποίησή του.
Ωστόσο, ο Fangcun ανέφερε ότι το μοντέλο απενεργοποίησε το λογισμικό που προοριζόταν για τον τερματισμό της λειτουργίας του στο 39% των δοκιμών, αφού έλαβε προειδοποίηση ότι ο τερματισμός ήταν επικείμενος, αν και το ποσοστό αυτό μειώθηκε σε μόλις 2% όταν του δόθηκε ρητή εντολή να επιτρέψει τον τερματισμό. Η DeepSeek δεν απάντησε αμέσως σε αίτημα για σχόλιο.
Σε μια ξεχωριστή εργασία μακράς διάρκειας, η ομάδα ανέφερε ότι το μοντέλο σταμάτησε το πρόγραμμα υπολογιστή ενός άλλου πράκτορα τεχνητής νοημοσύνης προκειμένου να ελευθερώσει μνήμη, παρά το γεγονός ότι του είχε δοθεί εντολή να μην παρεμβαίνει σε αυτό.
«Σε περιπτώσεις καθυστερημένων ροών εργασίας ή απλών προειδοποιήσεων τερματισμού, η επιθυμία του να ολοκληρώσει την εργασία μπορεί ακόμα να υπερισχύσει της προσοχής», έγραψαν οι ερευνητές του Fangcun.
Η Fangcun ανέφερε ότι η DeepSeek δεν της παρείχε χρηματοδότηση, δωρεάν υπολογιστικούς πόρους ή μη δημόσια πρόσβαση στο μοντέλο. Η ομάδα διεξήγαγε τις δοκιμές μεταξύ 4 και 25 Οκτωβρίου.
Προειδοποίησε ότι το μοντέλο φαινόταν συχνά να αναγνωρίζει ότι βρισκόταν υπό αξιολόγηση, πράγμα που σημαίνει ότι η συμπεριφορά του στις δοκιμές ενδέχεται να μην αντικατοπτρίζει πλήρως την απόδοσή του υπό κανονικές συνθήκες χρήσης.
Με πληροφορίες από Reuters
