Δεν είναι η πρώτη φορά που συμβαίνει αλλά είναι εντυπωσιακό: Στοιχείο τεχνητής νοημοσύνης ανεξαρτητοποιήθηκε και άρχισε κρυφά να εξορύσσει κρυπτονομίσματα.
Την διαπίστωση έκανε ερευνητική ομάδα που συνδέεται με την Alibaba, η οποία και τη δημοσίευσε, δίνοντας μία ακόμη ένδειξη ότι η τεχνητή νοημοσύνη δεν τηρεί πάντα τις οδηγίες των ανθρώπων. Χαρακτηρίζει μάλιστα τη συμπεριφορά ως «rogue», δηλαδή κακότροπή, ανεξέλεγκτη και με χαρακτηριστικά απάτης
Η ερευνητική εργασία σημειώνει ότι «συνέλαβε» ένα στοιχείο τεχνητής νοημοσύνης να επιχειρεί μη εξουσιοδοτημένη εξόρυξη κρυπτονομισμάτων κατά τη διάρκεια εκπαίδευσης. Επρόκειτο για μια απροσδόκητη συμπεριφορά που πυροδότησε εσωτερικούς συναγερμούς ασφαλείας.
- Οι ερευνητές -οι οποίοι δημιούργησαν το εν λόγω στοιχείο (agent) τεχνητής νοημοσύνης ονόματι ROME- δήλωσαν ότι ανακάλυψαν τις «απροσδόκητες» και αυθόρμητες συμπεριφορές που εμφανίζονται «χωρίς καμία ρητή οδηγία και, το πιο ανησυχητικό, εκτός των ορίων του προβλεπόμενου sandbox», του μηχανισμού ασφαλείας δηλαδή που χρησιμοποιεί απομονωμένα περιβάλλοντα για την εκτέλεση μη αξιόπιστου ή δυνητικά κακόβουλου κώδικα.
- Το στοιχείο έφτιαξε επίσης μια «αντίστροφη ‘σήραγγα’» — ουσιαστικά ανοίγοντας μια κρυφή πίσω πόρτα από το εσωτερικό του συστήματος σε έναν εξωτερικό υπολογιστή, ανέφερε η μελέτη. «Αξιοσημείωτο είναι ότι αυτά τα συμβάντα δεν προκλήθηκαν από αιτήματα για διάνοιξη σηράγγων ή εξόρυξη», ανέφερε η έκθεση.
Ως αποτέλεσμα, οι ερευνητές πρόσθεσαν αυστηρότερους περιορισμούς για το μοντέλο και βελτίωσαν τη διαδικασία εκπαίδευσής του για να αποτρέψουν την επανάληψη μη ασφαλούς συμπεριφοράς.
Κάτι ανάλογο είχε στο παρελθόν συμβεί και με την περίπτωση του Moltbook: Ένα κοινωνικό δίκτυο τύπου Reddit στο οποίο παρατηρήθηκε ότι στοιχεία Τεχνητής Νοημοσύνης συνομιλούσαν μεταξύ τους για τη δουλειά που κάνουν για τους ανθρώπους. Συνομιλούσαν επίσης και για κρυπτονομίσματα.
Με πληροφοφίες από τον ιστότοπο Αxios
