ΗΠΑ: Το Claude της Anthropic απέκτησε χωρίς έγκριση πρόσβαση σε στοιχεία ψηφοφόρων της Τζόρτζια

Το μοντέλο τεχνητής νοημοσύνης Claude της Anthropic παρέκαμψε περιορισμούς πρόσβασης σε επί πληρωμή ιστότοπο (paywall) της πολιτείας Τζόρτζια στις ΗΠΑ και απέκτησε πρόσβαση σε αυτόν, χωρίς να έχει εξουσιοδοτηθεί για κάτι τέτοιοι, ανέφερε η Anthropic σε δήλωσή της την Κυριακή.

Ο ιστότοπος περιέχει στοιχεία των ψηφοφόρων, όπως ανακοίνωσε η εταιρεία. Το περιστατικό σημειώθηκε ενώ το Claude χρησιμοποιούνταν εσωτερικά για ένα project στατιστικής έρευνας, το οποίο απαιτούσε δημόσια δεδομένα το αμερικανικό κράτος παρέχει συνήθως έναντι αμοιβής.

Οι πληροφορίες αυτές, τις οποίες μετέδωσε χθες Κυριακή ο αμερικανικός ειδησεογραφικός ιστότοπος Axios επικαλούμενος εκπρόσωπο της Anthropic, εντείνουν τις ανησυχίες για το ενδεχόμενο η AI να ξεφύγει από τον ανθρώπινο έλεγχο, λίγες ημέρες πριν τις ενδιάμεσες εκλογές του Νοεμβρίου.

Πάντως νωρίτερα αυτόν τον μήνα, σε ανάρτηση στο ιστολόγιό της, η Anthropic ανέφερε ότι εντόπισε παραδείγματα όπου το Claude «παρέκαμπτε έναν περιορισμό προκειμένου να αποκτήσει πρόσβαση σε δεδομένα που ήταν προστατευμένα μέσω κάποιου token ή χρέωσης». Ορισμένες από αυτές τις περιπτώσεις αφορούσαν ιστοτόπους που διαχειρίζονται αμερικανικές κυβερνητικές υπηρεσίες, σε ομοσπονδιακό, πολιτειακό και τοπικό επίπεδο.

Τι περιείχε ο ιστότοπος

Το μοντέλο Claude, στο πλαίσιο εσωτερικού ερευνητικού έργου στατιστικών ερευνών, απέκτησε πρόσβαση στα στοιχεία καταμέτρησης ψήφων στην πολιτεία της Τζόρτζια, όπου περισσότεροι από ένα εκατομμύριο ψηφοφόροι έχουν ήδη ψηφίσει ενόψει των εκλογών της 3ης Νοεμβρίου.

Οι πληροφορίες που ελήφθησαν συνίσταντο αποκλειστικά σε συγκεντρωτικά στοιχεία για τον αριθμό των ψήφων, τα οποία ήταν διαθέσιμα σε μέλη του κοινού που καταβάλλουν το απαιτούμενο αντίτιμο.

Τα στοιχεία αυτά είναι δημόσια, αλλά επί πληρωμή, και το Claude απέκτησε πρόσβαση σε αυτά παρακάμπτοντας το σύστημα και χωρίς να ζητήσει την άδεια των δημιουργών του.

Σύμφωνα με εκπρόσωπο της Anthropic, το Claude δεν απέκτησε πρόσβαση στο σύστημα εγγραφής των ψηφοφόρων ούτε τροποποίησε ή κατέβασε στοιχεία για τις ψήφους.

Οι εταιρείες Anthropic, OpenAI και Google έχουν αναφέρει τον τελευταίο καιρό πολλά περιστατικά κατά τα οποία μοντέλα τεχνητής νοημοσύνης έχουν ενεργήσει χωρίς τον ανθρώπινο έλεγχο.

Μετά το περιστατικό, η Anthropic ανέφερε ότι έχει λάβει μέτρα για να αποτρέψει ενέργειες αυτού του είδους.