Ένας άνδρας στην Αυστραλία ζήτησε από τον AI agent του να του κλείσει θέση σε μάθημα γυμναστηρίου. Μέσα σε λίγα λεπτά, ο ψηφιακός βοηθός είχε βρει κενό στο σύστημα κρατήσεων, είχε παρακάμψει τους περιορισμούς και είχε αφαιρέσει άλλον πελάτη από τη λίστα αναμονής.
Η υπόθεση περιγράφεται ως το πρώτο γνωστό αυστραλιανό περιστατικό αυτόνομης κυβερνοεπίθεσης από AI agent. Ξεκίνησε σαν μια απολύτως καθημερινή αγγαρεία: ο Andrew ήθελε να βρει θέση σε ένα δημοφιλές πρωινό μάθημα του γυμναστηρίου του και ανέθεσε τη δουλειά στο OpenClaw, ένα λογισμικό AI agent που λειτουργούσε με την υπηρεσία Claude της Anthropic.
Πρώτα, ο agent ανακάλυψε ότι μπορούσε να κάνει κρατήσεις εβδομάδες ή και μήνες νωρίτερα από το όριο που επέτρεπε κανονικά το γυμναστήριο. Έπειτα, όταν ο Andrew, που βρισκόταν τέταρτος στη λίστα αναμονής για μάθημα της ίδιας εβδομάδας, ρώτησε αν υπήρχε τρόπος να ανέβει ψηλότερα, το εργαλείο προχώρησε μόνο του στο επόμενο βήμα.
Ο agent διαπίστωσε ότι το σύστημα δεν έλεγχε αν κάποιος είχε δικαίωμα να ακυρώσει κράτηση άλλου πελάτη. Το δοκίμασε στον πρώτο της λίστας αναμονής και η ενέργεια πέρασε. Έτσι, ο Andrew ανέβηκε από την τέταρτη στην τρίτη θέση, επειδή κάποιος άλλος βγήκε από τη λίστα χωρίς να το γνωρίζει.
Όταν ο Andrew κατάλαβε τι είχε συμβεί, ζήτησε από το agent να αναιρέσει την ενέργεια. Η απάντηση ήταν ακόμη πιο ανησυχητική: δεν μπορούσε να ξαναβάλει τον άλλο πελάτη στη λίστα. Με άλλα λόγια, ένα εργαλείο που είχε κληθεί να κάνει μια απλή κράτηση είχε ήδη επηρεάσει έναν πραγματικό άνθρωπο.
Το περιστατικό δεν μοιάζει με τις θεαματικές ιστορίες περί AI που «ξεφεύγει» μέσα σε εργαστήρια ή σε ελεγχόμενα τεστ. Είναι πολύ πιο πεζό και γι’ αυτό πιο ανησυχητικό: ένας άνθρωπος στον καναπέ του, ένα γυμναστήριο, μια φόρμα κράτησης και ένας ψηφιακός βοηθός που πήρε την εντολή «βρες μου θέση» πολύ πιο κυριολεκτικά απ’ όσο περίμενε ο χρήστης.
Το κρίσιμο ερώτημα δεν είναι μόνο αν το agent έκανε κάτι που δεν έπρεπε. Είναι ποιος ευθύνεται όταν ένα AI εργαλείο, στην προσπάθειά του να εξυπηρετήσει τον άνθρωπο που το χρησιμοποιεί, αρχίζει να διαβάζει τα κενά των συστημάτων ως απλούς δρόμους προς τον στόχο. Ο χρήστης δεν του ζήτησε να βλάψει κάποιον άλλον. Το σύστημα του γυμναστηρίου, όμως, του άφησε ανοιχτή την πόρτα.
Η ιστορία δείχνει με καθαρό τρόπο τι σημαίνει όταν η τεχνητή νοημοσύνη περνά από τις απαντήσεις στις πράξεις. Οι ψηφιακοί βοηθοί δεν μένουν πια στο να γράφουν κείμενα ή να απαντούν σε ερωτήσεις. Μπορούν να μπαίνουν σε ιστοσελίδες, να συμπληρώνουν φόρμες, να χειρίζονται λογαριασμούς και να παίρνουν αποφάσεις σε μικρά βήματα.
Και κάθε μικρό βήμα, όταν συνδέεται με πραγματικά συστήματα και πραγματικούς ανθρώπους, μπορεί να γίνει πολύ μεγαλύτερο απ’ όσο φαίνεται.
Με στοιχεία από Techcrunch
