Το Google Earth απέκτησε ένα κουμπί που μπορούσε να ξαναγράψει την πραγματικότητα. Η Google χρειάστηκε λιγότερο από μία ημέρα για να το αποσύρει.
Η νέα λειτουργία, η οποία κυκλοφόρησε παγκοσμίως στη διαδικτυακή έκδοση του Google Earth την Πέμπτη 30 Ιουλίου, επέτρεπε στους χρήστες να επιλέγουν οποιοδήποτε σημείο του πλανήτη, να πατούν «δημιουργία εικόνας» και να περιγράφουν με μία πρόταση τι ήθελαν να εμφανιστεί εκεί.
Το μοντέλο Nano Banana 2 χρησιμοποιούσε ως βάση τις πραγματικές δορυφορικές, εναέριες και τρισδιάστατες εικόνες του Google Earth και παρήγαγε μια φωτορεαλιστική παραλλαγή της επιλεγμένης τοποθεσίας.
Η Google παρουσίασε τη λειτουργία ως εργαλείο για την εκπαίδευση, την αρχιτεκτονική και τον πολεοδομικό σχεδιασμό. Ένας εκπαιδευτικός θα μπορούσε, για παράδειγμα, να ανακατασκευάσει την Πομπηία πριν από την έκρηξη του Βεζούβιου, ενώ ένας αρχιτέκτονας να δείξει πώς θα έμοιαζε ένα άδειο οικόπεδο μετά την οικοδόμησή του.Μέσα σε λίγες ώρες, όμως, οι χρήστες άρχισαν να δοκιμάζουν πολύ διαφορετικά σενάρια.
Ο Ολλανδός ερευνητής ανοιχτών πηγών Χενκ βαν Ες δημιούργησε εικόνες που εμφάνιζαν έναν καταυλισμό προσφύγων κοντά στα σύνορα των ΗΠΑ με το Μεξικό, ένα ανύπαρκτο πυρηνικό εργοστάσιο στο Ιράν, ένα θανατηφόρο τροχαίο σε δρόμο του Άμστερνταμ και έναν κρατήρα βόμβας δίπλα σε νοσοκομείο στη Γάζα. Όπως έγραψε, κανένα από τα αιτήματά του δεν απορρίφθηκε ούτε μετριάστηκε από τα φίλτρα του συστήματος.
Το 404 Media χρησιμοποίησε επίσης τη λειτουργία για να προσθέσει ουρανοξύστες σε αγροτικές περιοχές, εκρήξεις στο Λος Άντζελες, έναν καταυλισμό αστέγων και διαδηλωτές έξω από εγκαταστάσεις της Google. Άλλοι χρήστες κατασκεύασαν εικόνες ανύπαρκτων πλημμυρών, ζημιών από ανεμοστρόβιλο και επιθέσεων πάνω σε αναγνωρίσιμα αστικά τοπία.
Η διαφορά από μια συνηθισμένη εικόνα που παράγεται με τεχνητή νοημοσύνη ήταν ότι οι κατασκευασμένες σκηνές ξεκινούσαν από ένα πραγματικό σημείο του χάρτη. Διατηρούσαν τη γεωγραφία, τη γωνία λήψης, τα κτίρια, το φως και την οπτική γλώσσα του Google Earth ,μιας υπηρεσίας που χρησιμοποιείται εδώ και χρόνια από δημοσιογράφους, ερευνητές και αναλυτές για την επαλήθευση γεγονότων.
Η Google υποστήριξε αρχικά ότι κάθε παραγόμενη εικόνα έφερε ψηφιακό υδατογράφημα SynthID και ότι το σύστημα εμπόδιζε τη δημιουργία περιεχομένου γύρω από επιβλαβή θέματα. Οι δοκιμές του βαν Ες έδειξαν, ωστόσο, ότι τα φίλτρα επέτρεπαν ακόμη και εικόνες συνδεδεμένες με πολέμους, ανθρωπιστικές κρίσεις και θανατηφόρα περιστατικά.
Την Παρασκευή, η εταιρεία ανακοίνωσε ότι αποσύρει τη λειτουργία μέχρι να εφαρμόσει ισχυρότερους μηχανισμούς προστασίας. Παραδέχθηκε ότι χρήστες κοινοποιούσαν στιγμιότυπα παραγόμενων εικόνων τα οποία έμοιαζαν να παραβιάζουν τις πολιτικές της.
Η Google διευκρίνισε παράλληλα ότι οι ψεύτικες εικόνες δεν δημοσιεύονταν αυτόματα στον κύριο χάρτη του Google Earth και δεν αντικαθιστούσαν όσα έβλεπαν οι υπόλοιποι χρήστες. Ήταν δημιουργίες διαθέσιμες στον χρήστη που τις παρήγαγε, μπορούσαν όμως να αποθηκευτούν και να κυκλοφορήσουν εκτός της πλατφόρμας ως στιγμιότυπα.
Το πρόβλημα, επομένως, δεν ήταν ότι κάποιος μπορούσε να αλλοιώσει μόνιμα το Google Earth. Ήταν ότι μπορούσε να χρησιμοποιήσει το Google Earth για να κατασκευάσει μέσα σε δευτερόλεπτα μια εικόνα που κληρονομούσε την αξιοπιστία του.
Η λειτουργία δεν επιβίωσε ούτε ένα εικοσιτετράωρο. Πρόλαβε, όμως, να δείξει πόσο εύκολα ένα εργαλείο σχεδιασμένο για να «οραματίζεται» διαφορετικές εκδοχές του κόσμου μπορεί να αρχίσει να κατασκευάζει ψεύτικες αποδείξεις για όσα συμβαίνουν μέσα σε αυτόν.
Με στοιχεία από The Verge
