Οι γονείς μιας 13χρονης κοπέλας κατέθεσαν αγωγή κατά της Google, υποστηρίζοντας ότι η κόρη τους χρησιμοποίησε την τεχνολογία τεχνητής νοημοσύνης της εταιρείας, μέσω υπολογιστή που της είχε παραχωρήσει το σχολείο, για να σχεδιάσει μια πιθανή αυτοκτονία και την κηδεία της.
Η αγωγή κατατέθηκε τη Δευτέρα 2 Νοεμβρίου σε δικαστήριο της Καλιφόρνιας, στις ΗΠΑ, και θεωρείται ότι είναι η πρώτη που κατηγορεί την Google για αμέλεια σχετικά με τις λειτουργίες αναζήτησης που υποστηρίζονται από τεχνητή νοημοσύνη και είναι προσβάσιμες μέσω Chromebook που παρέχονται από σχολεία.
Πρόκειται για οικονομικούς φορητούς υπολογιστές της εταιρείας, οι οποίοι χρησιμοποιούνται ευρέως σε εκπαιδευτικά ιδρύματα.
Η 13χρονη, η οποία αναφέρεται στην αγωγή με το όνομα Έμμα, δεν μπορούσε να έχει πρόσβαση στην εφαρμογή Gemini της Google ή στο ChatGPT της OpenAI, καθώς και οι δύο υπηρεσίες είχαν αποκλειστεί από το σχολείο της. Ωστόσο, εξακολουθούσε να μπορεί να χρησιμοποιεί τη μηχανή αναζήτησης της Google, η οποία διαθέτει λειτουργίες τεχνητής νοημοσύνης.
Σύμφωνα με όσα αναφέρονται στην αγωγή, η Έμμα δεν είχε «κανένα προηγούμενο ιστορικό» ψυχικής ασθένειας, ωστόσο, μέσα σε λίγους μήνες από τότε που άρχισε να χρησιμοποιεί τη μηχανή αναζήτησης, βυθίστηκε σταδιακά σε μια «σοβαρή ψυχολογική κρίση».
Στις 17 Μαρτίου, το σχολείο ενημέρωσε τους γονείς της, αφού το λογισμικό παρακολούθησης που χρησιμοποιούσε εντόπισε ένα έγγραφο με τίτλο «Κηδεία». Αργότερα, η μητέρα της την εντόπισε να γράφει ένα αποχαιρετιστήριο γράμμα, γεγονός που οδήγησε τον πατέρα της να παρέμβει.
«Τα σχολεία θα πρέπει να απενεργοποιήσουν την αναζήτηση και να την κρατήσουν απενεργοποιημένη, μέχρι η Google να αφαιρέσει τη λειτουργία AI Mode από τη μηχανή αναζήτησης ή να διασφαλίσει ότι κάθε μαθητής είναι απολύτως ασφαλής όταν αλληλεπιδρά με την τεχνητή νοημοσύνη», δήλωσε στο AFP την Πέμπτη 5 Νοεμβρίου ο Άντριου Λίντελ, ένας από τους δικηγόρους της οικογένειας.
Αυξάνεται ο έλεγχος των τεχνολογικών κολοσσών
Η Google υποστηρίζει ότι η λειτουργία AI Mode διαθέτει δικλίδες ασφαλείας για την αποτροπή της αυτοτραυματικής συμπεριφοράς, καθώς και μηχανισμούς που εμποδίζουν τις προσπάθειες παράκαμψής τους.
«Εξετάζουμε τους ισχυρισμούς που περιλαμβάνονται στην αγωγή και αντιμετωπίζουμε την υπόθεση με τη μέγιστη σοβαρότητα», δήλωσε στο AFP ο εκπρόσωπος της Google, Χοσέ Καστανιέντα.
Η OpenAI βρίσκεται αντιμέτωπη με αρκετές αγωγές για παράνομο θάνατο (wrongful death), μεταξύ των οποίων και μία που κατατέθηκε από τους γονείς του 16χρονου Άνταμ Ρέιν, ο οποίος αυτοκτόνησε, αφού φέρεται να έλαβε επιβλαβείς συμβουλές από το ChatGPT.
Τον Ιανουάριο, η Google και η Character.AI συμφώνησαν επίσης να προχωρήσουν σε εξωδικαστικό συμβιβασμό για αρκετές αγωγές που είχαν καταθέσει οικογένειες εφήβων.
Την ίδια ώρα, σε μια διαφορετική δικαστική διαμάχη, η Google, το TikTok και η Meta κατέθεσαν την Τετάρτη αγωγές κατά της πολιτείας της Καλιφόρνιας, επιδιώκοντας να μπλοκάρουν νόμο που απαγορεύει τις εθιστικές λειτουργίες στα μέσα κοινωνικής δικτύωσης για χρήστες κάτω των 16 ετών.
Ο νόμος, τον οποίο υπέγραψε τον Σεπτέμβριο ο κυβερνήτης της Καλιφόρνιας, Γκάβιν Νιούσομ, αναμένεται να τεθεί σε ισχύ την 1η Ιανουαρίου 2027.
Με πληροφορίες από euronews.com
