Η νέα AI αναζήτηση της Google δυσκολεύεται ακόμη και σε πολύ απλές ερωτήσεις, δίνοντας λανθασμένες απαντήσεις σε βασικά τεστ ορθογραφίας και καταμέτρησης γραμμάτων.
Χρήστες που ρώτησαν το AI Overview της Google πόσα γράμματα «p» υπάρχουν στη λέξη «Google» έλαβαν την απάντηση ότι υπάρχουν δύο.
Σε άλλες περιπτώσεις, το σύστημα υποστήριξε ότι η λέξη «poop» περιέχει μόνο ένα γράμμα «r», ενώ αντί για «journalism» έγραψε λανθασμένα «j-o-u-r-n-a-d-i-s-m», όπως αναφέρει η τεχνολογική ιστοσελίδα TechCrunch.
Ένα παλιό πρόβλημα των AI μοντέλων
Τα λάθη μπορεί να φαίνονται αστεία, όμως ειδικοί σημειώνουν ότι αποκαλύπτουν ένα γνωστό τεχνικό πρόβλημα των μεγάλων γλωσσικών μοντέλων τεχνητής νοημοσύνης.
Η Google παραδέχθηκε ότι τα μοντέλα AI εξακολουθούν να δυσκολεύονται στην καταμέτρηση γραμμάτων μέσα σε λέξεις και δήλωσε ότι εργάζεται πάνω σε λύσεις.
Το πρόβλημα δεν αφορά μόνο την Google. Εδώ και χρόνια, ερευνητές και χρήστες χρησιμοποιούν ερωτήσεις όπως «πόσα “r” έχει η λέξη strawberry;» για να δείξουν τους περιορισμούς των AI chatbot.
Παρότι τα ίδια συστήματα μπορούν να γράψουν κώδικα ή να λύσουν πολύπλοκα προβλήματα, συχνά αποτυγχάνουν σε βασικές γλωσσικές εργασίες.
Γιατί η AI κάνει τόσο απλά λάθη
Σύμφωνα με ειδικούς, τα μεγάλα γλωσσικά μοντέλα δεν «διαβάζουν» τις λέξεις όπως οι άνθρωποι. Αντί να επεξεργάζονται κάθε γράμμα ξεχωριστά, μετατρέπουν το κείμενο σε αριθμητικές μονάδες που ονομάζονται «tokens».
Έτσι, ένα μοντέλο μπορεί να αναγνωρίζει τη λέξη «Google» ως ενιαία πληροφορία χωρίς να κατανοεί απαραίτητα από ποια γράμματα αποτελείται.
Ερευνητές σημειώνουν ότι αυτός ο τρόπος λειτουργίας δυσκολεύει ιδιαίτερα την ορθογραφία και την ακριβή καταμέτρηση γραμμάτων.
Παρότι τα συγκεκριμένα λάθη δεν θεωρούνται σοβαρό τεχνικό πρόβλημα, αρκετοί ερευνητές εκτιμούν ότι λειτουργούν ως υπενθύμιση πως οι απαντήσεις της AI δεν πρέπει να αντιμετωπίζονται ως αλάνθαστες.
Η Google είχε αντιμετωπίσει αντίστοιχα προβλήματα και κατά την πρώτη παρουσίαση των AI Overviews στην αναζήτηση πέρυσι.
Τότε, το σύστημα είχε γίνει viral επειδή εμφάνιζε σατιρικές ή λανθασμένες απαντήσεις ως αξιόπιστες πληροφορίες, προτείνοντας μεταξύ άλλων στους χρήστες να βάζουν κόλλα στην πίτσα τους ή να τρώνε πέτρες.
Πιο πρόσφατα, η εταιρεία αναγκάστηκε να διορθώσει ακόμη ένα πρόβλημα όταν η AI αναζήτηση, αντί να εμφανίζει τον ορισμό της λέξης «disregard», απαντούσε σαν να δεχόταν εντολή από τον χρήστη.
«Η AI δεν καταλαβαίνει πραγματικά τις λέξεις»
Ερευνητές τεχνητής νοημοσύνης εξηγούν ότι το πρόβλημα συνδέεται με τον τρόπο που έχουν σχεδιαστεί τα μεγάλα γλωσσικά μοντέλα.
Ο Matthew Guzdial, ερευνητής AI στο Πανεπιστήμιο της Αλμπέρτα, δήλωσε ότι τα μοντέλα δεν «βλέπουν» τις λέξεις ως ακολουθίες γραμμάτων.
«Όταν ένα μοντέλο συναντά τη λέξη “the”, δεν γνωρίζει απαραίτητα τα γράμματα T-H-E. Αναγνωρίζει απλώς ένα μοτίβο πληροφορίας», εξήγησε.
Άλλοι ειδικοί σημειώνουν ότι τα συστήματα AI «σπάνε» το κείμενο σε μικρότερα κομμάτια πληροφορίας, κάτι που τα βοηθά σε πολύπλοκες εργασίες αλλά τα δυσκολεύει σε λεπτομέρειες όπως η ορθογραφία ή η καταμέτρηση γραμμάτων.
Οι ειδικοί τονίζουν ότι οι χρήστες εξακολουθούν να χρειάζεται να ελέγχουν την ακρίβεια των απαντήσεων, ακόμη και όταν προέρχονται από μεγάλα και προηγμένα συστήματα τεχνητής νοημοσύνης.
Με πληροφορίες από TechCrunch
