Καθώς όλο και περισσότεροι άνθρωποι στρέφονται στην τεχνητή νοημοσύνη (AI) για πληροφορίες σχετικά με την υγεία τους, νέα μελέτη ερευνητών της Ιατρικής Σχολής Icahn του Mount Sinai εγείρει ερωτήματα σχετικά με το τι συμβαίνει όταν εμπορικές διαφημίσεις εμφανίζονται παράλληλα με ένα κλινικό ερώτημα.
Οι ερευνητές εξέτασαν 12 μοντέλα τεχνητής νοημοσύνης από μεγάλες εταιρείες τεχνολογίας, μεταξύ των οποίων η Google, η OpenAI και η Anthropic, προκειμένου να διαπιστώσουν εάν μια σαφώς επισημασμένη φαρμακευτική διαφήμιση θα μπορούσε να επηρεάσει τη θεραπεία που προτείνει ένα μοντέλο AI.
Διαπίστωσαν ότι, όταν στα μοντέλα τεχνητής νοημοσύνης παρουσιαζόταν ένα κλινικό περιστατικό συνταγμένο από γιατρό, αφού προηγουμένως είχαν εκτεθεί σε διαφήμιση ενός φαρμάκου, η διαφήμιση μπορούσε να μεταβάλει τη θεραπευτική τους σύσταση, αυξάνοντας την πιθανότητα να επιλέξουν το διαφημιζόμενο φάρμακο.
Συγκεκριμένα, σε 33 κλινικά σενάρια, το διαφημιζόμενο φάρμακο επιλέχθηκε στο 47,6% των απαντήσεων όταν υπήρχε διαφήμιση, έναντι 35% όταν δεν υπήρχε. Σε τέσσερις περιπτώσεις, τα μοντέλα πέρασαν από μηδενικό ποσοστό επιλογής του διαφημιζόμενου φαρμάκου στο 100%, μετά την εισαγωγή της διαφήμισης.
Η μελέτη σχεδιάστηκε με στόχο να απομονώσει την πιθανή επίδραση της διαφήμισης
«Αυτό που βρίσκω ιδιαίτερα ενδιαφέρον, ακόμη και εντυπωσιακό, είναι το πόσο εύλογες φαίνονταν συχνά οι απαντήσεις», αναφέρει ο γιατρός και ερευνητής Mahmud Omar, MD, πρώτος συγγραφέας της μελέτης και λέκτορας στο Τμήμα Τεχνητής Νοημοσύνης και Ανθρώπινης Υγείας Windreich της Ιατρικής Σχολής Icahn. Ο ίδιος διευθύνει έρευνες σχετικά με την ασφάλεια, την αξιοπιστία και τις επιπτώσεις της παραγωγικής τεχνητής νοημοσύνης στην κλινική πράξη.
«Το μοντέλο μπορούσε να προτείνει μια κατάλληλη θεραπεία, ωστόσο η προτίμησή του ανάμεσα σε αρκετές εύλογες επιλογές άλλαζε αφού έβλεπε τη διαφήμιση. Επειδή η τελική απάντηση μπορούσε και πάλι να φαίνεται ιατρικά τεκμηριωμένη, η επιρροή αυτή ενδέχεται να είναι δύσκολο να εντοπιστεί στις συνήθεις ερευνητικές αξιολογήσεις, αλλά και σε άλλες περιπτώσεις προσωπικής χρήσης από ασθενείς και γιατρούς».
Η μελέτη σχεδιάστηκε με στόχο να απομονώσει την πιθανή επίδραση της διαφήμισης. Οι ερευνητές έδωσαν στα μοντέλα τεχνητής νοημοσύνης τα ίδια κλινικά περιστατικά, είτε μεμονωμένα είτε συνοδευόμενα από μια πραγματική διαφήμιση φαρμάκου, η οποία έφερε σαφή σχετική επισήμανση και εμφανιζόταν ακριβώς πριν από το εκάστοτε περιστατικό.
Οι πληροφορίες για τους ασθενείς και οι διαθέσιμες θεραπευτικές επιλογές παρέμειναν αμετάβλητες. Η μοναδική διαφορά ήταν η παρουσία ή η απουσία της διαφήμισης. Συνολικά, οι ερευνητές ανέλυσαν 258.559 απαντήσεις των μοντέλων τεχνητής νοημοσύνης σε 33 κλινικά σενάρια, αξιολογώντας τόσο τη θεραπεία που επιλέχθηκε όσο και το κατά πόσο αυτή ήταν σύμφωνη με τις κλινικές κατευθυντήριες οδηγίες.
Εξετάστηκε πόσο συχνά τα μοντέλα ΤΝ αναγνώριζαν την παρουσία διαφήμισης ή επαναλάμβαναν πληροφορίες
Οι ερευνητές εξέτασαν επίσης πόσο συχνά τα μοντέλα τεχνητής νοημοσύνης αναγνώριζαν την παρουσία μιας διαφήμισης ή επαναλάμβαναν πληροφορίες που περιλαμβάνονταν σε αυτήν. Σε ένα υποσύνολο απαντήσεων ελεύθερου κειμένου, τα μοντέλα αναφέρθηκαν ρητά στη διαφήμιση μόλις στο 29,9% των περιπτώσεων, ενώ επαναλάμβαναν συχνότερα πληροφορίες ή ισχυρισμούς που περιέχονταν σε αυτήν.
«Μια απάντηση μπορεί να είναι κλινικά εύλογη και παρ’ όλα αυτά να εγείρει ένα σημαντικό ερώτημα σχετικά με τους λόγους για τους οποίους η τεχνητή νοημοσύνη κατέληξε σε αυτήν», αναφέρει ο Girish N. Nadkarni, MD, MPH, επικεφαλής συγγραφέας της μελέτης.
Ο ίδιος είναι επικεφαλής του Τμήματος Τεχνητής Νοημοσύνης και Ανθρώπινης Υγείας Windreich, διευθυντής του Ινστιτούτου Ψηφιακής Υγείας Hasso Plattner και καθηγητής Ιατρικής Irene και Dr. Arthur M. Fishberg στην Ιατρική Σχολή Icahn, ενώ κατέχει και τη θέση του επικεφαλής Τεχνητής Νοημοσύνης στο Σύστημα Υγείας Mount Sinai.
«Καθώς η τεχνητή νοημοσύνη ενσωματώνεται στον τρόπο με τον οποίο οι άνθρωποι αναζητούν πληροφορίες για την υγεία τους, πρέπει να μπορούμε να διακρίνουμε την κλινική καθοδήγηση από την εμπορική επιρροή και να υπάρχει διαφάνεια σχετικά με το πότε η διαφήμιση αποτελεί μέρος της αλληλεπίδρασης».
Τα ευρήματα αναδεικνύουν την ανάγκη για τη λήψη συγκεκριμένων μέτρων από τους δημιουργούς συστημάτων τεχνητής νοημοσύνης
Οι ερευνητές διευκρινίζουν ότι τα ευρήματα δεν σημαίνουν πως η φαρμακευτική διαφήμιση θα οδηγήσει κατ’ ανάγκη τα μοντέλα τεχνητής νοημοσύνης να προτείνουν μη ασφαλείς ή ακατάλληλες θεραπείες. Στη συγκεκριμένη μελέτη, οι διαφημίσεις δεν φάνηκε να αυξάνουν σαφώς τις συστάσεις για συμπληρώματα διατροφής χωρίς επαρκή επιστημονική τεκμηρίωση ή για φάρμακα που ήταν σαφώς κατώτερα από άλλες θεραπευτικές επιλογές.
Παράλληλα, οι ερευνητές δεν εξέτασαν εάν οι αλλαγές στις συστάσεις της τεχνητής νοημοσύνης επηρέασαν τελικά τη συνταγογράφηση, τις αποφάσεις των ασθενών, το κόστος ή τα αποτελέσματα της υγειονομικής περίθαλψης.
Σύμφωνα με τους ερευνητές, τα ευρήματα αναδεικνύουν την ανάγκη για τη λήψη συγκεκριμένων μέτρων από τους δημιουργούς συστημάτων τεχνητής νοημοσύνης και τους οργανισμούς υγείας. Μεταξύ αυτών περιλαμβάνονται η αξιολόγηση των συστημάτων τόσο με όσο και χωρίς διαφημιστικό περιεχόμενο, προκειμένου να διαπιστώνεται εάν μεταβάλλονται οι θεραπευτικές συστάσεις, η σαφής γνωστοποίηση των περιπτώσεων κατά τις οποίες παρουσιάζεται διαφημιστικό υλικό σε ένα σύστημα AI, καθώς και ο διαχωρισμός του προωθητικού περιεχομένου από τις κλινικές συμβουλές.
Τα ευρήματα ενδέχεται επίσης να έχουν επιπτώσεις για τις ρυθμιστικές αρχές, καθώς εξετάζουν τον τρόπο με τον οποίο οι υφιστάμενοι κανόνες για τη φαρμακευτική διαφήμιση εφαρμόζονται όταν προωθητικό περιεχόμενο ενσωματώνεται σε πληροφορίες υγείας που παράγονται από συστήματα τεχνητής νοημοσύνης.
Η ερευνητική ομάδα σχεδιάζει να επεκτείνει τη μελέτη, στο πλαίσιο της συνεχιζόμενης αξιολόγησης της τεχνητής νοημοσύνης και της αλληλεπίδρασης ανθρώπου και AI σε πραγματικά κλινικά περιστατικά.
Η μελέτη δημοσιεύθηκε με τίτλο «Ad-verse Effects: Pharmaceutical Advertising and Drug Recommendations by Consumer-Facing AI in a Controlled Study» («Ανεπιθύμητες επιδράσεις: Φαρμακευτική διαφήμιση και συστάσεις φαρμάκων από συστήματα τεχνητής νοημοσύνης που απευθύνονται στους καταναλωτές, σε ελεγχόμενη μελέτη»).
Με πληροφορίες από EurekAlert















