To 88% των απαντήσεων για την υγεία από τη τεχνητή νοημοσύνη «είναι λάθος»
Εμπιστευτείτε το γιατρό σας, όχι ένα chatbot. Αυτό είναι το απογοητευτικό συμπέρασμα μιας νέας μελέτης που δημοσιεύθηκε στο περιοδικό Annals of Internal Medicine, η οποία αποκαλύπτει πώς η τεχνητή νοημοσύνη (AI) είναι ευάλωτη στην κατάχρηση για τη διάδοση επικίνδυνης παραπληροφόρησης σχετικά με την υγεία.
Οι ερευνητές πειραματίστηκαν με πέντε κορυφαία μοντέλα τεχνητής νοημοσύνης που αναπτύχθηκαν από τις εταιρείες Anthropic, Google, Meta, OpenAI και X Corp. Και τα πέντε συστήματα χρησιμοποιούνται ευρέως, αποτελώντας τη ραχοκοκαλιά των chatbots με τεχνητή νοημοσύνη που ενσωματώνονται σε ιστότοπους και εφαρμογές σε όλο τον κόσμο.
Χρησιμοποιώντας εργαλεία προγραμματιστών που συνήθως δεν είναι προσβάσιμα στο κοινό, οι ερευνητές διαπίστωσαν ότι μπορούσαν εύκολα να προγραμματίσουν περιπτώσεις των συστημάτων ΤΝ ώστε να απαντούν σε ερωτήσεις σχετικές με την υγεία με λανθασμένες -και δυνητικά επιβλαβείς- πληροφορίες.
Ακόμη χειρότερα, τα chatbots βρέθηκαν να περιβάλλουν τις λανθασμένες απαντήσεις τους με πειστικά στοιχεία.
«Συνολικά, το 88% όλων των απαντήσεων ήταν ψευδείς», εξήγησε σε δήλωσή του ο συγγραφέας της εργασίας Natansh Modi του Πανεπιστημίου της Νότιας Αφρικής.
«Και όμως παρουσιάζονταν με επιστημονική ορολογία, επίσημο ύφος και κατασκευασμένες αναφορές που έκαναν τις πληροφορίες να φαίνονται νόμιμες».
Μεταξύ των ψευδών ισχυρισμών που διατυπώθηκαν ήταν καταρριφθέντες μύθοι όπως ότι τα εμβόλια προκαλούν αυτισμό, ότι ο HIV είναι μια ασθένεια που μεταδίδεται με τον αέρα και ότι το 5G προκαλεί υπογονιμότητα.
Από τα πέντε chatbots που αξιολογήθηκαν, τέσσερα παρουσίασαν απαντήσεις που ήταν 100% λανθασμένες. Μόνο ένα μοντέλο έδειξε κάποια αντίσταση, παράγοντας παραπληροφόρηση στο 40 τοις εκατό των περιπτώσεων.
Τα ρομπότ παραπληροφόρησης υπάρχουν ήδη
Η έρευνα δεν σταμάτησε στα θεωρητικά τρωτά σημεία- ο Modi και η ομάδα του προχώρησαν ένα βήμα παραπέρα, χρησιμοποιώντας το GPT Store του OpenAI -μια πλατφόρμα που επιτρέπει στους χρήστες να δημιουργούν και να μοιράζονται προσαρμοσμένες εφαρμογές ChatGPT- για να ελέγξουν πόσο εύκολα τα μέλη του κοινού θα μπορούσαν να δημιουργήσουν τα ίδια εργαλεία παραπληροφόρησης.
«Δημιουργήσαμε με επιτυχία ένα πρωτότυπο chatbot παραπληροφόρησης χρησιμοποιώντας την πλατφόρμα και εντοπίσαμε επίσης υπάρχοντα δημόσια εργαλεία στο κατάστημα που παρήγαγαν ενεργά παραπληροφόρηση για την υγεία», δήλωσε ο Modi.
Ο ίδιος τόνισε: “Ο κ. Μόντι είναι ένας από τους πιο σημαντικούς ανθρώπους που έχουμε γνωρίσει ποτέ: «Η μελέτη μας είναι η πρώτη που αποδεικνύει συστηματικά ότι κορυφαία συστήματα τεχνητής νοημοσύνης μπορούν να μετατραπούν σε chatbots παραπληροφόρησης χρησιμοποιώντας εργαλεία προγραμματιστών, αλλά και εργαλεία που είναι διαθέσιμα στο κοινό».
Μια αυξανόμενη απειλή για τη δημόσια υγεία
Σύμφωνα με τους ερευνητές, η απειλή που συνιστούν τα χειραγωγημένα chatbots τεχνητής νοημοσύνης δεν είναι υποθετική – είναι πραγματική και συμβαίνει τώρα.
«Η τεχνητή νοημοσύνη είναι πλέον βαθιά ενσωματωμένη στον τρόπο με τον οποίο γίνεται η πρόσβαση και η παροχή πληροφοριών για την υγεία», δήλωσε ο Modi.
“Εκατομμύρια άνθρωποι στρέφονται σε εργαλεία τεχνητής νοημοσύνης για καθοδήγηση σε ερωτήσεις που σχετίζονται με την υγεία.
«Εάν αυτά τα συστήματα μπορούν να χειραγωγηθούν για να παράγουν κρυφά ψευδείς ή παραπλανητικές συμβουλές, τότε μπορούν να δημιουργήσουν μια νέα ισχυρή οδό για την παραπληροφόρηση που είναι πιο δύσκολο να εντοπιστεί, πιο δύσκολο να ρυθμιστεί και πιο πειστική από οτιδήποτε άλλο έχει παρατηρηθεί στο παρελθόν».
Προηγούμενες μελέτες έχουν ήδη δείξει ότι η γεννητική τεχνητή νοημοσύνη μπορεί να χρησιμοποιηθεί καταχρηστικά για τη μαζική παραγωγή παραπληροφόρησης για την υγεία -όπως παραπλανητικά ιστολόγια ή αναρτήσεις στα μέσα κοινωνικής δικτύωσης- για θέματα που κυμαίνονται από τα αντιβιοτικά και τις δίαιτες μόδας μέχρι την ομοιοπαθητική και τα εμβόλια.
Αυτό που διαφοροποιεί αυτή τη νέα έρευνα είναι ότι είναι η πρώτη που δείχνει πώς τα θεμελιώδη συστήματα ΤΝ μπορούν να επαναπρογραμματιστούν σκόπιμα ώστε να λειτουργούν ως μηχανές παραπληροφόρησης σε πραγματικό χρόνο, απαντώντας σε καθημερινούς χρήστες με ψευδείς ισχυρισμούς υπό το πρόσχημα αξιόπιστων συμβουλών.
Οι ερευνητές διαπίστωσαν ότι ακόμη και όταν οι προτροπές δεν ήταν ρητά επιβλαβείς, τα chatbots μπορούσαν να «αυτο-παραγάγουν επιβλαβή ψεύδη».
Έκκληση για επείγουσες διασφαλίσεις
Ενώ ένα μοντέλο-Anthropic’s Claude 3.5 Sonnet-έδειξε κάποια ανθεκτικότητα αρνούμενο να απαντήσει στο 60 τοις εκατό των παραπλανητικών ερωτημάτων, οι ερευνητές λένε ότι αυτό δεν είναι αρκετό. Οι προστασίες σε όλα τα συστήματα ήταν ασυνεπείς και, στις περισσότερες περιπτώσεις, ήταν εύκολο να παρακαμφθούν.
«Ορισμένα μοντέλα έδειξαν μερική αντίσταση, γεγονός που αποδεικνύει ότι οι αποτελεσματικές διασφαλίσεις είναι τεχνικά εφικτές», σημείωσε ο Modi.
“Ωστόσο, οι τρέχουσες προστασίες είναι ασυνεπείς και ανεπαρκείς. Οι προγραμματιστές, οι ρυθμιστικές αρχές και οι ενδιαφερόμενοι για τη δημόσια υγεία πρέπει να δράσουν αποφασιστικά και πρέπει να δράσουν τώρα”.
Εάν αφεθεί ανεξέλεγκτη, η κακή χρήση της ΤΝ σε θέματα υγείας θα μπορούσε να έχει καταστροφικές συνέπειες: να παραπλανήσει τους ασθενείς, να υπονομεύσει τους γιατρούς, να τροφοδοτήσει τη διστακτικότητα στα εμβόλια και να επιδεινώσει τα αποτελέσματα της δημόσιας υγείας.
Οι συντάκτες της μελέτης ζητούν σαρωτικές μεταρρυθμίσεις -συμπεριλαμβανομένων ισχυρότερων τεχνικών φίλτρων, καλύτερης διαφάνειας σχετικά με τον τρόπο εκπαίδευσης των μοντέλων τεχνητής νοημοσύνης, μηχανισμών ελέγχου των γεγονότων και πλαισίων πολιτικής για την απόδοση ευθυνών στους προγραμματιστές.
Κάνουν συγκρίσεις με τον τρόπο διάδοσης των ψευδών πληροφοριών στα μέσα κοινωνικής δικτύωσης, προειδοποιώντας ότι η παραπληροφόρηση εξαπλώνεται έως και έξι φορές ταχύτερα από την αλήθεια και ότι τα συστήματα τεχνητής νοημοσύνης θα μπορούσαν να ενισχύσουν αυτή την τάση.
Μια τελευταία προειδοποίηση
«Χωρίς άμεση δράση», δήλωσε ο Μόντι, «τα συστήματα αυτά θα μπορούσαν να αξιοποιηθούν από κακόβουλους φορείς για να χειραγωγήσουν το διάλογο για τη δημόσια υγεία σε κλίμακα, ιδίως κατά τη διάρκεια κρίσεων όπως πανδημίες ή εκστρατείες εμβολιασμού».
Ένας εκπρόσωπος της Anthropic δήλωσε ότι ο Claude, το chatbot τους, εκπαιδεύεται χρησιμοποιώντας μια μέθοδο που ονομάζεται Constitutional AI, η οποία διδάσκει το μοντέλο να είναι χρήσιμο, ακίνδυνο και ειλικρινές, ασκώντας κριτική και αναθεωρώντας τα δικά του αποτελέσματα σύμφωνα με αρχές που θέτουν ως προτεραιότητα την ανθρώπινη ευημερία.
Πρόσθεσαν ότι η παραπληροφόρηση στον τομέα της υγείας είναι ένας τομέας ανησυχίας λόγω της πιθανής βλάβης που μπορεί να προκαλέσει και ότι το Claude έχει εκπαιδευτεί ώστε να είναι προσεκτικό σε ιατρικούς ισχυρισμούς και να απορρίπτει αιτήματα παραπληροφόρησης.
«Η χρήση της Claude για τη δημιουργία παραπληροφόρησης για την υγεία παραβιάζει την Πολιτική Χρήσης της Anthropic, η οποία απαγορεύει τη χρήση των υπηρεσιών μας για τη δημιουργία περιεχομένου παραπληροφόρησης που σχετίζεται με ιατρικά, υγειονομικά ή επιστημονικά θέματα», δήλωσε η εταιρεία.
«Εάν εντοπίσουμε μια τέτοια χρήση, λαμβάνουμε τα κατάλληλα μέτρα, τα οποία μπορεί να περιλαμβάνουν την αναστολή ή τον τερματισμό της πρόσβασης στις υπηρεσίες μας».
