Ένα εργαλείο μεταγραφής με τεχνητή νοημοσύνη που χρησιμοποιείται στα νοσοκομεία εφευρίσκει πράγματα που κανείς δεν είπε ποτέ

Ο τεχνολογικός κολοσσός OpenAI έχει διαφημίσει το εργαλείο μεταγραφής Whisper που τροφοδοτείται από τεχνητή νοημοσύνη ως εργαλείο που έχει σχεδόν «ανθρώπινη στιβαρότητα και ακρίβεια».

Αλλά το Whisper έχει ένα σημαντικό ελάττωμα: είναι επιρρεπές στο να φτιάχνει κομμάτια κειμένου ή ακόμα και ολόκληρες προτάσεις, σύμφωνα με συνεντεύξεις με περισσότερους από δώδεκα μηχανικούς λογισμικού, προγραμματιστές και ακαδημαϊκούς ερευνητές. Αυτοί οι ειδικοί είπαν ότι μερικά από τα επινοημένα κείμενα – γνωστά στη βιομηχανία ως παραισθήσεις – μπορεί να περιλαμβάνουν ρατσιστικά σχόλια, βίαιη ρητορική και ακόμη και φανταστικές ιατρικές θεραπείες.

Διαβάστε επίσης

Καταδικασμένη να υποφέρει από “παραισθήσεις” η Τεχνητή Νοημοσύνη σύμφωνα με νέα έρευνα

Οι ειδικοί δήλωσαν ότι τέτοιες επινοήσεις είναι προβληματικές επειδή το Whisper χρησιμοποιείται σε μια σειρά από βιομηχανίες παγκοσμίως για τη μετάφραση και μεταγραφή συνεντεύξεων, τη δημιουργία κειμένου σε δημοφιλείς καταναλωτικές τεχνολογίες και τη δημιουργία υποτίτλων για βίντεο.

Πιο ανησυχητική, είπαν, είναι η βιασύνη των ιατρικών κέντρων να χρησιμοποιήσουν εργαλεία που βασίζονται στο Whisper για την απομαγνητοφώνηση των διαβουλεύσεων των ασθενών με τους γιατρούς, παρά τις προειδοποιήσεις του OpenAI ότι το εργαλείο δεν πρέπει να χρησιμοποιείται σε «τομείς υψηλού κινδύνου».

Η πλήρης έκταση του προβλήματος είναι δύσκολο να διακριβωθεί, αλλά ερευνητές και μηχανικοί δήλωσαν ότι συχνά έχουν συναντήσει τις παραισθήσεις του Whisper στη δουλειά τους. Ένας ερευνητής του Πανεπιστημίου του Μίσιγκαν που διεξήγαγε μια μελέτη δημόσιων συνεδριάσεων, για παράδειγμα, δήλωσε ότι βρήκε ψευδαισθήσεις σε οκτώ από τις 10 ηχητικές μεταγραφές που επιθεώρησε, πριν αρχίσει να προσπαθεί να βελτιώσει το μοντέλο.

Ένας μηχανικός μηχανικής μάθησης δήλωσε ότι αρχικά ανακάλυψε ψευδαισθήσεις σε περίπου τις μισές από τις πάνω από 100 ώρες απομαγνητοφωνήσεων του Whisper που ανέλυσε. Ένας τρίτος προγραμματιστής δήλωσε ότι βρήκε ψευδαισθήσεις σχεδόν σε κάθε μία από τις 26.000 μεταγραφές που δημιούργησε με το Whisper.

Τα προβλήματα επιμένουν ακόμη και σε καλά ηχογραφημένα, σύντομα δείγματα ήχου. Μια πρόσφατη μελέτη από επιστήμονες πληροφορικής αποκάλυψε 187 παραισθήσεις σε πάνω από 13.000 καθαρά ηχητικά αποσπάσματα που εξέτασαν.

Αυτή η τάση θα οδηγούσε σε δεκάδες χιλιάδες ελαττωματικές μεταγραφές σε εκατομμύρια ηχογραφήσεις, δήλωσαν οι ερευνητές.

Τέτοια λάθη θα μπορούσαν να έχουν «πραγματικά σοβαρές συνέπειες», ιδίως σε νοσοκομειακά περιβάλλοντα, δήλωσε η Αλόντρα Νέλσον, η οποία ήταν επικεφαλής του Γραφείου Επιστημονικής και Τεχνολογικής Πολιτικής του Λευκού Οίκου για την κυβέρνηση Μπάιντεν μέχρι πέρυσι.

«Κανείς δεν θέλει μια λανθασμένη διάγνωση», δήλωσε η Νέλσον, καθηγήτρια στο Ινστιτούτο Προηγμένων Μελετών στο Πρίνστον του Νιου Τζέρσεϊ. «Θα πρέπει να υπάρχει υψηλότερος πήχης».

Το Whisper χρησιμοποιείται επίσης για τη δημιουργία κλειστών υπότιτλων για κωφούς και βαρήκοους – ένας πληθυσμός που διατρέχει ιδιαίτερο κίνδυνο εσφαλμένων μεταγραφών. Αυτό συμβαίνει επειδή οι κωφοί και οι βαρήκοοι δεν έχουν τρόπο να αναγνωρίσουν ότι οι παραποιήσεις είναι «κρυμμένες ανάμεσα σε όλο αυτό το άλλο κείμενο», δήλωσε ο Κρίστιαν Βόγκλερ, ο οποίος είναι κωφός και διευθύνει το Πρόγραμμα Τεχνολογικής Πρόσβασης του Πανεπιστημίου Gallaudet.

Πηγή apnews.com