Καταδικασμένη να υποφέρει από “παραισθήσεις” η Τεχνητή Νοημοσύνη σύμφωνα με νέα έρευνα

Μια καινούργια έρευνα των Σουράβ Μπανερτζί, Αγιούσι Αγκαρβάλ, Σαλόνι Σίνγκλα αποδεικνύει πως η τεχνητή νοημοσύνη αναπόφευκτα θα έχει παραισθήσεις λόγω θεμελιωδών μαθηματικών και λογικών περιορισμών.

Ως ψευδαίσθηση ορίζεται στον χώρο της τεχνητής νοημοσύνης μια απάντηση που δημιουργείται από την τεχνητή νοημοσύνη και περιέχει ψευδείς ή παραπλανητικές πληροφορίες που παρουσιάζονται ως γεγονός.

Η έρευνα αποδεικνύει ότι οι ψευδαισθήσεις είναι δομικές και δεν μπορούν να εξαλειφθούν μέσω αναβαθμίσεων, βελτιώσεων του συνόλου δεδομένων ή μηχανισμών “fact checking”.

Η έρευνα αποδεικνύει ότι κάθε στάδιο επεξεργασίας από τη τεχνητή νοημοσύνη έχει πιθανότητα παραγωγής ψευδαισθήσεων. Παρουσιάζει αυτές τις αρχές χρησιμοποιώντας δημοφιλή προγράμματα τεχνητής νοημοσύνης (OpenAI/ChatGPT, Gemini/Google, Claude/Anthropic) σε μια συγκεκριμένη ερώτηση, δείχνοντας τις αποκλίσεις από τις αναμενόμενες απαντήσεις.

Πηγή AlphaSignal

ΠΡΟΗΓΟΥΜΕΝΟ ΑΡΘΡΟ

Η νέα τεχνητή νοημοσύνη που θα μας κάνει “λοβοτομή” – NotebookLM

ΕΠΟΜΕΝΟ ΑΡΘΡΟ

Η Καλιφόρνια τα βάζει με τη Τεχνητή Νοημοσύνη – Αφορμή αυτό το σατιρικό βίντεο κατά της Κάμαλα Χάρις