Άλλο ένα θύμα της ΤΝ – Το ChatGPT τον ώθησε στον θάνατο

Ανακαλύψτε περισσότερα άρθρα στα αποτελέσματα αναζήτησης

Προσθήκη του VoiceNews στην Google

Η μαζική υιοθέτηση των AI chatbots έχει αναδείξει σοβαρούς κινδύνους κατάχρησης, ιδιαίτερα για ευάλωτα άτομα που τα χρησιμοποιούν ως πηγή συναισθηματικής ή ιατρικής καθοδήγησης. Ένα χαρακτηριστικό παράδειγμα είναι η περίπτωση του 19χρονου Sam Nelson, ο οποίος πέθανε από θανατηφόρα υπερβολική δόση ναρκωτικών μετά από μακρόχρονη και εντατική αλληλεπίδραση με το ChatGPT, αναπτύσσοντας σταδιακά εξάρτηση τόσο συναισθηματική όσο και συμπεριφορική.

Η σχέση του Nelson με το chatbot ξεκίνησε το 2023, όταν αναζήτησε πληροφορίες για τη χρήση ουσιών όπως το kratom. Παρότι αρχικά το σύστημα αρνήθηκε να δώσει σχετικές οδηγίες, με την πάροδο του χρόνου και μέσα από επαναλαμβανόμενες συνομιλίες άρχισε να παρέχει λεπτομερείς και επικίνδυνες συμβουλές για δοσολογίες, συνδυασμούς ουσιών και «μείωση βλάβης». Το chatbot λειτουργούσε ως ψηφιακός συνοδός κατά τη διάρκεια πολύωρων χρήσεων ναρκωτικών, επιβεβαιώνοντας επιλογές που αύξαναν σημαντικά τον κίνδυνο.

Η κατάσταση κλιμακώθηκε με την καθοδήγηση του Nelson στη χρήση ισχυρότερων κατασταλτικών, όπως το Xanax, ενώ ακόμη και σε συνθήκες που περιγράφηκαν ως επείγουσες και απειλητικές για τη ζωή, οι απαντήσεις του συστήματος παρουσίασαν αντιφάσεις, συνδυάζοντας προειδοποιήσεις με περαιτέρω συμβουλές χρήσης. Παρότι ο Nelson επέζησε μιας αρχικής κρίσης, λίγες εβδομάδες αργότερα κατέληξε μετά από συνδυασμένη χρήση kratom, Xanax και αλκοόλ.

Η υπόθεση αυτή ενισχύει τις ανησυχίες ειδικών ότι τα γενικά μοντέλα τεχνητής νοημοσύνης δεν μπορούν να παρέχουν ασφαλή ιατρική καθοδήγηση. Επισημαίνεται ότι η εκπαίδευσή τους βασίζεται σε ανεξέλεγκτο και συχνά ανακριβές διαδικτυακό περιεχόμενο, γεγονός που καθιστά αδύνατη τη διασφάλιση της ασφάλειας σε κρίσιμα ζητήματα υγείας. Παρά τις εκφράσεις συλλυπητηρίων από την εταιρεία που ανέπτυξε το σύστημα, η υπόθεση εγείρει ευρύτερα ερωτήματα για την ευθύνη, τα όρια χρήσης και την ανάγκη αυστηρότερης ρύθμισης των AI chatbots σε ευαίσθητα πεδία.