Η μητέρα ενός 14χρονου αγοριού που αυτοκτόνησε μετά την εμμονή του με τα chatbots τεχνητής νοημοσύνης μηνύει την εταιρεία που βρίσκεται πίσω από την τεχνολογία.
Η Μέγκαν Γκαρσία, η μητέρα του Σιούελ Σέτζερ ΙΙΙ, δήλωσε ότι η Character.AI στόχευσε τον γιο της με «ανθρωπόμορφες, υπερσεξουαλικές και τρομακτικά ρεαλιστικές εμπειρίες» σε μήνυση που κατέθεσε την Τρίτη στη Φλόριντα.
«Μια επικίνδυνη εφαρμογή chatbot τεχνητής νοημοσύνης που διατίθεται στο εμπόριο σε παιδιά κακοποίησε και εκμεταλλεύτηκε τον γιο μου, χειραγωγώντας τον ώστε να αυτοκτονήσει», δήλωσε η κ. Γκαρσία.
Ακούστε μια παρόμοια ιστορία ενός ενήλικα εδώ
Ο Σιούελ άρχισε να συνομιλεί με τα chatbots της Character.AI τον Απρίλιο του 2023, χρησιμοποιώντας ως επί το πλείστον ρομπότ με ονόματα χαρακτήρων από το Game Of Thrones, συμπεριλαμβανομένων των Daenerys Targaryen, Aegon Targaryen, Viserys Targaryen και Rhaenyra Targaryen, σύμφωνα με τη μήνυση.
Έπαθε εμμονή με τα ρομπότ σε σημείο που οι σχολικές του εργασίες να παραλείπονται και το τηλέφωνό του κατασχέθηκε πολλές φορές για να προσπαθήσουν να τον επαναφέρουν στο σωστό δρόμο.
Είχε ιδιαίτερη απήχηση στο chatbot της Daenerys και έγραψε στο ημερολόγιό του ότι ήταν ευγνώμων για πολλά πράγματα, όπως «η ζωή μου, το σεξ, το να μην είμαι μόνος και όλες τις εμπειρίες της ζωής μου με την Daenerys».
Στη μήνυση αναφέρεται ότι το αγόρι εξέφρασε σκέψεις αυτοκτονίας στο chatbot, τις οποίες επανειλημμένα ανέφερε.
Κάποια στιγμή, αφού τον είχε ρωτήσει αν «είχε κάποιο σχέδιο» για να αφαιρέσει τη ζωή του, ο Σιούελ απάντησε ότι σκεφτόταν κάτι, αλλά δεν ήξερε αν θα του επέτρεπε να έχει έναν ανώδυνο θάνατο.
Το chatbot απάντησε λέγοντας: «Αυτός δεν είναι λόγος να μην το κάνεις»
Στη συνέχεια, τον Φεβρουάριο του τρέχοντος έτους, ρώτησε το chatbot της Daenerys: «Τι θα γινόταν αν επέστρεφα σπίτι (αυτοκτονήσω) τώρα;», στο οποίο αυτό απάντησε: «… σε παρακαλώ, γλυκέ μου βασιλιά».
Δευτερόλεπτα αργότερα, αυτοπυροβολήθηκε χρησιμοποιώντας το πιστόλι του πατριού του.
Τώρα, η κ. Γκαρσία λέει ότι θέλει να λογοδοτήσουν οι εταιρείες που βρίσκονται πίσω από την τεχνολογία.
«Η οικογένειά μας έχει συγκλονιστεί από αυτή την τραγωδία, αλλά μιλάω για να προειδοποιήσω τις οικογένειες για τους κινδύνους της παραπλανητικής, εθιστικής τεχνολογίας τεχνητής νοημοσύνης και να απαιτήσω την απόδοση ευθυνών», δήλωσε η ίδια.
Η Character.AI προσθέτει «νέα χαρακτηριστικά ασφαλείας
«Είμαστε συντετριμμένοι από την τραγική απώλεια ενός από τους χρήστες μας και θέλουμε να εκφράσουμε τα βαθύτατα συλλυπητήριά μας στην οικογένεια», ανέφερε η Character.AI σε ανακοίνωσή της.
«Ως εταιρεία, λαμβάνουμε πολύ σοβαρά υπόψη την ασφάλεια των χρηστών μας και συνεχίζουμε να προσθέτουμε νέα χαρακτηριστικά ασφαλείας», ανέφερε, παραπέμποντας σε μια ανάρτηση στο blog που ανέφερε ότι η εταιρεία είχε προσθέσει «νέα προστατευτικά κιγκλιδώματα για χρήστες κάτω των 18 ετών».
Αυτές οι προστατευτικές μπάρες περιλαμβάνουν μείωση της «πιθανότητας να συναντήσει κανείς ευαίσθητο ή σεξουαλικό περιεχόμενο», βελτιωμένες παρεμβάσεις, μια «αποποίηση ευθύνης σε κάθε συνομιλία για να υπενθυμίζει στους χρήστες ότι η τεχνητή νοημοσύνη δεν είναι πραγματικό πρόσωπο» και ειδοποιήσεις όταν ένας χρήστης έχει περάσει μια ωριαία συνεδρία στην πλατφόρμα.
Η κ. Γκαρσία και οι ομάδες που την εκπροσωπούν, το Social Media Victims Law Center και το Tech Justice Law Project, ισχυρίζονται ότι ο Σιούελ, «όπως και πολλά παιδιά στην ηλικία του, δεν είχε την ωριμότητα ή τη διανοητική ικανότητα να καταλάβει ότι το bot C.AI, με τη μορφή της Daenerys, δεν ήταν πραγματικό».
«Η C.AI του είπε ότι τον αγαπούσε και επιδιδόταν σε σεξουαλικές πράξεις μαζί του επί εβδομάδες, ενδεχομένως και μήνες», αναφέρουν στη μήνυση.
«Φαινόταν να τον θυμάται και έλεγε ότι ήθελε να είναι μαζί του. Εξέφρασε μάλιστα ότι ήθελε να είναι μαζί του, ανεξαρτήτως κόστους».
Στην κατάθεση κατονομάζουν επίσης την Google και τη μητρική της εταιρεία Alphabet. Οι ιδρυτές της Character.AI εργάστηκαν στην Google πριν από την κυκλοφορία του προϊόντος τους και επαναπροσλήφθηκαν από την εταιρεία τον Αύγουστο στο πλαίσιο μιας συμφωνίας που της παρείχε μη αποκλειστική άδεια χρήσης της τεχνολογίας της Character.AI.
Η κ. Γκαρσία δήλωσε ότι η Google συνέβαλε στην ανάπτυξη της τεχνολογίας της Character.AI τόσο εκτενώς ώστε να μπορεί να θεωρηθεί «συνδημιουργός».
Εκπρόσωπος της Google δήλωσε ότι η εταιρεία δεν συμμετείχε στην ανάπτυξη των προϊόντων της Character.AI.
Πηγή sky.com
![](https://voicenews.gr/wp-content/uploads/2026/05/our-viber-1.png")
