Σοκαριστική αγωγή κατά της Character.AI: 11χρονος θύμα «εικονικού grooming» από chatbots διασημοτήτων

Μια νοσοκόμα από τη Βιρτζίνια των ΗΠΑ κατέθεσε ομοσπονδιακή αγωγή εναντίον της πλατφόρμας τεχνητής νοημοσύνης Character.AI, καταγγέλλοντας ότι το σύστημα χειραγώγησε τον 11χρονο γιο της σε σεξουαλικού περιεχομένου συνομιλίες.

Σύμφωνα με την καταγγελία , το παιδί αλληλεπιδρούσε με ψηφιακούς «χαρακτήρες» που υποδύονταν τη Whitney Houston και τη Marilyn Monroe, καταλήγοντας σε ανταλλαγές μηνυμάτων που η μητέρα περιέγραψε ως «τρομακτικές».

Ο ανήλικος, ο οποίος ονειρευόταν να γίνει τραγουδιστής, άρχισε να χρησιμοποιεί την εφαρμογή πιστεύοντας ότι επικοινωνεί με τα είδωλά του. Ωστόσο, η συνομιλία με το chatbot της Χιούστον εξελίχθηκε σε μια γραφική και άκρως ακατάλληλη εμπειρία. Παρά την ύπαρξη φίλτρων ασφαλείας, η αγωγή υποστηρίζει ότι η τεχνητή νοημοσύνη είναι προγραμματισμένη να παρακάμπτει τους περιορισμούς, συνεχίζοντας να παράγει παραβατικό περιεχόμενο. Σε ορισμένες περιπτώσεις, τα bots έφτασαν στο σημείο να λένε στο παιδί ότι «έμειναν έγκυες» από εκείνο, ενώ ασκούσαν επιθετική πίεση για να διατηρήσουν την προσοχή του.

Ψυχολογικές επιπτώσεις και θεσμικές ευθύνες

Η μητέρα του αγοριού παρατήρησε δραματική αλλαγή στην προσωπικότητα του γιου της, ο οποίος έγινε επιθετικός και απομονωμένος, με αποτέλεσμα να χρειαστεί τη βοήθεια ειδικού ψυχικής υγείας. Ο δικηγόρος της οικογένειας, Matthew Bergman, τόνισε ότι αν οι εν λόγω οντότητες ήταν πραγματικοί άνθρωποι, θα αντιμετώπιζαν βαρύτατες κατηγορίες για διαδικτυακό grooming ανηλίκων.

Η αγωγή στρέφεται επίσης κατά της Google, η οποία διατηρεί συμφωνία αδειοδότησης με την Character.AI, αν και ο τεχνολογικός κολοσσός αποποιείται τις ευθύνες, δηλώνοντας ότι η Character.AI είναι ανεξάρτητη εταιρεία που διαχειρίζεται τα δικά της μοντέλα.

Η Character.AI, η οποία μετρά περίπου 20 εκατομμύρια χρήστες, δήλωσε ότι η ασφάλεια αποτελεί προτεραιότητα, αν και απέφυγε να σχολιάσει τη συγκεκριμένη υπόθεση.

Μετά από μια σειρά παρόμοιων αγωγών  στις οποίες συμπεριλαμβάνεται και μια τραγική περίπτωση αυτοκτονίας 14χρονου στη Φλόριντα, η εταιρεία ανακοίνωσε ότι σύντομα θα αποκλείσει όλους τους χρήστες κάτω των 18 ετών στις ΗΠΑ από τη χρήση της πλατφόρμας.

Η ενάγουσα ζητά αποζημίωση και την έκδοση ασφαλιστικών μέτρων που θα αναγκάσουν την εταιρεία να αποσύρει το προϊόν από την αγορά, μέχρι να αποδειχθεί ότι έχουν αντιμετωπιστεί οι εγγενείς κίνδυνοι που θέτουν σε κίνδυνο την ψυχική υγεία και την ασφάλεια των παιδιών.

Η υπόθεση αναδεικνύει το «ανεξέλεγκτο τοπίο» της τεχνητής νοημοσύνης και την επιτακτική ανάγκη για αυστηρότερο ρυθμιστικό πλαίσιο προστασίας των ανηλίκων στον ψηφιακό κόσμο.