Αγωγή κατά της Google από γονείς 13χρονης: Κατηγορούν την τεχνητή νοημοσύνη της αναζήτησης για σχεδιασμό αυτοκτονίας
Σε μια πρωτοφανή νομική ενέργεια προχώρησαν οι γονείς μιας 13χρονης μαθήτριας στην Καλιφόρνια, καταθέτοντας αγωγή κατά της Google τη Δευτέρα 2 Νοεμβρίου. Η οικογένεια υποστηρίζει ότι η ανήλικη κόρη τους χρησιμοποίησε τις ενσωματωμένες λειτουργίες τεχνητής νοημοσύνης της μηχανής αναζήτησης μέσω ενός σχολικού Chromebook, προκειμένου να σχεδιάσει την αυτοκτονία και την κηδεία της. Πρόκειται για την πρώτη φορά που ο τεχνολογικός κολοσσός αντιμετωπίζει κατηγορίες για αμέλεια σχετικά με τα εργαλεία AI που είναι προσβάσιμα σε μαθητές εντός του σχολικού περιβάλλοντος.
Η επιδείνωση της υγείας και η σωτήρια παρέμβαση
Αν και το σχολείο είχε αποκλείσει την πρόσβαση σε αυτόνομες εφαρμογές όπως το Gemini και το ChatGPT, η 13χρονη διατηρούσε πρόσβαση στη βασική μηχανή αναζήτησης της Google, όπου η τεχνητή νοημοσύνη είναι ενσωματωμένη. Σύμφωνα με τη δικογραφία, η μαθήτρια δεν είχε προηγούμενο ιστορικό ψυχικών διαταραχών, όμως η ψυχολογική της εικόνα επιδεινώθηκε σταδιακά μέσα σε λίγους μήνες χρήσης του εργαλείου. Η τραγωδία αποτράπηκε την τελευταία στιγμή στις 17 Μαρτίου, όταν το λογισμικό παρακολούθησης του σχολείου εντόπισε έγγραφο με τίτλο «Κηδεία» και ειδοποίησε τους γονείς, οι οποίοι παρενέβησαν την ώρα που το κορίτσι συνέτασσε αποχαιρετιστήριο σημείωμα.
Η απάντηση της Google και το αίτημα των δικηγόρων
Μετά τις εξελίξεις, οι νομικοί εκπρόσωποι της οικογένειας ζητούν από τα σχολεία να απενεργοποιήσουν τη μηχανή αναζήτησης, έως ότου η εταιρεία αφαιρέσει τη λειτουργία AI Mode ή εγγυηθεί την ασφάλεια των μαθητών. Από την πλευρά της, η Google υποστηρίζει ότι η πλατφόρμα διαθέτει αυστηρούς μηχανισμούς προστασίας απέναντι σε περιστατικά αυτοτραυματισμού. Ο εκπρόσωπος της εταιρείας, Χοσέ Καστανιέντα, δήλωσε ότι οι ισχυρισμοί εξετάζονται με τη μέγιστη σοβαρότητα.
Αυξάνεται η νομική πίεση στους τεχνολογικούς κολοσσούς
Το περιστατικό αυτό προστίθεται σε σειρά δικαστικών προσφυγών που αντιμετωπίζει ο κλάδος της τεχνητής νοημοσύνης, συμπεριλαμβανομένης της OpenAI για υποθέσεις βλάβης ανηλίκων, αλλά και προγενέστερων εξωδικαστικών συμβιβασμών της Google και της Character.AI. Παράλληλα, καταγράφεται έντονη δικαστική διαμάχη της Google, της Meta και του TikTok με την πολιτεία της Καλιφόρνιας, καθώς οι εταιρείες αντιδρούν σε νόμο κατά των εθιστικών λειτουργιών σε χρήστες κάτω των 16 ετών, ο οποίος έχει προγραμματιστεί να τεθεί σε ισχύ την 1η Ιανουαρίου 2027.
