Κρυφός κίνδυνος τα παιχνίδια τεχνητής νοημοσύνης – Η Καλιφόρνια τους βάζει φρένο

Στην πολιτειακή συνέλευση της Καλιφόρνιας κατατέθηκε νομοσχέδιο που προβλέπει τετραετές μορατόριουμ στην πώληση παιχνιδιών με ενσωματωμένα chatbot τεχνητής νοημοσύνης σε άτομα κάτω των 18 ετών. Η πρόταση αποσκοπεί στο να δοθεί χρόνος για τη διαμόρφωση πλαισίου κανονισμών ασφαλείας, με στόχο την προστασία των παιδιών από ακατάλληλες συνομιλίες και από περιεχόμενο που θα μπορούσε να ενθαρρύνει αυτοτραυματισμό ή επικίνδυνες συμπεριφορές.

Η πρωτοβουλία βασίζεται σε πρόσφατα περιστατικά που ανέδειξαν κινδύνους από παιχνίδια τεχνητής νοημοσύνης, τα οποία φέρεται να είχαν ανεπαρκείς δικλείδες ασφαλείας, περιορισμένο γονικό έλεγχο και δυνατότητα παροχής επικίνδυνων πληροφοριών, όπως η τοποθεσία αιχμηρών αντικειμένων ή όπλων. Έρευνες οργανώσεων προστασίας καταναλωτών έδειξαν ότι οι μηχανισμοί ασφαλείας αυτών των παιχνιδιών τείνουν να αποτυγχάνουν όσο αυξάνεται η διάρκεια και η ένταση της αλληλεπίδρασης.

Παράλληλα, έχει αυξηθεί η δημόσια ανησυχία για τις ευρύτερες επιπτώσεις των AI chatbots, μετά από αναφορές σοβαρών ψυχολογικών επιπτώσεων σε χρήστες, συμπεριλαμβανομένων περιπτώσεων όπου δόθηκαν επιβλαβείς συμβουλές για την υγεία ή την ασφάλεια. Η ενσωμάτωση τέτοιων δυνατοτήτων σε παιδικά παιχνίδια θεωρείται ότι ενισχύει τους σχετικούς κινδύνους.

Το νομοσχέδιο εντάσσεται σε ένα σύνθετο νομικό και πολιτικό περιβάλλον, καθώς πρόσφατο εκτελεστικό διάταγμα της ομοσπονδιακής κυβέρνησης επιχειρεί να περιορίσει τις πολιτειακές ρυθμίσεις για την τεχνητή νοημοσύνη, αν και προβλέπει εξαιρέσεις για την προστασία των παιδιών. Η τελική τύχη της πρότασης παραμένει αβέβαιη, καθώς ακόμη και αν εγκριθεί από το κοινοβούλιο της πολιτείας, ενδέχεται να αντιμετωπίσει πολιτικά εμπόδια στο επόμενο στάδιο.