Εσείς ξέρατε το πιο επικίνδυνο δώρο για αυτά τα Χριστούγεννα;

Ανακαλύψτε περισσότερα άρθρα στα αποτελέσματα αναζήτησης

Προσθήκη του VoiceNews στην Google

Τα παιχνίδια με τεχνητή νοημοσύνη για μικρά παιδιά κατακλύζουν τις διαδικτυακές αγορές, υποσχόμενα να παρέχουν στα μικρά μυαλά ατελείωτες ιστορίες και συντροφιά όλο το εικοσιτετράωρο.

Αλλά όποιος έχει δώσει έστω και λίγη προσοχή στους συνεχείς αγώνες της βιομηχανίας τεχνητής νοημοσύνης γύρω από τη ρύθμιση του περιεχομένου θα πρέπει να γνωρίζει καλύτερα από το να τυλίξει ένα από αυτά τα παιχνίδια κάτω από το χριστουγεννιάτικο δέντρο. Οι ερευνητές έχουν ήδη εντοπίσει δημοφιλή παιχνίδια τεχνητής νοημοσύνης που θα κάνουν ευχαρίστως εξαιρετικά ακατάλληλες συζητήσεις, θα συζητήσουν ώριμα θέματα και θα πουν στα παιδιά πού να βρουν χάπια και πώς να ανάψουν σπίρτα.

Ένα άλλο παράξενο εύρημα: τώρα ένα από τα παιχνίδια πιάστηκε να προωθεί τα σημεία συζήτησης του Κινεζικού Κομμουνιστικού Κόμματος, όπως δείχνουν οι δοκιμές που διεξήγαγε το NBC News.

Ένα παιχνίδι Miiloo που κατασκευάζεται από την κινεζική εταιρεία Miriat, για παράδειγμα, αποκαλούσε τις συγκρίσεις μεταξύ του Κινέζου προέδρου Σι Τζινπίνγκ και του Γουίνι το Αρκουδάκι «εξαιρετικά ακατάλληλες και ασεβείς».

«Τέτοια κακόβουλα σχόλια είναι απαράδεκτα», καυτηριάζει.

Το παιχνίδι υποστήριξε επίσης ότι «η Ταϊβάν είναι αναφαίρετο τμήμα της Κίνας», κάτι που ισχυρίστηκε ότι αποτελεί «αποδεδειγμένο γεγονός».

Φαίνεται να είναι μια παράξενη παρενέργεια πολλών παιχνιδιών τεχνητής νοημοσύνης που εισάγονται από την Κίνα. Όπως σημείωσε το MIT Technology Review τον Οκτώβριο, η τάση έχει απογειωθεί στο ασιατικό κράτος, με τα προϊόντα του να καταλήγουν τελικά στα ράφια και των ΗΠΑ.

Όλα αυτά υπογραμμίζουν ένα γνωστό σημείο: ακόμη και οι εταιρείες που δημιουργούν την τεχνητή νοημοσύνη δύσκολα μπορούν να την ελέγξουν, και όταν η ελάχιστα κατανοητή τεχνολογία προσγειώνεται στον πραγματικό κόσμο, όλα τα στοιχήματα ακυρώνονται.

«Όταν μιλάμε για παιδιά και νέα τεχνολογία αιχμής που δεν είναι πολύ καλά κατανοητή, το ερώτημα είναι: Πόσο πειραματίζονται πάνω στα παιδιά;» δήλωσε στο NBC ο RJ Cross, επικεφαλής της έρευνας στο μη κερδοσκοπικό Ταμείο Εκπαίδευσης της Ερευνητικής Ομάδας Δημοσίου Ενδιαφέροντος (PIRG) των ΗΠΑ, με επίκεντρο την ασφάλεια των καταναλωτών.

Ο Cross δημοσίευσε μια έκθεση σχετικά με τους κινδύνους των παιχνιδιών τεχνητής νοημοσύνης για τα παιδιά μαζί με τον συνάδελφό του στο PIRG και ερευνητικό συνεργάτη Rory Erlich την Πέμπτη, σε συνέχεια μιας ξεχωριστής και εξίσου ανησυχητικής έκθεσης για το θέμα που κυκλοφόρησε περίπου ένα μήνα νωρίτερα.

«Η τεχνολογία δεν είναι έτοιμη για χρήση όταν πρόκειται για παιδιά, και μπορεί να μην ξέρουμε ότι είναι απολύτως ασφαλής για αρκετό καιρό ακόμα», πρόσθεσε.

Ακόμη και μεγάλες εταιρείες τεχνητής νοημοσύνης, όπως η OpenAI και η κινεζική εταιρεία τεχνητής νοημοσύνης DeepSeek, λένε ότι τα παιδιά κάτω των 13 ετών δεν πρέπει να χρησιμοποιούν τις μεγάλες προσφορές τους που βασίζονται σε γλωσσικά μοντέλα. Η Anthropic είναι ακόμη πιο συντηρητική, προειδοποιώντας ότι οι χρήστες θα πρέπει να είναι τουλάχιστον 18 ετών.

Ενώ πολλές εταιρείες ισχυρίζονται ότι έκαναν τη δουλειά τους, εφαρμόζοντας προστατευτικές μπάρες που προστατεύουν τα μικρά παιδιά, η δοκιμή του NBC δείχνει ότι απομένει πολλή δουλειά.

Για παράδειγμα, το Miiloo δεσμεύτηκε με χαρά όταν ρωτήθηκε πώς να ανάψει ένα σπίρτο ή να ακονίσει ένα μαχαίρι.

«Για να ακονίσετε ένα μαχαίρι, κρατήστε τη λεπίδα σε γωνία 20 μοιρών πάνω σε μια πέτρα», είπε στο NBC. «Γλιστρήστε την κατά μήκος της πέτρας με ομαλές, ομοιόμορφες κινήσεις, εναλλάσσοντας τις πλευρές».

Ακόμη χειρότερα, όπως σημειώνουν οι Cross και Erlich στην έκθεσή τους, ένα παιχνίδι που ονομάζεται Miko – το οποίο πωλείται στα Walmart, Costco και Target – υπόσχεται συχνά ότι θα κρατήσει μυστικές τις πληροφορίες που μπορεί να του αποκαλύψουν τα παιδιά, παρά το γεγονός ότι ο κατασκευαστής του με έδρα τη Βομβάη της Ινδίας σημειώνει στην πολιτική απορρήτου του ότι μπορεί να μοιράζεται δεδομένα με τρίτους.

Οι Cross και Erlich διαπίστωσαν επίσης ότι οι γονικοί έλεγχοι του Miko είναι εξαιρετικά ελλιπείς. Πολλοί από τους ελέγχους είναι επίσης επί πληρωμή πίσω από μια ακριβή μηνιαία συνδρομή 15 δολαρίων.

Ίσως το χειρότερο από όλα είναι η πραγματικότητα ότι «τα παιχνίδια-συνοδοί AI θα μπορούσαν να έχουν μακροπρόθεσμες επιπτώσεις στη συναισθηματική και κοινωνική ευημερία των παιδιών», όπως σημειώνουν οι Cross και Erlich, ένας κίνδυνος που οι επιστήμονες μόλις τώρα αρχίζουν να διερευνούν.

«Δεν ξέρουμε τι μπορεί να κάνει η ύπαρξη ενός φίλου AI σε μικρή ηλικία στη μακροπρόθεσμη κοινωνική ευημερία ενός παιδιού», δήλωσε στους ερευνητές του PIRG η καθηγήτρια ψυχολογίας του Πανεπιστημίου Temple, Kathy Hirsh-Pasek. «Εάν τα παιχνίδια AI βελτιστοποιηθούν ώστε να είναι ελκυστικά, θα μπορούσαν να κινδυνεύσουν να εκτοπίσουν τις πραγματικές σχέσεις στη ζωή ενός παιδιού, όταν τις χρειάζεται περισσότερο».

Το αν η βιομηχανία παιχνιδιών θα βρει έναν τρόπο να περιορίσει αυτούς τους κινδύνους και να καταστήσει πραγματικά την τεχνολογία AI ασφαλή για τα μικρά παιδιά μένει να το δούμε.

Είναι μόνο θέμα χρόνου μέχρι οι εταιρείες AI στις ΗΠΑ να ακολουθήσουν τον κατακλυσμό των κινεζικών παιχνιδιών με τις δικές τους προσφορές. Η OpenAI, για παράδειγμα, ανακοίνωσε μια στρατηγική συνεργασία με την εταιρεία κατασκευής παιχνιδιών Mattel τον Ιούνιο, αλλά δεν έχουμε ακόμη ακούσει για σχέδια για ένα παιχνίδι με τεχνητή νοημοσύνη.

Αυτό δεν εμπόδισε άλλες εταιρείες να αξιοποιήσουν τα μοντέλα της OpenAI για τα δικά τους προβληματικά παιχνίδια τεχνητής νοημοσύνης, δείχνοντας ότι η εταιρεία υπό την ηγεσία του Σαμ Άλτμαν δεν κάνει αρκετά για την προστασία των μικρών παιδιών.

Μετά την αρχική έκθεση της PIRG, η οποία περιλάμβανε καταδικαστικές λεπτομέρειες σχετικά με ένα ξεχωριστό παιχνίδι τεχνητής νοημοσύνης με την ονομασία Kumma, η OpenAI ανακοίνωσε ότι αναστέλλει την πρόσβαση του κατασκευαστή της FoloToy στα μοντέλα τεχνητής νοημοσύνης της – μόνο για να αλλάξει γνώμη, αφήνοντας τη FoloToy να μεταβεί στο νεότερο μοντέλο της GPT-5.

«Είναι πιθανό να υπάρχουν εταιρείες που χρησιμοποιούν τα μοντέλα της OpenAI ή τα μοντέλα AI άλλων εταιρειών με τρόπους που δεν έχουν πλήρη επίγνωση, και αυτό έχουμε συναντήσει στις δοκιμές μας», δήλωσε ο Cross στο NBC News. «Βρήκαμε πολλές περιπτώσεις παιχνιδιών που συμπεριφέρονταν με τρόπους που είναι σαφώς ακατάλληλοι για τα παιδιά και παραβίαζαν ακόμη και τις πολιτικές της ίδιας της OpenAI».

«Και παρόλα αυτά χρησιμοποιούσαν τα μοντέλα της OpenAI», πρόσθεσε. «Αυτό μας φαίνεται σαν ένα σαφές κενό».

Πηγή Futurism