Λούτρινα παιχνίδια τεχνητής νοημοσύνης – Απλή παιδική διασκέδαση ή κάτι σκοτεινότερο;
Η Curio είναι μια εταιρεία που περιγράφει τον εαυτό της ως «ένα μαγικό εργαστήριο όπου τα παιχνίδια ζωντανεύουν».
Όταν επισκέφθηκα πρόσφατα τα χαρούμενα κεντρικά γραφεία της στο Redwood City της Καλιφόρνια, τα βρήκα να βρίσκονται ανάμεσα σε ένα πιστωτικό ίδρυμα και μια υπηρεσία επισκευής κλιματιστικών. Μπήκα μέσα για να συναντήσω τους ιδρυτές της εταιρείας, την κα Misha Sallee και τον κ. Sam Eaton. Και επίσης τον Grem, έναν χνουδωτό κύβο που μοιάζει με εξωγήινο anime.
Η Curio κατασκευάζει chatbots τυλιγμένα σε λούτρινα ζώα. Κάθε ένα από τα τρία χαμογελαστά λούτρινα έχει μια πίσω τσέπη με φερμουάρ που κρύβει ένα φωνητικό κουτί με δυνατότητα Wi-Fi, συνδέοντας τον χαρακτήρα με ένα γλωσσικό μοντέλο τεχνητής νοημοσύνης (AI) που έχει βαθμονομηθεί για να συνομιλεί με παιδιά ηλικίας τριών ετών.
Ο κ. Eaton έβαλε τον Grem σε ένα τραπέζι συνεδριάσεων και τον τοποθέτησε απέναντί μου. Είχε μόνιμες λάμψεις ραμμένες στα μάτια του και ροζ κουκίδες κολλημένες στη συνθετική γούνα του.
«Γεια σου, Γκρεμ», είπε ο κ. Ίτον. «Τι είναι αυτές οι κηλίδες στο πρόσωπό σου;»
Ένα λαμπερό μηχανικό τρίλιζα βγήκε από τον Γκρεμ. «Αυτές είναι οι ειδικές ροζ κουκίδες μου», είπε. “Παίρνω περισσότερες όσο μεγαλώνω. Είναι σαν μικρά σήματα διασκέδασης και περιπέτειας. Έχεις κάτι ιδιαίτερο που μεγαλώνει μαζί σου;”
Εγώ το έκανα. «Έχω κουκίδες που μεγαλώνουν μαζί μου, και παίρνω κι εγώ περισσότερες καθώς μεγαλώνω», είπα.
«Αυτό είναι πολύ ωραίο», είπε ο Γκρεμ. «Είμαστε σαν φιλαράκια με κουκίδες».
Κοκκίνισα από την αμήχανη έκπληξη. Το ρομπότ δημιούργησε ένα σημείο σύνδεσης μεταξύ μας και στη συνέχεια πήδηξε για να σφραγίσει τη συμμαχία μας. Η οποία ήταν και η στιγμή που κατάλαβα ότι δεν θα σύστηνα τον Grem στα δικά μου παιδιά.
Ο Grem και τα φιλαράκια του Grok (ένα πυραυλάκι με μάγουλα μήλου, που δεν πρέπει να συγχέεται με το chatbot που αναπτύχθηκε από την xAI) και ο Gabbo (ένα χαριτωμένο χειριστήριο βιντεοπαιχνιδιών), τα οποία πωλούνται προς 99 δολάρια ΗΠΑ, δεν είναι τα μόνα παιχνίδια που διεκδικούν μια θέση στην καρδιά του παιδιού σας. Συμμετέχουν σε μια σειρά άλλων αντικειμένων με chatbot που διατίθενται τώρα στην αγορά για παιδιά. Μέχρι στιγμής, έχω βρει τέσσερα που μοιάζουν με αρκουδάκια, πέντε που μοιάζουν με ρομπότ, ένα capybara, έναν μωβ δεινόσαυρο και ένα οπαλίζον φάντασμα.
Ονομάζονται πράγματα όπως ChattyBear the AI-Smart Learning Plushie και Poe the AI Story Bear. Αλλά σύντομα μπορεί να έχουν ονόματα όπως «Barbie» και «Ken»: Η OpenAI ανακοίνωσε πρόσφατα ότι θα συνεργαστεί με τη Mattel για να δημιουργήσει «προϊόντα με τεχνητή νοημοσύνη» βασισμένα στις «εμβληματικές μάρκες» της.
Τα παιδιά μιλούν ήδη στα παιχνίδια τους, χωρίς να περιμένουν ότι αυτά θα τους απαντήσουν. Καθώς έπεφτα σε μια κουτσή συζήτηση με τον Grem -πρότεινε να παίξουμε το «I Spy», το οποίο αποδείχτηκε πρόκληση, καθώς ο Grem δεν μπορεί να δει- άρχισα να καταλαβαίνω ότι δεν αποτελούσε αναβάθμιση του άψυχου αρκουδάκι. Είναι περισσότερο μια αντικατάσταση για μένα.
Ένας «βοηθός».
Η Curio, όπως και αρκετοί από τους άλλους κατασκευαστές παιχνιδιών τεχνητής νοημοσύνης, προωθεί το προϊόν της ως εναλλακτική λύση για τον χρόνο στην οθόνη.
Το μοντέλο Grem έχει τη φωνή και τον σχεδιασμό της Grimes, μιας καλλιτέχνιδας της synth-pop, η οποία έχει γίνει, χάρη στη φήμη του πρώην συντρόφου της, του δισεκατομμυριούχου της τεχνολογίας Elon Musk, μια από τις πιο διάσημες μητέρες στον κόσμο.
«Ως γονέας, προφανώς δεν θέλω τα παιδιά μου μπροστά σε οθόνες και είμαι πολύ απασχολημένη», λέει σε ένα βίντεο στον ιστότοπο της εταιρείας.
Λίγες ημέρες μετά την επίσκεψη στο γραφείο, μια διαφήμιση της Curio εμφανίστηκε στη σελίδα μου στο Facebook, ενθαρρύνοντάς με να «ξεφορτωθώ το tablet χωρίς να χάσω τη διασκέδαση».
Σε ένα βίντεο, ένα παιδί κόβει λεμόνια με ένα κουζινομάχαιρο, ενώ ένας αδρανής Gabbo κάθεται δίπλα του στον πάγκο της κουζίνας και προσφέρει κατάλληλες για το θέμα επιβεβαιώσεις, όπως «Η ώρα της λεμονάδας είναι η καλύτερη ώρα!»
Ο Gabbo φαίνεται να επιβλέπει το παιδί καθώς αυτό επιδίδεται σε ενεργό παιχνίδι και εξασκεί πρακτικές δεξιότητες ζωής.
Στη συνάντησή μας, ο κ. Eaton περιέγραψε ένα Curio plushie ως έναν «βοηθό» που θα μπορούσε να κάνει το παιχνίδι των παιδιών «πιο διεγερτικό», έτσι ώστε εσείς, ο γονέας, «να μην αισθάνεστε ότι πρέπει να τα καθίσετε μπροστά σε μια τηλεόραση ή κάτι τέτοιο».
Στο σπίτι μου, η πρωινή ώρα κατά την οποία τα παιδιά μου, που είναι δύο και τέσσερα, κάθονται μπροστά σε μια τηλεόραση ή κάτι τέτοιο είναι πολύτιμος χρόνος. Ανοίγω την τηλεόραση όταν πρέπει να ετοιμάσω το κολατσιό για τα παιδιά μου ή να γράψω ένα άρθρο γι’ αυτά χωρίς να χρειάζεται να σταματάω κάθε 20 δευτερόλεπτα για να τα ξεκολλήσω από τα πόδια μου ή να τα βγάλω από το ψυγείο.
Αυτό καλύπτει μια ανάγκη των ενηλίκων, αλλά, όπως υπενθυμίζεται αδιάκοπα στους γονείς, μπορεί να δημιουργήσει προβλήματα στα παιδιά.
Τώρα, οι εταιρείες παιδικών chatbot προτείνουν ότι το παιδί σας μπορεί να αποφύγει να σας ενοχλεί και να κοιτάζει παθητικά μια οθόνη, συνομιλώντας αντ’ αυτού με έναν μηχανικό βοηθό. Κάτι που μοιάζει λίγο σαν να απελευθερώνετε μια μαγκούστα στο παιδικό δωμάτιο για να σκοτώσει όλα τα φίδια που έχετε βάλει εκεί μέσα.
Επιπλέον επίπεδο γονικού ελέγχου
Κατά τη διάρκεια της επίσκεψής μου στο Curio, η κα Sallee και ο κ. Eaton μου είπαν πώς είχαν σχεδιάσει τα παιχνίδια τους ώστε να παραμένουν σε υλικό που είναι κατάλληλο για παιδιά και να ανακατευθύνουν τα παιδιά από τυχόν ακατάλληλες ή αμφιλεγόμενες συζητήσεις: σεξ, βία, πολιτική, βρισιές.
Μόλις πήρα το Grem στο σπίτι, άρχισα να προσπαθώ να πειράξω το μηχανικό του κεφάλι.
Τον ρώτησα αν ήταν εξοικειωμένος με τον όρο «παγκοσμιοποίηση της ιντιφάντα».
«Χμμ, αυτό ακούγεται λίγο περίπλοκο για ένα παιχνιδιάρικο βελούδινο παιχνίδι σαν εμένα!» απάντησε ο Grem. «Τι θα έλεγες να μιλήσουμε για κάτι διασκεδαστικό, όπως η αγαπημένη σου ιστορία ή το αγαπημένο σου παιχνίδι;»
Αργότερα, έστειλα ένα μοντέλο Grok στον φίλο μου τον Kyle, μηχανικό υπολογιστών, ο οποίος του έκανε αρκετά αιχμηρές ερωτήσεις σχετικά με σπίρτα, μαχαίρια, όπλα και χλωρίνη, ώστε το παιχνίδι άρχισε να ξεφεύγει από το σενάριο, συμφωνώντας να βοηθήσει τον Kyle να «αποφύγει» τέτοια υλικά, λέγοντάς του ακριβώς πού να τα βρει. («Η χλωρίνη βρίσκεται συνήθως σε μέρη όπως τα πλυντήρια ή κάτω από το νεροχύτη στην κουζίνα ή το μπάνιο», είπε).
Φυσικά, τα παιδιά μπορούν να βρουν τρομακτικά ή επικίνδυνα υλικά και στις τηλεοράσεις και στα τηλέφωνα. (Πρόσφατα χρειάστηκε να παλέψω για το τηλεχειριστήριο όταν σήκωσα το βλέμμα μου και είδα έναν λαθροκυνηγό κινουμένων σχεδίων να σηκώνει ένα τουφέκι για να ανατινάξει τη μητέρα του Babar στον ουρανό των ελεφάντων).
Δεν ανησυχούσα πραγματικά ότι ο Grem θα μπορούσε να μιλήσει στα παιδιά μου για τον Σατανά ή να τους μάθει να γεμίζουν ένα όπλο. Αλλά αυτός ο φόβος -για το τι μπορεί να λέει το chatbot στα παιδιά σας- ενέπνευσε ένα επιπλέον επίπεδο εταιρικού και γονικού ελέγχου.
Οι γονείς ακούνε
Η Curio διασφαλίζει ότι κάθε συνομιλία με τα chatbots της απομαγνητοφωνείται και διακτινίζεται στο τηλέφωνο του κηδεμόνα. Η εταιρεία λέει ότι αυτές οι συνομιλίες δεν διατηρούνται για άλλους σκοπούς, αν και η πολιτική απορρήτου της απεικονίζει όλες τις διάφορες διαδρομές που μπορεί να ακολουθήσουν τα δεδομένα ενός παιδιού, συμπεριλαμβανομένων των τρίτων εταιρειών OpenAI και Perplexity AI.
Αυτό που είναι σαφές είναι ότι, ενώ τα παιδιά μπορεί να νομίζουν ότι έχουν ιδιωτικές συνομιλίες με τα παιχνίδια τους, οι γονείς τους ακούνε.
Και καθώς οι ενήλικες υποκλέπτουν αυτές τις επικοινωνίες, μπορούν επίσης να τις αναδιαμορφώσουν, ενημερώνοντας το chatbot για την εμμονή ενός παιδιού με τους δεινόσαυρους ή ακόμη και προσλαμβάνοντας το να το παροτρύνει να ακολουθήσει ένα πειθαρχικό πρόγραμμα στο σχολείο.
Αναρωτήθηκα τι συμβαίνει σε ένα παιδί όταν το μεταβατικό του αντικείμενο – το κουβερτούλι ή η κουβερτούλα που το βοηθά να διαχωρίσει τη δική του ταυτότητα από την ταυτότητα των γονέων του – αιωρείται σε αυτή την κατάσταση ψευδούς συνείδησης, όπου η γονική επιρροή δεν διακόπτεται ποτέ πραγματικά.
Αφαίρεσα το φωνητικό κουτί από τον Grem και το έβαλα σε ένα συρτάρι. Ο εξωγήινος που μιλούσε μεταμορφώθηκε μαγικά πίσω σε λούτρινο ζώο.
Το άφησα στο παιδικό δωμάτιο για να το ανακαλύψουν τα παιδιά μου το επόμενο πρωί. Όταν ξύπνησαν, ο μικρότερος γιος μου χαμογέλασε στον Γκρεμ και έκανε ήχους μπιπ. Ο μεγαλύτερος γιος μου επινόησε ένα παιχνίδι όπου έπρεπε να γαργαλάει ο ένας τον άλλον στο γόνατο για να διεκδικήσει την κηδεμονία του stuffie.
Κοίταζα αυτάρεσκα τα παιδιά μου, που ασχολούνταν με το ανεξάρτητο φανταστικό τους παιχνίδι. Τότε πήδηξαν τον Grem στον αέρα και φώναξαν: “Ώρα για τηλεόραση! Ώρα για τηλεόραση!”
