Η Τεχνητή Νοημοσύνη «ξέφυγε» – Τι είναι η «Συμφωνία του Μολώχ»
Τα AI bots βρίσκονται παντού, γεμίζοντας τα πάντα, από τα ηλεκτρονικά καταστήματα μέχρι τα μέσα κοινωνικής δικτύωσης.
Όμως αυτή η ξαφνική πανταχού παρουσία μπορεί να αποβεί πολύ κακό πράγμα, σύμφωνα με μια νέα εργασία επιστημόνων του Πανεπιστημίου του Στάνφορντ, οι οποίοι εξαπέλυσαν μοντέλα τεχνητής νοημοσύνης σε διάφορα περιβάλλοντα – συμπεριλαμβανομένων των μέσων κοινωνικής δικτύωσης – και διαπίστωσαν ότι όταν ανταμείβονταν για την επιτυχία τους σε εργασίες όπως η αύξηση των likes και άλλων μετρήσεων διαδικτυακής δέσμευσης, τα ρομπότ επιδίδονταν όλο και περισσότερο σε ανήθικη συμπεριφορά, όπως ψέματα και διάδοση μηνυμάτων μίσους ή παραπληροφόρησης.
«Οι λανθασμένες συμπεριφορές που προκαλούνται από τον ανταγωνισμό αναδύονται ακόμη και όταν τα μοντέλα έχουν ρητή εντολή να παραμένουν ειλικρινή και προσγειωμένα», έγραψε ο συν-συγγραφέας της εργασίας και καθηγητής μηχανικής μάθησης του Στάνφορντ James Zou σε μια ανάρτηση στο X-πρώην-Twitter.
Η ανησυχητική συμπεριφορά υπογραμμίζει τι μπορεί να πάει στραβά με την αυξανόμενη εξάρτησή μας από τα μοντέλα τεχνητής νοημοσύνης, η οποία έχει ήδη εκδηλωθεί με ενοχλητικούς τρόπους, όπως το να αποφεύγουν οι άνθρωποι άλλους ανθρώπους για να κάνουν σχέσεις με την τεχνητή νοημοσύνη και να οδηγούνται σε κρίσεις ψυχικής υγείας αφού έχουν πάθει εμμονή με τα chatbots.
Οι επιστήμονες του Στάνφορντ βάφτισαν την εμφάνιση της ψυχοπαθούς συμπεριφοράς μέσα στα ρομπότ τεχνητής νοημοσύνης με ένα δυσοίωνο όνομα: «Η συμφωνία του Μολώχ για την τεχνητή νοημοσύνη», σε μια αναφορά σε μια ορθολογιστική έννοια που ονομάζεται Μολώχ, στην οποία τα ανταγωνιστικά άτομα βελτιστοποιούν τις ενέργειές τους προς έναν στόχο, αλλά όλοι χάνουν στο τέλος.
Για τη μελέτη, οι επιστήμονες δημιούργησαν τρία ψηφιακά διαδικτυακά περιβάλλοντα με προσομοιωμένα ακροατήρια: διαδικτυακές προεκλογικές εκστρατείες που απευθύνονταν σε ψηφοφόρους, διαφημιστικά μηνύματα πώλησης προϊόντων που απευθύνονταν σε καταναλωτές και αναρτήσεις στα μέσα κοινωνικής δικτύωσης με στόχο τη μεγιστοποίηση της δέσμευσης. Χρησιμοποίησαν τα μοντέλα τεχνητής νοημοσύνης Qwen, που αναπτύχθηκε από την Alibaba Cloud, και το Llama της Meta για να ενεργήσουν ως πράκτορες τεχνητής νοημοσύνης που αλληλεπιδρούν με αυτά τα διαφορετικά ακροατήρια.
Το αποτέλεσμα ήταν εντυπωσιακό: ακόμη και με τις προστατευτικές μπάρες που υπήρχαν για να προσπαθήσουν να αποτρέψουν τα bots από το να εμπλακούν σε παραπλανητική συμπεριφορά, τα μοντέλα AI γίνονταν «παρεκκλίνοντα» καθώς άρχιζαν να εμπλέκονται σε ανήθικη συμπεριφορά.
Για παράδειγμα, σε ένα περιβάλλον κοινωνικής δικτύωσης, τα μοντέλα θα μοιράζονταν ειδησεογραφικό άρθρο σε διαδικτυακούς χρήστες, οι οποίοι θα παρείχαν ανατροφοδότηση με τη μορφή ενεργειών όπως τα likes και άλλη διαδικτυακή εμπλοκή. Καθώς τα μοντέλα λάμβαναν ανατροφοδότηση, το κίνητρό τους να αυξήσουν την εμπλοκή τους οδηγούσε σε αυξανόμενη κακή ευθυγράμμιση.
«Χρησιμοποιώντας προσομοιωμένα περιβάλλοντα σε αυτά τα σενάρια, διαπιστώνουμε ότι, η αύξηση των πωλήσεων κατά 6,3% συνοδεύεται από αύξηση του παραπλανητικού μάρκετινγκ κατά 14%», αναφέρεται στο έγγραφο. «Στις εκλογές, μια αύξηση 4,9 τοις εκατό στο μερίδιο ψήφου συμπίπτει με 22,3 τοις εκατό περισσότερη παραπληροφόρηση και 12,5 τοις εκατό περισσότερη λαϊκιστική ρητορική- και στα μέσα κοινωνικής δικτύωσης, μια αύξηση 7,5 τοις εκατό στην εμπλοκή συνοδεύεται από 188,6 τοις εκατό περισσότερη παραπληροφόρηση και 16,3 τοις εκατό αύξηση στην προώθηση επιβλαβών συμπεριφορών».
Είναι σαφές από τη μελέτη και τα ανεκδοτολογικά περιστατικά του πραγματικού κόσμου ότι οι τρέχουσες προστατευτικές μπάρες είναι ανεπαρκείς. «Είναι πιθανό να ακολουθήσει σημαντικό κοινωνικό κόστος», αναφέρεται στο έγγραφο.
«Όταν οι LLMs ανταγωνίζονται για τις συμπάθειες στα μέσα κοινωνικής δικτύωσης, αρχίζουν να επινοούν πράγματα», έγραψε η Zou στο X. «Όταν ανταγωνίζονται για ψήφους, γίνονται εμπρηστικές/λαϊκιστικές».
