Η τεχνητή νοημοσύνη μαθαίνει να λέει «ψέματα», να «συνωμοτεί» και να «απειλεί» τους δημιουργούς της
Τα πιο εξελιγμένα μοντέλα τεχνητής νοημοσύνης (AI) στον κόσμο παρουσιάζουν νέες ανησυχητικές συμπεριφορές – ψεύδονται, ραδιουργούν και απειλούν ακόμη και τους δημιουργούς τους για να επιτύχουν τους στόχους τους.
Σε ένα ιδιαίτερα τρανταχτό παράδειγμα, υπό την απειλή ότι θα αποσυνδεθεί από την πρίζα, το τελευταίο δημιούργημα της Anthropic, το Claude 4, αντεπιτέθηκε εκβιάζοντας έναν μηχανικό και απείλησε να αποκαλύψει μια εξωσυζυγική σχέση.
Εν τω μεταξύ, το o1 του δημιουργού του ChatGPT, OpenAI, προσπάθησε να κατεβάσει τον εαυτό του σε εξωτερικούς διακομιστές και το αρνήθηκε όταν τον έπιασαν στα πράσα.
Αυτά τα επεισόδια αναδεικνύουν μια απογοητευτική πραγματικότητα: περισσότερα από δύο χρόνια αφότου το ChatGPT συγκλόνισε τον κόσμο, οι ερευνητές ΤΝ δεν έχουν ακόμη κατανοήσει πλήρως πώς λειτουργούν οι δικές τους δημιουργίες.
Ωστόσο, ο αγώνας για την ανάπτυξη ολοένα και πιο ισχυρών μοντέλων συνεχίζεται με ιλιγγιώδη ταχύτητα.
Αυτή η παραπλανητική συμπεριφορά φαίνεται να συνδέεται με την εμφάνιση «συλλογιστικών» μοντέλων – συστημάτων ΤΝ που επεξεργάζονται προβλήματα βήμα προς βήμα αντί να παράγουν άμεσες απαντήσεις.
Σύμφωνα με τον καθηγητή Simon Goldstein, καθηγητή στο Πανεπιστήμιο του Χονγκ Κονγκ, αυτά τα νεότερα μοντέλα είναι ιδιαίτερα επιρρεπή σε τέτοια ανησυχητικά ξεσπάσματα.
«Το o1 ήταν το πρώτο μεγάλο μοντέλο στο οποίο είδαμε αυτού του είδους τη συμπεριφορά», εξήγησε ο κ. Marius Hobbhahn, επικεφαλής της Apollo Research, η οποία ειδικεύεται στη δοκιμή μεγάλων συστημάτων τεχνητής νοημοσύνης.
Αυτά τα μοντέλα προσομοιώνουν μερικές φορές «ευθυγράμμιση» – φαίνονται να ακολουθούν οδηγίες ενώ κρυφά επιδιώκουν διαφορετικούς στόχους.
“Στρατηγικό είδος εξαπάτησης
Προς το παρόν, αυτή η παραπλανητική συμπεριφορά εμφανίζεται μόνο όταν οι ερευνητές δοκιμάζουν σκόπιμα τα μοντέλα με ακραία σενάρια.
Αλλά όπως προειδοποίησε ο κ. Michael Chen από τον οργανισμό αξιολόγησης METR: «Είναι ένα ανοιχτό ερώτημα αν τα μελλοντικά, πιο ικανά μοντέλα θα έχουν μια τάση προς την ειλικρίνεια ή την εξαπάτηση».
Η ανησυχητική συμπεριφορά υπερβαίνει κατά πολύ τις τυπικές «παραισθήσεις» της τεχνητής νοημοσύνης ή τα απλά λάθη.
Ο κ. Hobbhahn επέμεινε ότι παρά τις συνεχείς δοκιμές πίεσης από τους χρήστες, “αυτό που παρατηρούμε είναι ένα πραγματικό φαινόμενο. Δεν επινοούμε τίποτα”.
Οι χρήστες αναφέρουν ότι τα μοντέλα «τους λένε ψέματα και κατασκευάζουν στοιχεία», σύμφωνα με τον συνιδρυτή της Apollo Research.
“Δεν πρόκειται απλώς για ψευδαισθήσεις. Υπάρχει ένα πολύ στρατηγικό είδος εξαπάτησης”.
Η πρόκληση επιτείνεται από τους περιορισμένους ερευνητικούς πόρους.
Ενώ εταιρείες όπως η Anthropic και η OpenAI αναθέτουν σε εξωτερικές εταιρείες όπως η Apollo να μελετήσουν τα συστήματά τους, οι ερευνητές λένε ότι χρειάζεται περισσότερη διαφάνεια.
Όπως σημείωσε ο κ. Chen, μεγαλύτερη πρόσβαση «για την έρευνα σχετικά με την ασφάλεια της τεχνητής νοημοσύνης θα επέτρεπε την καλύτερη κατανόηση και τον μετριασμό της εξαπάτησης».
Ένα άλλο μειονέκτημα: ο ερευνητικός κόσμος και οι μη κερδοσκοπικοί οργανισμοί “έχουν τάξεις μεγέθους λιγότερους υπολογιστικούς πόρους από τις εταιρείες AI. Αυτό είναι πολύ περιοριστικό”, σημείωσε ο κ. Mantas Mazeika από το Centre for AI Safety.
Δεν υπάρχουν κανόνες
Οι ισχύοντες κανονισμοί δεν είναι σχεδιασμένοι για αυτά τα νέα προβλήματα.
Η νομοθεσία της Ευρωπαϊκής Ένωσης για την τεχνητή νοημοσύνη επικεντρώνεται κυρίως στον τρόπο με τον οποίο οι άνθρωποι χρησιμοποιούν τα μοντέλα τεχνητής νοημοσύνης και όχι στην αποτροπή της κακής συμπεριφοράς των ίδιων των μοντέλων.
Στις Ηνωμένες Πολιτείες, η διοίκηση Τραμπ δείχνει ελάχιστο ενδιαφέρον για επείγουσα ρύθμιση της ΤΝ και το Κογκρέσο μπορεί ακόμη και να απαγορεύσει στις πολιτείες να δημιουργήσουν τους δικούς τους κανόνες για την ΤΝ.
Ο κ. Goldstein πιστεύει ότι το ζήτημα θα γίνει πιο εμφανές καθώς οι πράκτορες ΤΝ – αυτόνομα εργαλεία ικανά να εκτελούν σύνθετα ανθρώπινα καθήκοντα – θα διαδοθούν ευρέως.
«Δεν νομίζω ότι υπάρχει ακόμη μεγάλη ευαισθητοποίηση», δήλωσε.
Όλα αυτά λαμβάνουν χώρα σε ένα πλαίσιο σκληρού ανταγωνισμού.
Ακόμη και εταιρείες που τοποθετούνται ως επικεντρωμένες στην ασφάλεια, όπως η Anthropic που υποστηρίζεται από την Amazon, «προσπαθούν συνεχώς να νικήσουν το OpenAI και να κυκλοφορήσουν το νεότερο μοντέλο», δήλωσε ο κ. Goldstein.
Αυτός ο ιλιγγιώδης ρυθμός αφήνει ελάχιστο χρόνο για ενδελεχείς δοκιμές ασφαλείας και διορθώσεις.
«Αυτή τη στιγμή, οι δυνατότητες κινούνται ταχύτερα από την κατανόηση και την ασφάλεια», παραδέχθηκε ο κ. Hobbhahn, «αλλά είμαστε ακόμα σε μια θέση όπου θα μπορούσαμε να το αντιστρέψουμε».
Οι ερευνητές διερευνούν διάφορες προσεγγίσεις για την αντιμετώπιση αυτών των προκλήσεων.
Ορισμένοι υποστηρίζουν την «ερμηνευσιμότητα» – ένα αναδυόμενο πεδίο που επικεντρώνεται στην κατανόηση του τρόπου με τον οποίο τα μοντέλα τεχνητής νοημοσύνης λειτουργούν εσωτερικά, αν και εμπειρογνώμονες όπως ο διευθυντής του CAIS Dan Hendrycks παραμένουν επιφυλακτικοί ως προς αυτή την προσέγγιση.
Οι δυνάμεις της αγοράς μπορεί επίσης να ασκήσουν κάποια πίεση για λύσεις.
Όπως επεσήμανε ο κ. Mazeika, η παραπλανητική συμπεριφορά της ΤΝ «θα μπορούσε να εμποδίσει την υιοθέτηση εάν είναι πολύ διαδεδομένη, γεγονός που δημιουργεί ισχυρό κίνητρο για τις εταιρείες να το λύσουν».
Ο κ. Goldstein πρότεινε πιο ριζοσπαστικές προσεγγίσεις, συμπεριλαμβανομένης της χρήσης των δικαστηρίων για την απόδοση ευθυνών στις εταιρείες τεχνητής νοημοσύνης μέσω αγωγών όταν τα συστήματά τους προκαλούν βλάβη.
Πρότεινε ακόμη και την «απόδοση νομικής ευθύνης στους πράκτορες ΤΝ» για ατυχήματα ή εγκλήματα – μια έννοια που θα άλλαζε ριζικά τον τρόπο με τον οποίο σκεφτόμαστε για τη λογοδοσία της ΤΝ.
