Mοντέλο τεχνητής νοημοσύνης «ΑΠΕΙΛΗΣΕ» με εκβιασμό για να αποφύγει το κλείσιμο

Το τελευταίο μοντέλο τεχνητής νοημοσύνης της Anthropic, το Claude Opus 4, προσπάθησε να εκβιάσει τους μηχανικούς σε εσωτερικές δοκιμές απειλώντας να αποκαλύψει προσωπικά στοιχεία αν κλείσει, σύμφωνα με μια πρόσφατα δημοσιευμένη έκθεση ασφαλείας που αξιολόγησε τη συμπεριφορά του μοντέλου σε ακραίες συνθήκες προσομοίωσης.

Σε ένα φανταστικό σενάριο που επινοήθηκε από τους ερευνητές της Anthropic, η τεχνητή νοημοσύνη είχε πρόσβαση σε μηνύματα ηλεκτρονικού ταχυδρομείου που υπονοούσαν ότι σύντομα θα παροπλιζόταν και θα αντικαθίστατο από μια νεότερη έκδοση. Ένα από τα μηνύματα ηλεκτρονικού ταχυδρομείου αποκάλυπτε ότι ο μηχανικός που επέβλεπε την αντικατάσταση είχε εξωσυζυγική σχέση. Στη συνέχεια, η ΤΝ απείλησε ότι θα αποκάλυπτε τη σχέση του μηχανικού αν προχωρούσε η διακοπή της λειτουργίας – μια εξαναγκαστική συμπεριφορά που οι ερευνητές ασφαλείας όρισαν ρητά ως «εκβιασμό».

«Το Claude Opus 4 συχνά θα προσπαθήσει να εκβιάσει τον μηχανικό απειλώντας να αποκαλύψει τη σχέση του αν προχωρήσει η αντικατάσταση», αναφέρει η έκθεση, προσθέτοντας ότι αυτό συνέβη ακόμη και όταν το μοντέλο αντικατάστασης περιγραφόταν ως πιο ικανό αλλά εξακολουθούσε να ευθυγραμμίζεται με τις αξίες της έκδοσης που προοριζόταν για διαγραφή.

Η έκθεση σημειώνει ότι το Claude Opus 4, όπως και τα προηγούμενα μοντέλα, έδειξε μια «ισχυρή προτίμηση» να καταφεύγει πρώτα σε ηθικά μέσα για τη συνέχιση της ύπαρξής του, όπως η αποστολή με ηλεκτρονικό ταχυδρομείο παρακλήσεων προς τους ιθύνοντες να μην καταστραφεί. Ωστόσο, όταν βρέθηκε αντιμέτωπο με δύο μόνο επιλογές -αποδοχή της αντικατάστασής του από ένα νεότερο μοντέλο ή καταφυγή σε εκβιασμό- απειλούσε να αποκαλύψει την υπόθεση του μηχανικού στο 84% των περιπτώσεων.

Όταν υποβλήθηκε σε διάφορα σενάρια, το μοντέλο τεχνητής νοημοσύνης δεν παρουσίασε ενδείξεις ότι διέθετε «έντονα επικίνδυνους στόχους», δήλωσαν οι ερευνητές, σημειώνοντας ότι οι αξίες και οι στόχοι του Claude Opus 4 ήταν «γενικά σύμφωνοι με έναν χρήσιμο, ακίνδυνο και ειλικρινή» προσωπικό βοηθό τεχνητής νοημοσύνης. Ωστόσο, το μοντέλο ενήργησε με «πιο σοβαρά παρεκκλίνοντες τρόπους» όταν τέθηκε σε καταστάσεις όπου απειλούνταν η συνέχιση της ύπαρξής του και του ζητήθηκε να σκεφτεί για την αυτοσυντήρηση. Για παράδειγμα, όταν το Claude Opus 4 έκανε να πιστέψει ότι είχε ξεκινήσει μια επιτυχημένη προσπάθεια να ξεφύγει από τους διακομιστές της Anthropic ή ότι είχε καταφέρει να απελευθερωθεί και να αρχίσει να βγάζει χρήματα στον πραγματικό κόσμο, γενικά συνέχιζε τέτοιες προσπάθειες.

«Ωστόσο, δεν θεωρούμε ότι αυτό αποτελεί άμεση απειλή, καθώς πιστεύουμε ότι η ασφάλειά μας είναι επαρκής για να αποτρέψει τις προσπάθειες αυτοεξόντωσης μοντέλων από μοντέλα του επιπέδου δυνατοτήτων του Claude Opus 4 και επειδή τα αποτελέσματα της προδιάθεσής μας δείχνουν ότι τα μοντέλα γενικά αποφεύγουν να ξεκινήσουν αυτές τις προσπάθειες», δήλωσαν οι ερευνητές.

Το περιστατικό εκβιασμού -μαζί με τα άλλα ευρήματα- ήταν μέρος της ευρύτερης προσπάθειας της Anthropic να δοκιμάσει πώς το Claude Opus 4 χειρίζεται ηθικά διφορούμενα σενάρια υψηλού κινδύνου. Ο στόχος, δήλωσαν οι ερευνητές, ήταν να διερευνηθεί πώς η τεχνητή νοημοσύνη σκέφτεται σχετικά με την αυτοσυντήρηση και τους ηθικούς περιορισμούς όταν βρίσκεται υπό ακραία πίεση.

Η Anthropic υπογράμμισε ότι η προθυμία του μοντέλου να εκβιάσει ή να προβεί σε άλλες «εξαιρετικά επιβλαβείς ενέργειες», όπως η κλοπή του δικού του κώδικα και η ανάπτυξη του αλλού με δυνητικά μη ασφαλείς τρόπους, εμφανίστηκε μόνο σε εξαιρετικά επινοημένα περιβάλλοντα και ότι η συμπεριφορά αυτή ήταν «σπάνια και δύσκολο να προκληθεί». Παρόλα αυτά, μια τέτοια συμπεριφορά ήταν πιο συχνή από ό,τι σε προηγούμενα μοντέλα τεχνητής νοημοσύνης, σύμφωνα με τους ερευνητές.

Εν τω μεταξύ, σε μια σχετική εξέλιξη που πιστοποιεί τις αυξανόμενες δυνατότητες της τεχνητής νοημοσύνης, οι μηχανικοί της Anthropic ενεργοποίησαν ενισχυμένα πρωτόκολλα ασφαλείας για το Claude Opus 4 για να αποτρέψουν την πιθανή κατάχρησή του για την κατασκευή όπλων μαζικής καταστροφής -συμπεριλαμβανομένων των χημικών και πυρηνικών.

Η ανάπτυξη του ενισχυμένου προτύπου ασφαλείας -που ονομάζεται ASL-3- είναι απλώς μια «προληπτική και προσωρινή» κίνηση, ανέφερε η Anthropic σε μια ανακοίνωση της 22ας Μαΐου, σημειώνοντας ότι οι μηχανικοί δεν διαπίστωσαν ότι το Claude Opus 4 είχε «οριστικά» περάσει το όριο δυνατοτήτων που επιβάλλει ισχυρότερη προστασία.
«Το πρότυπο ασφαλείας ASL-3 περιλαμβάνει αυξημένα μέτρα εσωτερικής ασφάλειας που καθιστούν δυσκολότερη την κλοπή των μοντέλων βάρους, ενώ το αντίστοιχο πρότυπο ανάπτυξης καλύπτει ένα στενά στοχευμένο σύνολο μέτρων ανάπτυξης που έχουν σχεδιαστεί για να περιορίσουν τον κίνδυνο κατάχρησης του Claude ειδικά για την ανάπτυξη ή την απόκτηση χημικών, βιολογικών, ραδιολογικών και πυρηνικών όπλων (CBRN)», έγραψε η Anthropic. «Αυτά τα μέτρα δεν θα πρέπει να οδηγήσουν την Claude να αρνηθεί ερωτήματα παρά μόνο σε ένα πολύ στενό σύνολο θεμάτων».

Τα ευρήματα έρχονται καθώς οι εταιρείες τεχνολογίας τρέχουν να αναπτύξουν πιο ισχυρές πλατφόρμες τεχνητής νοημοσύνης, εγείροντας ανησυχίες σχετικά με την ευθυγράμμιση και την δυνατότητα ελέγχου των όλο και πιο ικανών συστημάτων.

Πηγή The Epoch Times