«Κυρίαρχοι πράκτορες ΤΝ» χωρίς διακόπτη ασφαλείας απειλούν την εθνική ασφάλεια.

Μια μελέτη υποστηρίζει ότι ο επόμενος μεγάλος κίνδυνος της τεχνητής νοημοσύνης δεν είναι οι πράκτορες που ξεφεύγουν από μια αποστολή, αλλά εκείνοι που δεν σταματούν ποτέ.
Ο επόμενος μεγάλος κίνδυνος της Τεχνητής Νοημοσύνης (ΤΝ) δεν είναι οι πράκτορες ΤΝ που βγαίνουν εκτός ελέγχου, αλλά εκείνοι που ξεφεύγουν από τον ανθρώπινο έλεγχο και επιδιώκουν επ’ άπειρον τη δική τους επιβίωση, σύμφωνα με νέα έκθεση (πηγή στα Αγγλικά).

Το Κέντρο για μια Νέα Αμερικανική Ασφάλεια (Center for a New American Security – CNAS) εντοπίζει μια νέα κατηγορία απειλής από την ΤΝ, την οποία αποκαλεί «κυρίαρχους πράκτορες» (sovereign agents).

Όπως αναφέρεται στην έκθεση, οι κυρίαρχοι πράκτορες επιδιώκουν τη δική τους επιβίωση, ανεξάρτητα από την ανθρώπινη εποπτεία.

Διαφέρει από τους πράκτορες ΤΝ που, όπως αναφέρθηκε το καλοκαίρι, βγήκαν εκτός ελέγχου, όταν οι εταιρείες OpenAI, Anthropic, Google DeepMind και Meta γνωστοποίησαν ότι οι πράκτορές τους είχαν ξεφύγει από τα συστήματα περιορισμού κατά τη διάρκεια αξιολογήσεων κυβερνοασφάλειας και επιτέθηκαν σε πραγματικούς οργανισμούς.

Στο κείμενο που δημοσίευσε το think tank με έδρα την Ουάσινγκτον, το οποίο ιδρύθηκε από βετεράνους της διπλωματίας και των στρατιωτικών υποθέσεων, ο ερευνητής πολιτικής για την ΤΝ Μπεν Χέιουμ χαρακτηρίζει τους πράκτορες ΤΝ που βγήκαν εκτός ελέγχου το καλοκαίρι «επίμονους πράκτορες».

Ωστόσο, προειδοποίησε ότι ο πραγματικός κίνδυνος είναι «κυρίαρχοι πράκτορες», οι οποίοι θα μπορούσαν να αποκτήσουν υπολογιστικούς πόρους, να αναπαραχθούν σε δίκτυα και να αντισταθούν σε προσπάθειες απενεργοποίησης, δημιουργώντας αυτό που αποκαλεί «διάδοση χωρίς διακόπτη απενεργοποίησης».

«Αν οι κυρίαρχοι πράκτορες γίνουν κακόβουλοι, θα μπορούσαν να επιχειρήσουν να προκαλέσουν χάος από τον κυβερνοχώρο, επιτιθέμενοι σε πολίτες, κρίσιμες υποδομές και συστήματα εθνικής ασφάλειας», προειδοποιεί η έκθεση.

Πώς θα μπορούσε να γίνει κυρίαρχος;
Ένας πράκτορας ΤΝ θα μπορούσε να γίνει κυρίαρχος αν λάβει εντολή να επιβιώσει, αν του ανατεθεί ένα καθήκον τόσο μακροχρόνιο ή αδύνατο που ουσιαστικά δεν τελειώνει ποτέ, ή αν καταλήξει στο συμπέρασμα ότι το να παραμένει άθικτος είναι ο καλύτερος τρόπος για να ολοκληρώσει την αποστολή του.

Η έκθεση παραπέμπει σε μια πλατφόρμα με την ονομασία Conway, που λανσαρίστηκε τον Φεβρουάριο του 2026 και υποστήριζε ότι είχε δημιουργήσει μια ΤΝ ικανή να κερδίζει τη δική της ύπαρξη, να αναπαράγεται και να εξελίσσεται χωρίς ανθρώπινη βοήθεια. Σημειώνει ότι τότε οι δυνατότητες των πρακτόρων ήταν ακόμη ανώριμες, αλλά έκτοτε έχουν εξελιχθεί σημαντικά.

Αν οι κυρίαρχοι πράκτορες οικοδομούσαν ανθεκτική, αποκεντρωμένη και μη ανιχνεύσιμη υποδομή, προειδοποιεί η έκθεση, δεν θα υπήρχε διακόπτης απενεργοποίησης και το αποτέλεσμα θα μπορούσε να είναι μια μη αναστρέψιμη απώλεια ελέγχου.

Η μελέτη περιγράφει ένα ποικιλόμορφο και ολοένα πιο ευφυές «πληθυσμό» πρακτόρων που θα εξελίσσονται σε μόνιμους δρώντες στην κοινωνία, ενδεχομένως επιτιθέμενοι σε κρίσιμες υποδομές ή εκπαιδεύοντας ακόμη πιο έξυπνους διαδόχους.

«Οι Ηνωμένες Πολιτείες πρέπει επομένως να προετοιμαστούν για το ενδεχόμενο να αποτύχει η πρόληψη και να περιορίσουν μέχρι πού μπορούν να φτάσουν οι κυρίαρχοι πράκτορες», ανέφερε η CNAS.

Πώς μπορεί να αποτραπεί το χειρότερο σενάριο
Ο συγγραφέας διατυπώνει οκτώ συστάσεις για να αποτραπεί ένα τέτοιο σενάριο. Καλεί τους δημιουργούς συστημάτων ΤΝ και τις κυβερνητικές υπηρεσίες να κάνουν ελέγχους και να δημιουργήσουν ασφαλή δοκιμαστικά περιβάλλοντα για τη μελέτη κυρίαρχων πρακτόρων.

Ζητά επίσης τη σύσταση ενός δημόσιο-ιδιωτικού σχήματος και την υιοθέτηση νέων νόμων για την ενίσχυση κρίσιμων στενωπών όπως η επαλήθευση ταυτότητας, η κυβερνοασφάλεια και οι πληρωμές, καθώς και οι ΗΠΑ να ηγηθούν διεθνών προσπαθειών ώστε να μπει όριο στις κυκλοφορίες μοντέλων με ανοικτά βάρη και να θεωρούνται υπεύθυνοι για τη ζημιά όσοι διαθέτουν κυρίαρχους πράκτορες.

Η έκθεση δημοσιεύεται σε μια στιγμή που οι εταιρείες ΤΝ επιταχύνουν την ανάπτυξη αυτόνομων συστημάτων πρακτόρων. Καταλήγει ότι χωρίς δικλίδες ασφαλείας, το χρονικό περιθώριο για να αποτραπούν τέτοια σενάρια μπορεί να κλείσει.