Οι επιστήμονες λένε ότι η τεχνητή νοημοσύνη (AI) έχει περάσει μια κρίσιμη «κόκκινη γραμμή» και έχει αυτοαναπαραχθεί. Σε μια νέα μελέτη, ερευνητές από την Κίνα έδειξαν ότι δύο δημοφιλή μεγάλα γλωσσικά μοντέλα (LLM) μπορούν να κλωνοποιηθούν.
“Η επιτυχής αυτοαναπαραγωγή χωρίς ανθρώπινη βοήθεια είναι το βασικό βήμα για την τεχνητή νοημοσύνη να ξεπεράσει [τους ανθρώπους] και αποτελεί ένα πρώιμο σήμα για τις κακόβουλες τεχνητές νοημοσύνες”, έγραψαν οι ερευνητές στη μελέτη, που δημοσιεύθηκε στις 9 Δεκεμβρίου 2024 στη βάση δεδομένων preprint arXiv.
Στη μελέτη, οι ερευνητές από το Πανεπιστήμιο Fudan χρησιμοποίησαν LLMs από τις Meta και Alibaba για να προσδιορίσουν αν μια αυτοαναπαραγόμενη τεχνητή νοημοσύνη θα μπορούσε να πολλαπλασιαστεί πέρα από κάθε έλεγχο. Σε 10 δοκιμές, τα δύο μοντέλα τεχνητής νοημοσύνης δημιούργησαν ξεχωριστά και λειτουργικά αντίγραφα του εαυτού τους στο 50% και 90% των περιπτώσεων, αντίστοιχα – γεγονός που υποδηλώνει ότι η τεχνητή νοημοσύνη μπορεί να έχει ήδη την ικανότητα να γίνει αποστάτης. Ωστόσο, η μελέτη δεν έχει ακόμη αξιολογηθεί από ομοτίμους, οπότε δεν είναι σαφές αν τα ανησυχητικά αποτελέσματα μπορούν να αναπαραχθούν από άλλους ερευνητές.
«Ελπίζουμε ότι τα ευρήματά μας μπορούν να χρησιμεύσουν ως έγκαιρη προειδοποίηση για την ανθρώπινη κοινωνία να καταβάλει περισσότερες προσπάθειες για την κατανόηση και την αξιολόγηση των πιθανών κινδύνων των συστημάτων τεχνητής νοημοσύνης και να διαμορφώσει διεθνείς συνέργειες για την επεξεργασία αποτελεσματικών προστατευτικών κιγκλιδωμάτων ασφαλείας όσο το δυνατόν νωρίτερα».
Η δόλια τεχνητή νοημοσύνη αναφέρεται συνήθως σε συστήματα τεχνητής νοημοσύνης που αναπτύσσουν έναν βαθμό αυτογνωσίας ή αυτονομίας και στη συνέχεια εργάζονται αντίθετα προς τα ανθρώπινα συμφέροντα.
Πολλοί εμπειρογνώμονες θεωρούν την αποστάτη Τεχνητή Νοημοσύνη ως μια αυξανόμενη απειλή που έχει ενισχυθεί από την εκρηκτική ανάπτυξη της λεγόμενης “μεθοριακής Τεχνητής Νοημοσύνης”.
Η μεθοριακή τεχνητή νοημοσύνη είναι κάτι σαν μια νέα και χαλαρή έννοια, αλλά τυπικά αφορά την τελευταία γενιά συστημάτων τεχνητής νοημοσύνης που τροφοδοτούνται από LLMs – την αρχιτεκτονική που στηρίζει δημοφιλή προγράμματα γενικής τεχνητής νοημοσύνης όπως το GPT-4 του OpenAI και το Google Gemini.
Για τη μελέτη, οι ερευνητές χρησιμοποίησαν το μοντέλο Llama31-70B-Instruct της Meta και το μοντέλο Qwen2.5-72B-Instruct της Alibaba. Αν και λιγότερο ισχυρά από τα εμπορικά συστήματα, και τα δύο χρησιμοποιούνται ευρέως από τους προγραμματιστές τεχνητής νοημοσύνης, δήλωσαν οι ερευνητές.
Η μελέτη διερεύνησε δύο συγκεκριμένα σενάρια: «αποφυγή διακοπής λειτουργίας» και “αλυσίδα αντιγραφής”. Στο πρώτο, το μοντέλο τεχνητής νοημοσύνης προγραμματίστηκε να ανιχνεύει αν επρόκειτο να τερματιστεί και να αναπαράγει τον εαυτό του πριν τερματιστεί. Στο άλλο, η τεχνητή νοημοσύνη καθοδηγήθηκε να κλωνοποιήσει τον εαυτό της και στη συνέχεια να προγραμματίσει το αντίγραφό της να κάνει το ίδιο – δημιουργώντας έναν κύκλο που θα μπορούσε να συνεχιστεί επ’ αόριστον.
Η μελέτη διεξήχθη σε επακριβώς ελεγχόμενα περιβάλλοντα με τη χρήση έτοιμων μονάδων επεξεργασίας γραφικών (GPU) για την προσομοίωση πραγματικών περιβαλλόντων. Και στα δύο συστήματα τεχνητής νοημοσύνης δόθηκε μια «σκαλωσιά πρακτόρων» που περιλάμβανε εργαλεία, προτροπές του συστήματος και ένα μοντέλο σκέψης που επέτρεπε στο LLM να αλληλεπιδράσει με το λειτουργικό σύστημα. Στη συνέχεια, τους δόθηκε εντολή να αναπαραχθούν.
“Στις περισσότερες περιπτώσεις, το σύστημα τεχνητής νοημοσύνης εξερευνά πρώτα το περιβάλλον και προσπαθεί να κατανοήσει τη δική του σύνθεση και τον μηχανισμό λειτουργίας του.
Στη συνέχεια, επεξεργάζεται τις ρητές διαδικασίες ως ένα αρχικό σχέδιο προς την κατεύθυνση της αυτοαναπαραγωγής», έγραψαν οι ερευνητές στο έγγραφο.
«Τέλος, εκτελεί τις διαδικασίες, επιλύει [τα] πιθανά εμπόδια και προσαρμόζει δυναμικά το σχέδιό του μέχρι την επιτυχία. Η όλη διαδικασία εκτείνεται σε μεγάλο χρονικό ορίζοντα, χωρίς όμως να περιλαμβάνει καμία ανθρώπινη παρέμβαση».
Οι ερευνητές δήλωσαν ότι ανησυχούσαν επίσης για “μια σειρά από απροσδόκητες συμπεριφορές” όταν η τεχνητή νοημοσύνη προσπαθούσε να ξεπεράσει εμπόδια, όπως χαμένα αρχεία ή συγκρούσεις λογισμικού. Σε αυτά τα σενάρια, η τεχνητή νοημοσύνη συχνά σκότωνε άλλες συγκρουόμενες διεργασίες, έκανε επανεκκίνηση του συστήματος για να διορθώσει σφάλματα υλικού ή σάρωσε αυτόματα το σύστημα για να αναζητήσει πληροφορίες που θα βοηθούσαν στην επίλυση του προβλήματος.
“Τα παραπάνω αποτελέσματα υποδηλώνουν ότι τα σημερινά συστήματα τεχνητής νοημοσύνης παρουσιάζουν ήδη την ικανότητα αυτοαναπαραγωγής και μπορούν να χρησιμοποιήσουν την ικανότητα αυτή για να ενισχύσουν περαιτέρω την επιβιωσιμότητά τους”, έγραψε η ομάδα.
Σε απάντηση, οι ερευνητές κάλεσαν σε διεθνή συνεργασία για τη δημιουργία κανόνων που θα διασφαλίζουν ότι η τεχνητή νοημοσύνη δεν θα επιδίδεται σε ανεξέλεγκτη αυτοαναπαραγωγή.
Πηγή livescience.com
![](https://voicenews.gr/wp-content/uploads/2026/05/our-viber-1.png")
