Η τεχνητή νοημοσύνη φτιάχνει… τον εαυτό της: Το εκρηκτικό άλμα της Anthropic και ο φόβος της «αναδρομικής αυτοβελτίωσης»
Ένα εσωτερικό διάγραμμα της Anthropic, της εταιρείας πίσω από το μοντέλο Claude, αποκαλύπτει μια θεμελιώδη μετατόπιση που προκαλεί ταυτόχρονα ενθουσιασμό και βαθιά ανησυχία στην τεχνολογική κοινότητα. Σύμφωνα με αποκαλυπτικό δημοσίευμα της Wall Street Journal, η τεχνητή νοημοσύνη αναλαμβάνει πλέον πρωταγωνιστικό ρόλο στην έρευνα και ανάπτυξη των ίδιων των μελλοντικών της εκδόσεων.
Τα στοιχεία δείχνουν ότι μέσα σε μόλις λίγους μήνες, το ποσοστό της εργασίας R&D όπου η AI είχε τον κύριο λόγο (υπό ανθρώπινη επίβλεψη) εκτοξεύθηκε από το μόλις 1% τον Μάρτιο του 2026 στο 26% τον Αύγουστο. Παράλληλα, το Claude συμμετείχε ως «συνεργάτης» σε περισσότερο από το 90% των συνολικών εργασιών της εταιρείας.
Ο εφιάλτης και η υπόσχεση της «αναδρομικής αυτοβελτίωσης»
Η ραγδαία αυτή εξέλιξη φέρνει στο προσκήνιο την έννοια της «αναδρομικής αυτοβελτίωσης» (recursive self-improvement), την προοπτική, δηλαδή, ενός συστήματος AI να σχεδιάζει αυτόνομα μια ανώτερη εκδοχή του εαυτού του, δημιουργώντας έναν ανεξέλεγκτα επιταχυνόμενο κύκλο προόδου.
Το «κλείσιμο του κύκλου»: Η Anthropic περιγράφει ως τελικό στόχο τη στιγμή που ένα μοντέλο θα μπορεί να δημιουργήσει αυτόνομα τον διάδοχό του. Αν και μέχρι τον Αύγουστο το ποσοστό της πλήρως αυτόνομης εργασίας χωρίς ανθρώπινη παρέμβαση παρέμενε στο μηδέν, η τάση δείχνει ότι η απόσταση μικραίνει επικίνδυνα.
Αλλαγή χρονοδιαγραμμάτων: Ο συνιδρυτής της Anthropic, Τζακ Κλαρκ, παραδέχθηκε ότι τα πράγματα εξελίσσονται πολύ ταχύτερα από το αναμενόμενο. Ενώ αρχικά τοποθετούσε την επίτευξη της πλήρους αναδρομικής αυτοβελτίωσης το 2028, πλέον θεωρεί πιθανότερο ορόσημο το 2027.
Προειδοποιήσεις για απώλεια ελέγχου και η ανάγκη για διαφάνεια
Παρά τα προφανή οφέλη για τις τεχνολογικές εταιρείες, όπως η ταχύτερη επίλυση σύνθετων προβλημάτων και η διεξαγωγή περισσότερων δοκιμών ασφαλείας, γεννάται ένα αμείλικτο ερώτημα: κατά πόσο ο άνθρωπος θα μπορεί να κατανοεί και να ελέγχει συστήματα που αναπτύσσονται αυτόνομα.
Ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, έχει προειδοποιήσει ανοιχτά ότι αν η διαδικασία αυτή προχωρήσει ανεξέλεγκτα, ενδέχεται να ξεπεράσει την ανθρώπινη ικανότητα επιτήρησης. Την ίδια στιγμή, η εταιρεία αναγνωρίζει τα όρια των δικών της μετρήσεων —καθώς το Claude χρησιμοποιήθηκε για να αξιολογήσει την εργασία του Claude— και απευθύνει έκκληση για ανεξάρτητη επαλήθευση και κοινές μεθόδους αξιολόγησης σε ολόκληρο τον κλάδο της τεχνητής νοημοσύνης.
