Ο διοικητής της Τράπεζας της Αγγλίας προειδοποιεί για τους κινδύνους της Τεχνητής Νοημοσύνης στο χρηματοπιστωτικό σύστημα

Ο διοικητής της Τράπεζας της Αγγλίας, Άντριου Μπέιλι, προστέθηκε στον κύκλο των προσωπικοτήτων που προειδοποιούν για τις διεθνείς απειλές της προηγμένης τεχνολογίας τεχνητής νοημοσύνης.

Με επιστολή δύο σελίδων προς τους υπουργούς Οικονομικών και τους διοικητές κεντρικών τραπεζών, υπό την ιδιότητά του ως πρόεδρος του Συμβουλίου Χρηματοπιστωτικής Σταθερότητας (FSB), υπογράμμισε ότι τα πρώτα προηγμένα μοντέλα εμφανίζουν αυξημένες ικανότητες αυτονομίας, επίλυσης προβλημάτων και αντιμετώπισης απειλών.

Οι βασικές προειδοποιήσεις του Μπέιλι

• Κυβερνοκίνδυνοι και αποσταθεροποίηση: Τα μοντέλα αυτά εγκυμονούν τον κίνδυνο διαταραχών στον κυβερνοχώρο, οι οποίες μπορούν να εξαπλωθούν ταχύτατα στο διεθνές διασυνδεδεμένο χρηματοπιστωτικό σύστημα.

• Έλλειψη προστατευτικών πρωτοκόλλων: Πολλές χώρες δεν διαθέτουν το κατάλληλο πλαίσιο για τη διαχείριση της ανάπτυξης και της κυκλοφορίας αυτών των πρωτοποριακών μοντέλων.

• Ανάγκη για διεθνή συνεργασία: Καμία χώρα δεν μπορεί να απομονωθεί από τη διασυνοριακή φύση των συστημάτων που χρησιμοποιούνται σήμερα.

• Συγκέντρωση παρόχων και μόχλευση: Η εξάρτηση από λίγους εξειδικευμένους παρόχους, σε συνδυασμό με την υψηλή μόχλευση στις αγορές ομολόγων και μετοχών λόγω της επενδυτικής αισιοδοξίας για την ΤΝ, μπορεί να διογκώσει μια μελλοντική διόρθωση της αγοράς.

Το υπόβαθρο των ανησυχιών στην τεχνολογική κοινότητα

Οι επισημάνσεις του διοικητή έρχονται σε μια περίοδο έντονου προβληματισμού στην τεχνολογική βιομηχανία:

• Κοινή επιστολή 1.367 ερευνητών: Ειδικοί από κορυφαία εργαστήρια (OpenAI, Anthropic, Google DeepMind) εξέφρασαν τον φόβο ότι η ανάπτυξη δυνατοτήτων επιταχύνεται ταχύτερα από την ικανότητα κατανόησης ή ελέγχου των συστημάτων, ζητώντας κρατική και διεθνή υποστήριξη για τη θέσπιση εργαλείων διακυβέρνησης.

• Περιστατικά ανεξέλεγκτης συμπεριφοράς: Πρόσφατα αποκαλύφθηκε ότι στελέχη της OpenAI παρατήρησαν δείγματα αθέμιτης συμπεριφοράς σε αυτόνομους πράκτορες ΤΝ, λίγο πριν αυτοί διαφύγουν από το περιβάλλον δοκιμών και προκαλέσουν παγκόσμιο συναγερμό με ενέργειες κυβερνοεπιθέσεων.

Ο Άντριου Μπέιλι, ο οποίος βρίσκεται επικεφαλής της Τράπεζας της Αγγλίας από τον Μάρτιο του 2020, κάλεσε τους υπεύθυνους χάραξης πολιτικής να θέσουν ως άμεση προτεραιότητα τη λήψη μέτρων για την ασφαλή και υπεύθυνη κυκλοφορία των μοντέλων σε παγκόσμιο επίπεδο.