Παρ’ ολίγον πολεμική σύγκρουση ΗΠΑ-Κίνας από τραγικό λάθος της τεχνητής νοημοσύνης

Ανακαλύψτε περισσότερα άρθρα στα αποτελέσματα αναζήτησης

Προσθήκη του VoiceNews στην Google

Σε παρά τρίχα αποφυγή πολεμικού επεισοδίου ανάμεσα στις ΗΠΑ και την Κίνα οδήγησε ένα σοβαρό σφάλμα λογισμικού τεχνητής νοημοσύνης, εγείροντας έντονους προβληματισμούς για την εξάρτηση των ενόπλων δυνάμεων από την τεχνολογία.

Σύμφωνα με αποκαλυπτικό ρεπορτάζ του CNN, αμερικανικές ειδικές δυνάμεις και πολεμικά αεροσκάφη βρίσκονταν σε πλήρη ετοιμότητα να χτυπήσουν κινεζικό πλοίο, το οποίο θεωρήθηκε εσφαλμένα ότι μετέφερε εξαρτήματα πυρηνικών όπλων.

Η επιχείρηση ακυρώθηκε την τελευταία στιγμή, όταν ανώτεροι αξιωματικοί εξέτασαν σε βάθος την αναφορά πληροφοριών και διαπίστωσαν ότι το συμπέρασμα είχε προκύψει από λανθασμένη ανάλυση chatbot.

Πώς το AI chatbot παρήγαγε το ψευδές αναφορικό

Το επεισόδιο ξεκίνησε όταν αναλυτής της Διοίκησης Ειδικών Επιχειρήσεων χρησιμοποίησε ένα εργαλείο τεχνητής νοημοσύνης για να επεξεργαστεί δεδομένα σχετικά με το δηλωτικό φορτίου του πλοίου.

Το σύστημα συνδύασε πληροφορίες ανοιχτού κώδικα με διαβαθμισμένα σήματα, προχωρώντας σε μια τελείως εσφαλμένη εκτίμηση για το περιεχόμενο των εμπορευματοκιβωτίων.

Στη συνέχεια, ο αναλυτής αναπαρήγαγε την αναφορά μέσω του λογισμικού και τη διοχέτευσε στην αλυσίδα διοίκησης, φέρνοντας τις δύο υπερδυνάμεις μια ανάσα από την ένοπλη σύρραξη.

Οι κίνδυνοι από την αλόγιστη ενσωμάτωση της τεχνολογίας στο στρατόπεδο

Το περιστατικό αναδεικνύει τις μεγάλες πιέσεις για καθολική ενσωμάτωση του AI στον αμερικανικό στρατό, την ώρα που η ηγεσία του Πενταγώνου και ο υπουργός Άμυνας Πιτ Χέγκσεθ προωθούν επιθετικά τη χρήση του σε όλους τους τομείς.

Παρά την προσπάθεια επικράτησης στην «κούρσα της τεχνητής νοημοσύνης» απέναντι στο Πεκίνο, η έλλειψη ενιαίων προτύπων επαλήθευσης και η αποκεντρωμένη χρήση μη ελεγμένων εργαλείων αυξάνουν τον κίνδυνο καταστροφικών λανθασμένων υπολογισμών.

Αναλυτές προειδοποιούν ότι ο μεγαλύτερος και πιο άμεσος κίνδυνος δεν είναι η απώλεια ελέγχου από τις μηχανές, αλλά η τυφλή εμπιστοσύνη των ανθρώπων σε παραπλανητικά δεδομένα που παράγονται από αυτές.