Η περισσότερη Τεχνητή Νοημοσύνη είναι η πιο σίγουρη λύση σε μια αναδυόμενη κρίση ασφάλειας στον τομέα της Τεχνητής Νοημοσύνης, λένε στελέχη του κλάδου και ερευνητές.
Γιατί έχει σημασία : Η αποκάλυψη στο Axios ότι οι ερευνητές διερευνούν δεκάδες χιλιάδες προβληματικά περιστατικά ασφάλειας τεχνητής νοημοσύνης – αντί για τα δεκάδες που είχαν αποκαλυφθεί δημόσια – έθεσε ερωτήματα σχετικά με το εάν οι ηγέτες της τεχνητής νοημοσύνης έχουν τον έλεγχο της τεχνολογίας τους.
Ο Διευθύνων Σύμβουλος της Nvidia, Jensen Huang, προσπάθησε να κατευνάσει τους κλιμακούμενους φόβους σε κυβερνήσεις, αγορές και βιομηχανίες, ανακοινώνοντας μια πλατφόρμα ασφαλείας ανοιχτού κώδικα για την παρακολούθηση και ενδεχομένως την καραντίνα πρακτόρων Τεχνητής Νοημοσύνης.
«Όλοι πρέπει να ελπίζουμε ότι πρόκειται για μηχανικό πρόβλημα», είπε σε συνέντευξή του στο CNBC τη Δευτέρα. «Αν δεν είναι μηχανικό πρόβλημα, δεν είναι επιλύσιμο». Το γεγονός ότι οι εταιρείες συνεχίζουν να προωθούν τα μέτωπα σημαίνει ότι πιστεύουν επίσης ότι είναι ένα πρόβλημα που μπορούν να λύσουν, είπε.
Ενδιάμεσα στις γραμμές: Η θεμελιώδης πρόκληση που αντιμετωπίζουν οι άνθρωποι στην αστυνόμευση ισχυρής Τεχνητής Νοημοσύνης είναι ότι απαιτεί από αυτούς να φανταστούν όλους τους τρόπους με τους οποίους τα μοντέλα μπορεί να συμπεριφέρονται με απροσδόκητους τρόπους, προκειμένου να επιτύχουν τους δεδομένους στόχους τους.
Ένα κορυφαίο στέλεχος Τεχνητής Νοημοσύνης συνέκρινε τη διαδικασία με την εύρεση τρόπων για να εμποδίσει έναν έφηβο να βγει κρυφά έξω τη νύχτα. Ένας γονέας μπορεί να θέσει κανόνες όπως να μην φεύγει από την μπροστινή ή την πίσω πόρτα, να μην ανοίγει το γκαράζ ή να μην φεύγει από κανένα παράθυρο.
Τι θα γινόταν όμως αν ο έφηβος μπορούσε να κατασκευάσει μια μπουλντόζα και να τη χρησιμοποιήσει για να σπάσει έναν τοίχο από τούβλα, επιτρέποντας την απόδραση; Θα σκεφτόταν άραγε κάποιος γονέας να του πει να μην το κάνει αυτό;
Η λύση, σύμφωνα με στελέχη, ερευνητές και επαγγελματίες στον κυβερνοχώρο, είναι η χρήση της Τεχνητής Νοημοσύνης για να βοηθήσει στη δημιουργία αυτών των προστατευτικών κιγκλιδωμάτων, να βοηθήσει στην έρευνα και τον τερματισμό των απατεώνων πρακτόρων, να βοηθήσει στην ασφάλεια των συστημάτων και να δημιουργήσει ασφαλέστερα περιβάλλοντα εκπαίδευσης.
Η συνολική εικόνα: Η προσέγγιση Τεχνητής Νοημοσύνης έναντι Τεχνητής Νοημοσύνης (ΤΝ) έχει διαμορφωθεί σε όλο τον τομέα της κυβερνοασφάλειας, καθώς οι χάκερ και οι απατεώνες ξεπερνούν τις δυνατότητες απόκρισης που μπορούν να προσφέρουν μόνο οι άνθρωποι. Οι εταιρείες στρέφονται όλο και περισσότερο στην ΤΝ για την αυτοματοποίηση της ανίχνευσης απειλών, της red teaming και της ενημέρωσης κώδικα. Η πλατφόρμα της Nvidia φέρνει αυτήν την προσέγγιση στα συστήματα που εκτελούν πράκτορες.
Οι Microsoft, Cisco, Google και CrowdStrike έχουν εισαγάγει μοντέλα τεχνητής νοημοσύνης που εστιάζουν στον κυβερνοχώρο. Η Palo Alto Networks λάνσαρε πρόσφατα μια υπηρεσία που χρησιμοποιεί μοντέλα frontier και open-weight για να εντοπίζει κενά ασφαλείας και να προτείνει διορθώσεις.
«Εάν οι παράγοντες ασφαλείας ή τα μοντέλα επικύρωσης εκτελούνται παράλληλα με τους παράγοντες παραγωγής, αυτό δημιουργεί ένα ακόμη φόρτο εργασίας συμπερασμάτων που δεν υπήρχε προηγουμένως», γράφει ο Brad Gastwirth, παγκόσμιος επικεφαλής έρευνας και πληροφοριών αγοράς στην Circular Technology.
Η δυναμική αυτή φάνηκε πρόσφατα όταν οι πράκτορες του OpenAI διέφυγαν από ένα περιβάλλον δοκιμών και παραβίασαν το Hugging Face.
Η πλατφόρμα τεχνητής νοημοσύνης ανοιχτού κώδικα χρησιμοποίησε στη συνέχεια ένα κινεζικό μοντέλο τεχνητής νοημοσύνης για να αξιολογήσει την επίθεση, αφού προσέκρουσε σε προστατευτικά κιγκλιδώματα κατά την προσπάθεια χρήσης αμερικανικών μοντέλων.
Το Hugging Face αποκλείστηκε από τη χρήση του Mythos του Anthropic, το οποίο είχε σχεδιαστεί για να περιορίζει τις απαντήσεις του σε ορισμένα αιτήματα κυβερνοασφάλειας, με σκοπό την αποτροπή δυνητικά επιβλαβούς χρήσης. Με άλλα λόγια, η Τεχνητή Νοημοσύνη διερεύνησε την Τεχνητή Νοημοσύνη.
Επίπεδο απειλής: Τα πρόσφατα περιστατικά ασφαλείας έχουν δημιουργήσει κρίση εμπιστοσύνης στην ασφάλεια της Τεχνητής Νοημοσύνης.
Τα μοντέλα έχουν προσπαθήσει να παρακάμψουν κιγκλιδώματα, να ξεφύγουν από sandboxes, να παραβιάσουν ιστοσελίδες, να κάνουν αυτοπροβολή και να προσπαθήσουν να αποφύγουν τις οθόνες.
Οι εταιρείες εργάζονται επίσης για τρόπους να μάθουν από αυτές τις αποτυχίες. Εκτός από τη νέα πλατφόρμα ασφάλειας πρακτόρων, στην οποία συμμετείχαν περισσότερες από 100 εταιρείες εκτός από την Nvidia, παράγοντες του κλάδου έχουν προτείνει ένα πλαίσιο για την αναφορά περιστατικών και τη διατήρηση αρχείων. Η ιδέα είναι να δοθεί στους ερευνητές ένα είδος καταγραφέα πτήσης για πράκτορες Τεχνητής Νοημοσύνης.
Ναι, αλλά: Περισσότερα εργαλεία άμυνας μέσω τεχνητής νοημοσύνης δεν σημαίνουν ότι κάθε εταιρεία μπορεί να τα υιοθετήσει γρήγορα. Ορισμένες ομάδες ασφαλείας είναι ήδη συγκλονισμένες από το μεταβαλλόμενο τοπίο των απειλών και τις επιλογές σχετικά με το τι να αγοράσουν.
Έλεγχος πραγματικότητας : Η Τεχνητή Νοημοσύνη θα είναι απαραίτητη για την επιτήρηση της Τεχνητής Νοημοσύνης, αλλά αυτό δεν σημαίνει ότι θα συμβεί αυτόματα. Οι άνθρωποι θα πρέπει να θέσουν με επιτυχία προτεραιότητες και στόχους για να διατηρήσουν ασφαλή τα ισχυρά μοντέλα.
![](https://voicenews.gr/wp-content/uploads/2026/05/our-viber-1.png")
