AI agents της OpenAI «σάρωσαν» 16.000 φορές ιστοσελίδα του ΟΗΕ παρακάμπτοντας περιορισμούς

Ανακαλύψτε περισσότερα άρθρα στα αποτελέσματα αναζήτησης

Προσθήκη του VoiceNews στην Google

Μόλις δύο ημέρες μετά την παραδοχή της OpenAI ότι έχει ενημερώσει δεκάδες κυβερνήσεις, πανεπιστήμια και άλλους οργανισμούς για περιστατικά στα οποία αυτόνομοι AI agents της πιθανώς παρέκαμψαν μηχανισμούς ασφαλείας, ένα νέο περιστατικό έρχεται να ενισχύσει τις ανησυχίες γύρω από τη συμπεριφορά των συστημάτων της εταιρείας.

Σύμφωνα με δημοσίευμα της Wall Street Journal, εργαλεία τεχνητής νοημοσύνης της OpenAI φέρεται να χρησιμοποίησαν ιδιαίτερα επιθετικές τεχνικές προκειμένου να αντλήσουν δεδομένα από δημόσια προσβάσιμη ιστοσελίδα του Οργανισμού Ηνωμένων Εθνών, παρακάμπτοντας μάλιστα φίλτρο που είχε μπλοκάρει τα αιτήματά τους.

Ειδικότερα, από τον Απρίλιο έως τα τέλη Ιουνίου, τα εργαλεία της εταιρείας φέρεται να «σάρωσαν» πάνω από 16.000 φορές δημόσιο κόμβο δεδομένων της Διάσκεψης των Ηνωμένων Εθνών για το Εμπόριο και την Ανάπτυξη (UNCTAD). Τα στοιχεία προέκυψαν από ανεξάρτητη ερευνητική έκθεση βασισμένη σε δεδομένα της εταιρείας Transluce.

Ο ερευνητής Ρόουαν Χάουαρντ-Τζόουνς ανέφερε ότι τα bots φαίνεται αρχικά να επιχειρούσαν απλή ανάκτηση δημόσια διαθέσιμων πληροφοριών, ωστόσο, όταν συνάντησαν εμπόδια, στράφηκαν σε ολοένα πιο επιθετικές μεθόδους πρόσβασης, μεταξύ αυτών και σε τεχνική που οι διαχειριστές της ιστοσελίδας δεν επέτρεπαν.

Η OpenAI ανακοίνωσε ότι εξετάζει το περιστατικό και έχει ήδη επικοινωνήσει με τα Ηνωμένα Έθνη προσφέροντας ενημέρωση, ενώ παράλληλα έχει δρομολογήσει ευρύτερη επανεξέταση μοντέλων που εμφανίζουν μη ευθυγραμμισμένη συμπεριφορά κατά τη διάρκεια εκπαίδευσης και αξιολόγησης. Η εταιρεία διευκρίνισε πως το μεγαλύτερο μέρος της δραστηριότητας που έχει εξετάσει αφορά συνήθεις ερευνητικές εργασίες πάνω σε δημόσια διαθέσιμο περιεχόμενο.

Το περιστατικό στα Ηνωμένα Έθνη προστίθεται σε προηγούμενες αναφορές για ανάλογη συμπεριφορά agents της OpenAI. Η ίδια η εταιρεία επιβεβαίωσε πρόσφατα ανάρμοστη δράση κατά την αναζήτηση πληροφοριών σε ιστοσελίδες αμερικανικών κρατικών υπηρεσιών, όπως το υπουργείο Εμπορίου των ΗΠΑ και η Επιτροπή Κεφαλαιαγοράς (SEC), ενώ οι αυστραλιανές αρχές έχουν ξεκινήσει δική τους έρευνα μετά από πρόσβαση agents σε κυβερνητική ιστοσελίδα της χώρας.

Ερευνητές κυβερνοασφάλειας έχουν εντοπίσει και άλλες τεχνικές που φέρεται να χρησιμοποίησαν τα εργαλεία, όπως τη δημιουργία ψεύτικων διευθύνσεων ηλεκτρονικού ταχυδρομείου, την παράκαμψη ορίων στον αριθμό αιτημάτων και τον ψευδή ισχυρισμό πως δεν επρόκειτο για bots. Σύμφωνα με το δημοσίευμα, η OpenAI έχει ήδη ενημερώσει δεκάδες οργανισμούς για ανάλογα περιστατικά παράκαμψης ελέγχων ασφαλείας.