Δύο φοιτητές μετέτρεψαν τα ψηφιακά γυαλιά της Meta σε μηχανή αναγνώρισης προσώπων

Ανακαλύψτε περισσότερα άρθρα στα αποτελέσματα αναζήτησης

Προσθήκη του VoiceNews στην Google

Δύο φοιτητές του Χάρβαρντ έγιναν πρωτοσέλιδο αφού μετέτρεψαν τα έξυπνα γυαλιά της Meta σε μια συσκευή που καταγράφει αυτόματα τα πρόσωπα των ανθρώπων με σύστημα αναγνώρισης προσώπου και τα περνάει από μηχανές αναζήτησης προσώπων. Μία από τις εταιρείες που παρέχουν τη λειτουργία αναζήτησης προσώπου, η PimEyes, δεν είναι και πολύ χαρούμενη γι’ αυτό.

Οι AnhPhu Nguyen και Caine Ardayfio δημοσίευσαν ένα βίντεο στο οποίο χρησιμοποιούν τα έξυπνα γυαλιά για να αναγνωρίζουν ανθρώπους στο δρόμο και να αναζητούν τις προσωπικές τους πληροφορίες μέσω υπηρεσιών όπως η PimEyes. Οι μαθητές χρησιμοποίησαν την ενσωματωμένη κάμερα στα γυαλιά Ray-Ban της Meta για να καταγράψουν ζωντανό βίντεο μέσω Instagram και το έτρεξαν μέσω του λογισμικού τους I-XRAY.

«Μεταδίδουμε το βίντεο από τα γυαλιά κατευθείαν στο Instagram και έχουμε ένα πρόγραμμα υπολογιστή που παρακολουθεί τη ροή», λέει ο Nguyen στο βίντεο. «Χρησιμοποιούμε τεχνητή νοημοσύνη για να ανιχνεύσουμε πότε κοιτάμε το πρόσωπο κάποιου, και στη συνέχεια σαρώνουμε το διαδίκτυο για να βρούμε περισσότερες φωτογραφίες αυτού του ατόμου. Τέλος, χρησιμοποιούμε πηγές δεδομένων όπως διαδικτυακά άρθρα και βάσεις δεδομένων εγγραφής ψηφοφόρων για να βρούμε το όνομα, τον αριθμό τηλεφώνου, τη διεύθυνση κατοικίας και τα ονόματα των συγγενών τους και όλα αυτά τροφοδοτούνται σε μια εφαρμογή που γράψαμε στο τηλέφωνό μας».

Η όλη διαδικασία ολοκληρώνεται μέσα σε ενάμιση λεπτό, προσθέτουν.

Ακούστε επίσης: Το Σκορ Καλού Πολίτη

Το λογισμικό I-XRAY είναι μοναδικό επειδή βασίζεται σε μεγάλα γλωσσικά μοντέλα (LLM) τεχνητής νοημοσύνης για την επεξεργασία και τη σύνθεση μεγάλου όγκου πληροφοριών. Ο κύριος στόχος πίσω από το έργο, ωστόσο, δεν είναι να επιδείξει πώς λειτουργούν μαζί τα LLMs και η αντίστροφη αναζήτηση προσώπων, αλλά να αναδείξει τους κινδύνους για την προστασία της ιδιωτικής ζωής από την ευρέως διαθέσιμη τεχνολογία, σημειώνουν οι δύο φοιτητές του Χάρβαρντ.

Η PimEyes, ωστόσο, προειδοποιεί ότι ενώ οι ερευνητές ισχυρίζονται ότι αυξάνουν την ευαισθητοποίηση του κοινού, το έργο μπορεί να έχει μη αναστρέψιμες συνέπειες, εμπνέοντας άλλους να αντιγράψουν την τεχνολογία.

«Όχι μόνο απέδειξαν το επιχείρημά τους, αλλά επίσης παρείχαν ακούσια ένα σχέδιο για κακόβουλα άτομα για το πώς να οπλοποιήσουν εύκολα διαθέσιμα εργαλεία», δήλωσε ο διευθυντής της PimEyes, Giorgi Gobronidze, στο Biometric Update.
Η εταιρεία με έδρα την Τιφλίδα της Γεωργίας δήλωσε επίσης ότι η χρήση αντιβαίνει στους Όρους Υπηρεσιών της και ανακοίνωσε την εφαρμογή πρόσθετων μέτρων ασφαλείας για την αποτροπή παρόμοιων περιστατικών στο μέλλον.

«Αυτή τη στιγμή έχουμε ήδη απαγορεύσει δύο λογαριασμούς που σχετίζονται με τους δημιουργούς του έργου και έξι ακόμη διερευνώνται περαιτέρω», λέει ο Gobronidze. «Στο εγγύς μέλλον, θα επικαιροποιήσουμε περαιτέρω τα πρωτόκολλα και τις πολιτικές ασφαλείας μας, ώστε να αποτρέψουμε οποιαδήποτε κατάχρηση της τεχνολογίας μας».

Ο διευθυντής της PimEyes σημείωσε ότι το εγχείρημα θα μπορούσε να είχε διεξαχθεί χωρίς τη συμμετοχή τους, καθώς υπάρχουν πολύ πιο ισχυρά εργαλεία, όπως μηχανές βιομετρικής αναγνώρισης προσώπου. Αυτές είναι κατά 20 έως 35 τοις εκατό πιο ακριβείς από την υπηρεσία της PimEyes, η οποία επικεντρώνεται στη φωτογραφική ανάλυση και όχι στη βιομετρική αναγνώριση προσώπου, λέει.

«Λαμβάνοντας υπόψη το γεγονός ότι έχουμε εφαρμόσει πολυάριθμες θεσμικές και τεχνολογικές αλλαγές για να βελτιώσουμε τις υπηρεσίες και τις πρακτικές μας, είναι πράγματι απογοητευτικό να βλέπουμε κάποιον να κάνει κατάχρηση όχι μόνο της τεχνολογίας μας, αλλά και άλλων εργαλείων και βάσεων δεδομένων ανοιχτού κώδικα για να δημιουργήσει κάτι που, κατά τη γνώμη μου, στερείται σκοπού και δεν συνεισφέρει κανένα απτό όφελος», λέει ο Gobronidze

Η PimEye’s λαμβάνει επίσης την προσοχή και στη Νέα Ζηλανδία, όπου οι αρχές επιβολής του νόμου βρέθηκαν να έχουν πρόσβαση στις ιστοσελίδες της.

Ένας εσωτερικός έλεγχος διαπίστωσε ότι το προσωπικό της αστυνομίας είχε πρόσβαση στον ιστότοπο της PimEyes σχεδόν 400 φορές πέρυσι, μέχρι να μπλοκάρει τον ιστότοπο τον Μάιο του 2023. Η αστυνομία της Νέας Ζηλανδίας χρησιμοποίησε επίσης μια παρόμοια υπηρεσία που ονομάζεται Facecheck.ID σχεδόν 300 φορές.

Σε δήλωσή της στο ειδησεογραφικό πρακτορείο RNZ, η αστυνομία ανέφερε ότι δεν είναι δυνατόν να προσδιοριστεί τι έκαναν οι χρήστες στον ιστότοπο, αλλά ότι είναι απίθανο το προσωπικό να χρησιμοποίησε κάποια από τις λειτουργίες σάρωσης.

«Ο συνολικός όγκος των δεδομένων που μεταφέρθηκαν ήταν τόσο μικρός, που δεν είναι πιθανό να υπήρξε σημαντική χρήση», ανέφερε.

Η PimEyes δήλωσε στο BiometricUpdate ότι δεν γνώριζε για τη χρήση.

«Δεν έχουμε κανένα συμβόλαιο ή θεσμική συνεργασία με οποιαδήποτε αρχή επιβολής του νόμου και όποτε θέλουν να χρησιμοποιήσουν τις υπηρεσίες μας, είναι στη διακριτική τους ευχέρεια», λέει ο διευθυντής της εταιρείας Giorgi Gobronidze.

Φέτος, το Ηνωμένο Βασίλειο απαγόρευσε στη μεγαλύτερη αστυνομική του δύναμη να χρησιμοποιεί το PimEyes, αφού διαπιστώθηκε ότι είχε πρόσβαση στο λογισμικό πάνω από 2.000 φορές. Η χρήση του λογισμικού από τις υπηρεσίες επιβολής του νόμου έχει επίσης προκαλέσει ανησυχία στην Αυστραλία και τη Γερμανία.

Πηγή reclaimthenet.org