Η ΠΡΩΤΗ ΚΑΤΑΓΓΕΛΙΑ ΓΙΑ ΑΥΘΑΙΡΕΤΗ ΧΡΗΣΗ ΤΕΧΝΗΤΗΣ ΝΟΗΜΟΣΥΝΗΣ

Ανακαλύψτε περισσότερα άρθρα στα αποτελέσματα αναζήτησης

Προσθήκη του VoiceNews στην Google

Η πρώτη καταγγελία για παράτυπη χρήση Τεχνητής Νοημοσύνης στο Δημόσιο κατατέθηκε στην Εθνική Αρχή Διαφάνειας. Το Ινστιτούτο Ρυθμιστικών Πολιτικών (ΙΝΕΡΠ), η Homo Digitalis και μία αξιολογημένη υπάλληλος ζητούν να ελεγχθεί αν το Υπουργείο Εσωτερικών συμμορφώθηκε με τον νόμο 4961/2022 κατά την αξιολόγηση των δημοσίων υπαλλήλων.

Το 2023 το υπουργείο πέρασε από αλγόριθμο τεχνητής νοημοσύνης τα δεδομένα 54.500 υπαλλήλων που είχαν αρχικά κριθεί υψηλής απόδοσης. Το αποτέλεσμα ήταν δραματικό: λιγότεροι από 4.500 παρέμειναν στην κατηγορία αυτή, ενώ 1.329 μετακινήθηκαν σε «χαμηλή απόδοση». Το υπουργείο τότε είχε παρουσιάσει τη διαδικασία ως επιτυχία.

Ο νόμος 4961/2022 είναι ξεκάθαρος. Η χρήση συστημάτων τεχνητής νοημοσύνης σε αποφάσεις που επηρεάζουν δικαιώματα εργαζομένων επιτρέπεται μόνο με ειδική νομοθετική διάταξη και με συγκεκριμένες εγγυήσεις προστασίας. Τέτοια διάταξη δεν υπάρχει. Ο προηγούμενος νόμος 4940/2022 για την αξιολόγηση και τη στοχοθεσία επίσης δεν προβλέπει τη χρήση αλγορίθμων AI.

Στην πράξη δεν τηρήθηκε καμία από τις υποχρεώσεις διαφάνειας. Δεν εκπονήθηκε και δεν δημοσιεύθηκε αλγοριθμική εκτίμηση αντικτύπου, δεν δόθηκαν πληροφορίες για τις παραμέτρους και τη λειτουργία του συστήματος και δεν ενημερώθηκαν με σαφή τρόπο οι υπάλληλοι για το πώς ο αλγόριθμος επηρέασε την τελική τους αξιολόγηση.

Η αυθαίρετη χρήση τέτοιων συστημάτων συνδέεται διεθνώς με κινδύνους αλγοριθμικής μεροληψίας, έλλειψης λογοδοσίας και παραβίασης θεμελιωδών δικαιωμάτων. Γι’ αυτό και ο Ευρωπαϊκός Κανονισμός για την Τεχνητή Νοημοσύνη (AI Act) κατατάσσει αντίστοιχες εφαρμογές ως υψηλού κινδύνου.

Η υπόθεση υπερβαίνει τη συγκεκριμένη αξιολόγηση του 2023. Αφορά το κράτος δικαίου, τη λειτουργία των θεσμών και τα δικαιώματα χιλιάδων δημοσίων υπαλλήλων. Οι καταγγέλλοντες ζητούν από την Εθνική Αρχή Διαφάνειας να διερευνήσει πλήρως την υπόθεση τόσο για το 2023 όσο και για τα επόμενα έτη.