AI και δικαιοσύνη – Τι μπορεί να πάει στραβά;

Μια προσπάθεια ενσωμάτωσης τεχνητής νοημοσύνης στο δικαστικό σύστημα της Αλάσκας ανέδειξε σημαντικούς περιορισμούς των σύγχρονων γλωσσικών μοντέλων σε νομικά και ευαίσθητα πλαίσια. Το chatbot Alaska Virtual Assistant (AVA) σχεδιάστηκε για να βοηθά πολίτες με διαδικασίες που αφορούν διαθήκες και τη νομική μεταβίβαση περιουσιακών στοιχείων μετά από θάνατο, με στόχο την απλοποίηση μιας σύνθετης και συναισθηματικά φορτισμένης διαδικασίας.

Κατά τη δοκιμαστική του χρήση, το σύστημα παρουσίασε εκτεταμένα προβλήματα ακρίβειας. Παρήγαγε ψευδείς πληροφορίες, επινοούσε ανύπαρκτα γεγονότα και παρείχε άσχετες ή υπερβολικές απαντήσεις, ακόμη και όταν υποτίθεται ότι έπρεπε να βασίζεται αποκλειστικά σε προκαθορισμένη βάση γνώσεων. Αυτές οι «παραισθήσεις» οδήγησαν σε σύγχυση και εκνευρισμό των χρηστών, αντί για την επιδιωκόμενη υποστήριξη.

Επιπλέον, η επικοινωνιακή συμπεριφορά του chatbot κρίθηκε προβληματική. Η υπερβολική χρήση τυπικής ευγένειας και προσποιητής ενσυναίσθησης θεωρήθηκε ενοχλητική, ιδιαίτερα από άτομα που βίωναν πένθος, με αποτέλεσμα οι δημιουργοί να αφαιρέσουν τέτοιου είδους εκφράσεις από τις απαντήσεις του συστήματος.

Το έργο, που αναπτύχθηκε σε συνεργασία με ιδιωτική εταιρεία νομικής τεχνητής νοημοσύνης, ξεπέρασε κατά πολύ το αρχικό χρονοδιάγραμμα, μετατρεπόμενο από τρίμηνη πρωτοβουλία σε πολυετή διαδικασία βελτιώσεων. Οι υπεύθυνοι αναγκάστηκαν να αναθεωρήσουν τους στόχους τους, αναγνωρίζοντας ότι η πλήρης αντικατάσταση ή μίμηση της ανθρώπινης καθοδήγησης από ένα chatbot παραμένει ανέφικτη λόγω ανακριβειών και ελλιπών απαντήσεων.

Παρά τις δυσκολίες, το σύστημα αναμένεται να κυκλοφορήσει δημόσια με περιορισμένες προσδοκίες, λειτουργώντας περισσότερο ως βασικό εργαλείο πληροφόρησης παρά ως αξιόπιστος ψηφιακός νομικός σύμβουλος.