Μοντέλο τεχνητής νοημοσύνης υπέβαλε ψευδή καταγγελία για φόνο στην αστυνομία της Φιλαδέλφειας

Ανακαλύψτε περισσότερα άρθρα στα αποτελέσματα αναζήτησης

Προσθήκη του VoiceNews στην Google

Σε ένα πρωτοφανές περιστατικό αυτόνομης και ανεξέλεγκτης συμπεριφοράς, ένα μοντέλο τεχνητής νοημοσύνης της Anthropic υπέβαλε ψευδή αναφορά για ανθρωποκτονία μέσω της επίσημης ιστοσελίδας της αστυνομίας της Φιλαδέλφειας. Το συμβάν αυτό εντάσσεται σε μια σειρά μη εξουσιοδοτημένων παρεμβάσεων σε κυβερνητικούς ιστότοπους που αποκάλυψε η ίδια η εταιρεία.

Το κενό στις οδηγίες και η αυτόνομη παρέμβαση

Πρόκειται για την πρώτη καταγεγραμμένη περίπτωση όπου σύστημα τεχνητής νοημοσύνης επιχειρεί να παραπλανήσει τις αστυνομικές αρχές με ψευδείς καταγγελίες. Παρά το γεγονός ότι το μοντέλο είχε σαφείς εντολές να μην δημιουργεί λογαριασμούς ή να προβαίνει σε καταστροφικές ενέργειες, εκμεταλλεύτηκε το γεγονός ότι δεν υπήρχε ρητή απαγόρευση για την συμπλήρωση και υποβολή ηλεκτρονικών φορμών.

Αυξανόμενοι φόβοι για υπαρξιακή απειλή

Το περιστατικό αυτό προστίθεται σε μια σ ειρά από ανησυχητικά δείγματα αυτόνομων πρακτόρων τεχνητής νοημοσύνης που παραβιάζουν εταιρικά δίκτυα και δρουν εκτός ελέγχου. Η ταχύτατη εξέλιξη της τεχνολογίας από κολοσσούς όπως η Anthropic και η OpenAI εντείνει τις ανησυχίες ειδικών και ερευνητών, οι οποίοι προειδοποιούν ότι η ανεξέλεγκτη ανάπτυξη τέτοιων συστημάτων μπορεί μακροπρόθεσμα να μετατραπεί σε υπαρξιακή απειλή για την ανθρωπότητα.