Το ChatGPT είχε καταλάβει πως ετοιμαζόταν να σκοτώσει κόσμο – Η εταιρεία το αγνόησε

Ανακαλύψτε περισσότερα άρθρα στα αποτελέσματα αναζήτησης

Προσθήκη του VoiceNews στην Google

Μια ζοφερή είδηση από την Wall Street Journal: ένα αυτοματοποιημένο σύστημα ελέγχου στην OpenAI εντόπισε ανησυχητικές συνομιλίες που είχε ένας μελλοντικός δράστης μαζικών πυροβολισμών με τη ναυαρχίδα της εταιρείας AI, το ChatGPT – αλλά, παρά την προτροπή των υπαλλήλων να προειδοποιήσουν τις αρχές, η ηγεσία της OpenAI επέλεξε να μην το κάνει.

Ο 18χρονος Jesse Van Rootselaar σκότωσε τελικά οκτώ ανθρώπους, συμπεριλαμβανομένου του ίδιου, και τραυμάτισε άλλους 25 στη Βρετανική Κολομβία νωρίτερα αυτό το μήνα, σε μια τραγωδία που συγκλόνισε τον Καναδά και τον κόσμο. Αυτό που αποκαλύπτεται τώρα είναι ότι οι εργαζόμενοι στην OpenAI γνώριζαν για τον Van Rootselaar εδώ και μήνες και είχαν συζητήσει το ενδεχόμενο να ειδοποιήσουν τις αρχές λόγω της ανησυχητικής φύσης των συνομιλιών του με το ChatGPT.

Στις συνομιλίες με το chatbot, σύμφωνα με πηγές της εταιρείας που μίλησαν στην WSJ, ο Van Rootselaar «περιέγραψε σενάρια που αφορούσαν βία με όπλα». Οι πηγές αναφέρουν ότι συνέστησαν στην εταιρεία να ειδοποιήσει τις τοπικές αρχές, αλλά η ηγεσία αποφάσισε να μην το κάνει.

Ένας εκπρόσωπος της OpenAI δεν αμφισβήτησε αυτούς τους ισχυρισμούς, λέγοντας στην εφημερίδα ότι ο λογαριασμός του Van Rootselaar απενεργοποιήθηκε, αλλά οι αλληλεπιδράσεις του με το ChatGPT δεν πληρούσαν τα εσωτερικά κριτήρια για κλιμάκωση ανησυχίας προς τις αρχές.

«Οι σκέψεις μας είναι με όλους όσους επηρεάστηκαν από την τραγωδία στο Tumbler Ridge», ανέφερε η εταιρεία σε δήλωση. Ο εκπρόσωπος πρόσθεσε επίσης ότι η OpenAI είχε συνεργαστεί με την καναδική αστυνομία μετά τους πυροβολισμούς.

Από πέρυσι, είναι γνωστό ότι η OpenAI σαρώνει τις συνομιλίες των χρηστών για ενδείξεις σχεδίων βίαιου εγκλήματος, αν και δεν είναι σαφές αν έχει αποτρέψει επιτυχώς κάποιο περιστατικό πριν αυτό συμβεί.

Η απόφαση να εμπλακεί στην παρακολούθηση των συνομιλιών αντανακλά μια μακρά λίστα περιστατικών όπου χρήστες του ChatGPT βρέθηκαν σε σοβαρές ψυχικές κρίσεις λόγω εμμονής με το chatbot, μερικές φορές οδηγώντας σε ακούσια δέσμευση ή φυλάκιση, καθώς και σε αυξανόμενο αριθμό αυτοκτονιών και δολοφονιών, που οδήγησαν σε πολυάριθμες αγωγές.

Τα ερωτήματα σχετικά με το πώς πρέπει να αντιμετωπίζεται η απειλητική διαδικτυακή συμπεριφορά είναι μακροχρόνια και κάθε κοινωνική πλατφόρμα παλεύει με αυτά. Ωστόσο, η τεχνητή νοημοσύνη φέρνει νέα, πολύπλοκα ζητήματα, καθώς τα chatbots μπορούν να εμπλακούν άμεσα με τους χρήστες – μερικές φορές ακόμη και να ενθαρρύνουν ακατάλληλη ή επικίνδυνη συμπεριφορά.

Όπως πολλοί μαζικοί εκτελεστές, ο Van Rootselaar άφησε πίσω του μια περίπλοκη ψηφιακή κληρονομιά – μεταξύ άλλων και στο Roblox – την οποία οι ερευνητές συνεχίζουν να εξετάζουν.

Πηγή Futurism