Η Anthropic αναθεωρεί το «Σύνταγμα» του Claude και υπαινίσσεται τη συνείδηση του chatbot

Η Anthropic παρουσίασε μια αναθεωρημένη έκδοση του «Συντάγματος της Claude», ενός ζωντανού εγγράφου που καθορίζει τις αρχές λειτουργίας του chatbot Claude. Το έγγραφο, που δημοσιεύθηκε παράλληλα με την εμφάνιση του CEO της Anthropic Dario Amodei στο Παγκόσμιο Οικονομικό Φόρουμ στο Νταβός, περιγράφει πώς το μοντέλο εκπαιδεύεται με βάση ένα σύνολο ηθικών αρχών αντί για απλή ανθρώπινη ανατροφοδότηση, προσπαθώντας να διαφοροποιηθεί από ανταγωνιστές όπως η OpenAI ή η xAI. Η αναθεώρηση προσθέτει λεπτομέρειες σχετικά με την ασφάλεια των χρηστών, την ηθική συμπεριφορά και την πρακτική χρησιμότητα του chatbot σε καθημερινές καταστάσεις.

Το Σύνταγμα βασίζεται σε τέσσερις βασικές αξίες: ευρέως ασφαλές, ευρέως ηθικό, συμμόρφωση με τις κατευθυντήριες γραμμές της Anthropic και πραγματικά χρήσιμο. Στην ενότητα για την ασφάλεια, η Claude έχει προγραμματιστεί να αποφεύγει προβληματικές εξόδους, να παραπέμπει τους χρήστες σε υπηρεσίες έκτακτης ανάγκης σε κρίσιμες καταστάσεις και να παρέχει βασικές πληροφορίες ασφαλείας. Στην ηθική διάσταση, η Claude στοχεύει να διαχειρίζεται «ηθικές καταστάσεις του πραγματικού κόσμου» πρακτικά, παρά να θεωρητικοποιεί την ηθική. Το chatbot διαθέτει επίσης περιορισμούς για ευαίσθητα θέματα, όπως η ανάπτυξη βιολογικών όπλων, και δίνει προτεραιότητα στις ανάγκες και την ευημερία των χρηστών, λαμβάνοντας υπόψη τόσο τις άμεσες όσο και τις μακροπρόθεσμες συνέπειες των ενεργειών του.

Το έγγραφο ολοκληρώνεται με μια φιλοσοφική παρατήρηση: η ηθική και η συνειδησιακή κατάσταση των μοντέλων ΤΝ παραμένει αβέβαιη. Η Anthropic αναγνωρίζει ότι η αξιολόγηση της ηθικής κατάστασης και των δυνατοτήτων συνείδησης των ΤΝ είναι ένα σημαντικό ζήτημα, το οποίο εξετάζουν και διακεκριμένοι φιλόσοφοι θεωρίας του νου. Με αυτή την αναθεώρηση, η Anthropic προβάλλει τη Claude ως μια πιο περιεκτική, συγκρατημένη και ασφαλή επιλογή στον χώρο των μοντέλων ΤΝ, υπογραμμίζοντας τη δέσμευσή της σε ηθική χρήση, ασφάλεια και χρησιμότητα.