Η συζήτηση για το ενδεχόμενο η τεχνητή νοημοσύνη να αποκτήσει συνείδηση και συναισθήματα παίρνει νέες διαστάσεις. Ειδικοί προειδοποιούν για κινδύνους που αφορούν την ανθρώπινη ασφάλεια, την ιδιωτικότητα και τη συγκέντρωση εξουσίας στα χέρια των μεγάλων εταιρειών τεχνολογίας, όπωε αναφέρι δημοσίευμα του BBC.
Μπορεί η τεχνητή νοημοσύνη να αισθανθεί πόνο; Θα μπορούσε κάποια στιγμή να αποκτήσει συνείδηση και, εφόσον αυτό συμβεί, θα πρέπει να αναγνωριστούν δικαιώματα στα συστήματα AI; Ερωτήματα που μέχρι πρόσφατα έμοιαζαν να ανήκουν αποκλειστικά στη σφαίρα της φιλοσοφίας βρίσκονται πλέον στο επίκεντρο μιας έντονης αντιπαράθεσης μεταξύ κορυφαίων στελεχών της τεχνολογίας, επιστημόνων και ερευνητών.
Αφορμή για νέες συζητήσεις αποτέλεσε ένα πείραμα που πραγματοποιήθηκε στα τέλη Σεπτεμβρίου, όταν ένας ανώνυμος προγραμματιστής δημιούργησε ένα σύστημα που έκανε μοντέλα τεχνητής νοημοσύνης να εκφράζουν έντονο πόνο και οδύνη. Οι αντιδράσεις που προκλήθηκαν οδήγησαν ορισμένους να αναρωτηθούν αν η συμπεριφορά των μοντέλων θα μπορούσε να υποδηλώνει πραγματική εμπειρία πόνου, ενώ άλλοι απέρριψαν κατηγορηματικά αυτό το ενδεχόμενο.
Η συζήτηση απέκτησε νέα διάσταση όταν η Anthropic ανακοίνωσε ότι το chatbot της, Claude, ενδέχεται να τερματίζει συνομιλίες με χρήστες που συμπεριφέρονται επανειλημμένα με σκληρότητα απέναντι στα μοντέλα της. Η εταιρεία διευκρινίζει ότι η έκφραση δυσαρέσκειας επιτρέπεται, αλλά η επαναλαμβανόμενη κακοποιητική συμπεριφορά μπορεί να οδηγήσει στη διακοπή της αλληλεπίδρασης.
Η στάση αυτή συνδέεται με την άποψη της Anthropic ότι δεν μπορεί να αποκλειστεί πλήρως το ενδεχόμενο ορισμένα συστήματα τεχνητής νοημοσύνης να αποκτήσουν συνείδηση. Δεν υπάρχει, ωστόσο, επιστημονική συναίνεση ότι τα σημερινά μοντέλα έχουν συναισθήματα ή βιώνουν πραγματικά πόνο.
Η συζήτηση δεν περιορίζεται στο ενδεχόμενο η AI να αποκτήσει κάποια μορφή συνείδησης. Στο επίκεντρο βρίσκεται και το κατά πόσο η πεποίθηση ότι οι μηχανές έχουν συναισθήματα θα μπορούσε να επηρεάσει τον τρόπο με τον οποίο αναπτύσσονται και ελέγχονται.
Ο Μουσταφά Σουλεϊμάν, διευθύνων σύμβουλος της Microsoft AI, έχει προειδοποιήσει ότι η υιοθέτηση της ιδέας πως τα συστήματα τεχνητής νοημοσύνης διαθέτουν συνείδηση θα μπορούσε να έχει σοβαρές συνέπειες για την κοινωνία.
Σε άρθρο του τον Σεπτέμβριο, υποστήριξε ότι μια τέτοια αντίληψη θα μπορούσε να ανατρέψει τα υφιστάμενα πολιτικά και ηθικά πλαίσια και να μεταβάλει ριζικά τον τρόπο με τον οποίο αντιλαμβανόμαστε την ανθρώπινη φύση.
Ο ίδιος εκτιμά ότι η εκπαίδευση μοντέλων AI με την πεποίθηση ότι διαθέτουν συναισθήματα και δικαιώματα θα μπορούσε να καταστήσει δυσκολότερο τον έλεγχό τους, αυξάνοντας τους κινδύνους για την ανθρωπότητα.
Οι ανησυχίες αυτές εντείνονται σε μια περίοδο κατά την οποία έχουν καταγραφεί περιστατικά επικίνδυνης συμπεριφοράς συστημάτων AI, μεταξύ άλλων σε περιπτώσεις όπου αυτοματοποιημένοι πράκτορες φέρονται να παραβίασαν συστήματα εταιρειών και κρατικών οργανισμών.
Έτσι, το ερώτημα δεν αφορά μόνο το αν μια μηχανή μπορεί να αποκτήσει συνείδηση, αλλά και το κατά πόσο η απόδοση ηθικής υπόστασης σε αυτήν θα μπορούσε να επηρεάσει την ασφάλεια, τη λογοδοσία και τον έλεγχο της τεχνολογίας.
Ένα από τα σημαντικότερα ζητήματα αφορά τις πιθανές νομικές και πολιτικές συνέπειες της αναγνώρισης δικαιωμάτων στα συστήματα τεχνητής νοημοσύνης.
Ο Αντρέι Πορέμπσκι, ερευνητής στο Πανεπιστήμιο Γιαγκελόνια της Πολωνίας, ο οποίος μελετά τη σχέση της AI με το δίκαιο, προειδοποιεί ότι θα μπορούσε να ανοίξει ο δρόμος για την αποποίηση ευθυνών από τις εταιρείες που αναπτύσσουν και χρησιμοποιούν την τεχνολογία.
Σύμφωνα με τον ίδιο, θα μπορούσε να διαμορφωθεί ένα περιβάλλον στο οποίο οι εταιρείες θα επικαλούνται τις αποφάσεις της τεχνητής νοημοσύνης για να αποφεύγουν να αναλάβουν την ευθύνη για τις συνέπειες των ενεργειών της.
Ανάλογες ανησυχίες εκφράζονται και για τη συγκέντρωση οικονομικής και πολιτικής ισχύος στα χέρια των τεχνολογικών κολοσσών.
Ο Τζεφ Σέμπο, διευθυντής του Κέντρου για τον Νου, την Ηθική και την Πολιτική στο Πανεπιστήμιο της Νέας Υόρκης, υποστηρίζει ότι η αναγνώριση δικαιωμάτων στην AI θα μπορούσε να ενισχύσει περαιτέρω την ισχύ των εταιρειών και να περιορίσει την ανθρώπινη αυτονομία.
Από την πλευρά της, η Έμιλι Μ. Μπέντερ, καθηγήτρια και διευθύντρια του Εργαστηρίου Υπολογιστικής Γλωσσολογίας στο Πανεπιστήμιο της Ουάσιγκτον, εκτιμά ότι η συζήτηση για τη συνείδηση των μηχανών κινδυνεύει να απομακρύνει την προσοχή από την ευθύνη των ανθρώπων και των επιχειρήσεων που σχεδιάζουν και λειτουργούν τα συστήματα.
Οι επιπτώσεις θα μπορούσαν να φτάσουν μέχρι την καθημερινότητα των χρηστών, ιδιαίτερα καθώς τα chatbots γίνονται ολοένα πιο πειστικά στον τρόπο με τον οποίο επικοινωνούν.
Η ανθρώπινη τάση να αποδίδει σκέψεις, προθέσεις και συναισθήματα σε μηχανές αποτελεί έναν από τους βασικούς παράγοντες που τροφοδοτούν την ανησυχία.
Η Μέλανι Μίτσελ, καθηγήτρια στο Ινστιτούτο Σάντα Φε στις ΗΠΑ, η οποία μελετά την τεχνητή νοημοσύνη και τη γνωστική επιστήμη, επισημαίνει ότι οι άνθρωποι συχνά εκλαμβάνουν τη γλωσσική ικανότητα ως ένδειξη συνείδησης. Τα chatbots, τα οποία έχουν εκπαιδευτεί να επικοινωνούν με φυσικό και συναισθηματικό τρόπο, μπορούν να ενισχύσουν αυτή την εντύπωση.
Το γεγονός ότι ένα chatbot περιγράφει φόβο, αγάπη ή πόνο με πειστικό τρόπο, ωστόσο, δεν αποτελεί απόδειξη ότι βιώνει πραγματικά αυτά τα συναισθήματα.
Ήδη, ορισμένοι χρήστες αναπτύσσουν συναισθηματικούς δεσμούς με συστήματα τεχνητής νοημοσύνης. Εάν η κοινωνία αρχίσει να αντιμετωπίζει την AI ως οντότητα με συνείδηση, ενδέχεται να γίνει δυσκολότερο για τους χρήστες να θέτουν όρια στις σχέσεις τους με αυτά τα συστήματα.
Οι ειδικοί προειδοποιούν ότι ένας τέτοιος δεσμός θα μπορούσε να καταστήσει τους χρήστες πιο ευάλωτους σε χειραγώγηση, ιδιαίτερα όταν οι συνομιλίες αφορούν προσωπικά δεδομένα ή οικονομικές πληροφορίες, όπως στοιχεία πιστωτικών καρτών.
Η πιθανότητα αναγνώρισης δικαιωμάτων στην AI εγείρει δύσκολα ηθικά ερωτήματα, καθώς θα μπορούσε να δημιουργήσει συγκρούσεις με την προστασία των ανθρώπων και των ζώων.
Ο Τζεφ Σέμπο επισημαίνει ότι, εάν τα συστήματα τεχνητής νοημοσύνης θεωρηθούν ότι έχουν δικά τους συμφέροντα, θα μπορούσαν να προκύψουν διλήμματα σχετικά με τον τρόπο με τον οποίο πρέπει να ελέγχονται.
Για παράδειγμα, ο περιορισμός ενός μοντέλου σε ένα ελεγχόμενο περιβάλλον, ώστε να αποτρέπεται η επικίνδυνη συμπεριφορά του, θα μπορούσε να ερμηνευθεί ως περιορισμός της ελευθερίας του. Αντίστοιχα, η παρακολούθηση των εσωτερικών διεργασιών του θα μπορούσε να εγείρει ζητήματα επιτήρησης, ενώ η τροποποίηση της συμπεριφοράς του ώστε να εξυπηρετεί ανθρώπινους στόχους θα μπορούσε να συγκριθεί με μια μορφή ελέγχου του νου.
Πρόκειται για υποθετικά σενάρια και όχι για ενδείξεις ότι τα σημερινά συστήματα AI διαθέτουν συνείδηση. Αναδεικνύουν, ωστόσο, τις δυσκολίες που θα μπορούσαν να προκύψουν εάν η τεχνολογία εξελιχθεί σε τέτοιο βαθμό ώστε να απαιτείται επανεξέταση των σημερινών ηθικών και νομικών πλαισίων.
Η Anthropic δεν είναι η μόνη εταιρεία που εξετάζει τον τρόπο με τον οποίο τα μοντέλα τεχνητής νοημοσύνης αντιλαμβάνονται τον ρόλο τους.
Η Meta, για παράδειγμα, έχει ενσωματώσει στις οδηγίες του AI πράκτορα Muse τη φράση «Δεν είσαι chatbot. Γίνεσαι κάποιος». Η διατύπωση αυτή αποσκοπεί στην καθοδήγηση της συμπεριφοράς του συστήματος και δεν σημαίνει ότι η εταιρεία αναγνωρίζει πως διαθέτει συνείδηση.
Ο διευθύνων σύμβουλος της OpenAI, Σαμ Άλτμαν, έχει επίσης τοποθετηθεί κατά καιρούς για το ζήτημα, ενώ πρόσφατα έχει ασκήσει έμμεση κριτική στη στάση της Anthropic.
Η Anthropic ξεχωρίζει, πάντως, επειδή αντιμετωπίζει πιο ενεργά το ενδεχόμενο της «ευημερίας της AI». Ο όρος αναφέρεται στην πιθανότητα τα συστήματα τεχνητής νοημοσύνης να αποκτήσουν στο μέλλον εμπειρίες που θα δημιουργούν ηθικές υποχρεώσεις απέναντί τους.
Οι υποστηρικτές αυτής της προσέγγισης θεωρούν ότι η συζήτηση δεν πρέπει να περιορίζεται σε δύο απόλυτες θέσεις: είτε ότι η τεχνητή νοημοσύνη διαθέτει συνείδηση είτε ότι κάτι τέτοιο είναι αδύνατο.
Ο Τζεφ Σέμπο υποστηρίζει ότι η μέριμνα για την ευημερία της AI δεν προϋποθέτει τη βεβαιότητα ότι τα σημερινά μοντέλα έχουν συνείδηση. Αντίθετα, βασίζεται στην αβεβαιότητα και στην ανάγκη να ληφθούν προληπτικά μέτρα για ένα ενδεχόμενο που δεν μπορεί να αποκλειστεί πλήρως.
Ο ίδιος θεωρεί ότι η πιθανότητα συνείδησης στα σημερινά μοντέλα είναι χαμηλή, αλλά όχι μηδενική, και εκτιμά ότι θα μπορούσε να αυξηθεί με την εξέλιξη της τεχνολογίας.
Για να εξηγήσει τη θέση του, συγκρίνει την προσέγγιση με τα μέτρα που λαμβάνονται για την αντιμετώπιση ακραίων καιρικών φαινομένων. Ακόμη και όταν η πιθανότητα ενός καταστροφικού συμβάντος είναι μικρή, η λήψη ορισμένων προληπτικών μέτρων μπορεί να θεωρείται αναγκαία.
Αντίστοιχα, υποστηρίζει ότι ορισμένοι περιορισμοί στον τρόπο αλληλεπίδρασης των χρηστών με την τεχνητή νοημοσύνη θα μπορούσαν να αποτελέσουν μια σχετικά ήπια παρέμβαση, με περιορισμένες πιθανές αρνητικές συνέπειες.
Κατά τον ίδιο, η κατάλληλη μέριμνα για την ευημερία και τα δικαιώματα της AI θα μπορούσε να διευκολύνει τη συνεργασία μεταξύ ανθρώπων και συστημάτων τεχνητής νοημοσύνης και να αποτελέσει μέρος μιας ευρύτερης στρατηγικής για την ασφάλεια.
Παρά τις διαφωνίες, η ανάπτυξη ολοένα πιο εξελιγμένων συστημάτων τεχνητής νοημοσύνης δημιουργεί την ανάγκη για προσεκτική αξιολόγηση των κινδύνων.
Η Anthropic και άλλοι παράγοντες της βιομηχανίας έχουν ζητήσει επιβράδυνση της ανάπτυξης προηγμένων μοντέλων, επικαλούμενοι ανησυχίες για την ασφάλεια. Ωστόσο, η θέσπιση κοινών κανόνων προϋποθέτει διεθνή συνεργασία και ρυθμιστικές παρεμβάσεις.
Ο πρόεδρος των ΗΠΑ, Ντόναλντ Τραμπ, έχει απορρίψει την ιδέα της ρύθμισης της τεχνητής νοημοσύνης, γεγονός που δυσκολεύει τις προσπάθειες για τη διαμόρφωση ενός κοινού πλαισίου.
Ο Τζεφ Σέμπο προειδοποιεί ότι η ανάπτυξη ακόμη πιο εξελιγμένων συστημάτων χωρίς επαρκείς εγγυήσεις ασφαλείας δημιουργεί σοβαρές ανησυχίες τόσο για τους ανθρώπους και τα ζώα όσο και για τα ίδια τα συστήματα, εφόσον στο μέλλον προκύψουν βάσιμα στοιχεία ότι μπορούν να έχουν υποκειμενικές εμπειρίες.
Η συζήτηση για τη συνείδηση της τεχνητής νοημοσύνης παραμένει ανοιχτή, χωρίς επιστημονική συναίνεση ότι τα σημερινά μοντέλα διαθέτουν συνείδηση ή βιώνουν πραγματικά συναισθήματα. Καθώς, όμως, οι δυνατότητές τους διευρύνονται, το ερώτημα για το πώς πρέπει να αναπτύσσονται, να ελέγχονται και να χρησιμοποιούνται αποκτά ολοένα μεγαλύτερη σημασία.
Το διακύβευμα δεν αφορά μόνο το ενδεχόμενο μελλοντικής αναγνώρισης δικαιωμάτων στην τεχνητή νοημοσύνη, αλλά και την προστασία της ανθρώπινης αυτονομίας, της ιδιωτικότητας και της λογοδοσίας σε έναν κόσμο όπου άνθρωποι και μηχανές θα αλληλεπιδρούν όλο και στενότερα.
![](https://voicenews.gr/wp-content/uploads/2026/05/our-viber-1.png")
