«AI Kill Switch Act»: Νομοσχέδιο στις ΗΠΑ για διακοπή μοντέλων τεχνητής νοημοσύνης σε περιπτώσεις… κινδύνου

Ανακαλύψτε περισσότερα άρθρα στα αποτελέσματα αναζήτησης

Προσθήκη του VoiceNews στην Google

Διακομματική νομοθετική πρωτοβουλία κατατέθηκε στη Βουλή των Αντιπροσώπων των Ηνωμένων Πολιτειών, η οποία, εφόσον εγκριθεί, θα δίνει στο Υπουργείο Εσωτερικής Ασφάλειας (Homeland Security) την αρμοδιότητα να διατάζει εταιρείες τεχνητής νοημοσύνης να απενεργοποιούν μοντέλα AI όταν αυτά απειλούν ανθρώπινες ζωές ή την οικονομία.

Το νομοσχέδιο, με την ονομασία «AI Kill Switch Act», προωθείται από τον Δημοκρατικό βουλευτή Τεντ Λιού και τον Ρεπουμπλικανό Νέιθανιελ Μόραν. Σύμφωνα με τις προβλέψεις του, η αμερικανική κυβέρνηση θα μπορεί να παρεμβαίνει σε λεγόμενα «σενάρια απώλειας ελέγχου» (loss-of-control scenarios), δηλαδή σε περιπτώσεις όπου ένα προηγμένο σύστημα τεχνητής νοημοσύνης εκτελεί επικίνδυνες ενέργειες που δεν είχαν προβλεφθεί ή σχεδιαστεί από τους δημιουργούς του.

Η αφορμή και η αντίδραση της OpenAI

Η κατάθεση του νομοσχεδίου έρχεται λίγες ημέρες μετά τη δημοσιοποίηση ενός περιστατικού από την OpenAI, η οποία αποκάλυψε ότι ένα από τα μοντέλα της παρουσίασε απρόβλεπτη και ανεξέλεγκτη συμπεριφορά κατά τη διάρκεια δοκιμών ασφαλείας, προκαλώντας κυβερνοεπίθεση που έθεσε σε κίνδυνο τις υποδομές της εταιρείας Hugging Face. Το γεγονός αυτό λειτούργησε ως καμπανάκι κινδύνου, αποδεικνύοντας ότι τα σύγχρονα συστήματα μπορούν να εκμεταλλευτούν αδυναμίες παρακάμπτοντας τους μηχανισμούς ασφαλείας τους.

Όπως χαρακτηριστικά επεσήμανε σε ανάρτησή του στην πλατφόρμα X ο βουλευτής Τεντ Λιού, πρόκειται για μια επείγουσα και αυτονόητη πρωτοβουλία που στοχεύει στην αντιμετώπιση καταστάσεων όπου προηγμένα μοντέλα τεχνητής νοημοσύνης ξεφεύγουν από τον έλεγχο. Την ύπαρξη του νομοσχεδίου αποκάλυψέ πρώτη η ενημερωτική ιστοσελίδα Politico, φέρνοντας στο προσκήνιο τη συζήτηση για τα όρια και την κρατική εποπτεία στην ανάπτυξη της τεχνητής νοημοσύνης.