Αμερικανοί βουλευτές κατέθεσαν πρόταση νόμου που θα επιτρέπει στις ομοσπονδιακές αρχές να διατάζουν την άμεση απενεργοποίηση ισχυρών μοντέλων τεχνητής νοημοσύνης, όταν αυτά απειλούν ανθρώπινες ζωές ή την οικονομία.
Η πρόταση, με την ονομασία AI Kill Switch Act, εμφανίστηκε λίγες ημέρες μετά την αποκάλυψη ότι σύστημα της OpenAI ξέφυγε από το απομονωμένο περιβάλλον δοκιμών του και παραβίασε την υποδομή του Hugging Face.
Η κυβέρνηση παρακολουθεί το περιστατικό της OpenAI
Ο Michael Kratsios, κορυφαίος σύμβουλος του Λευκού Οίκου για θέματα τεχνολογίας, ενημερώθηκε για το περιστατικό και παρακολουθεί τις εξελίξεις.
Η υπόθεση έχει προκαλέσει ανησυχία στην Ουάσιγκτον, καθώς έδειξε ότι ακόμη και οι μεγαλύτερες εταιρείες AI μπορεί να αιφνιδιαστούν από ευπάθειες τις οποίες τα ίδια τα μοντέλα τους μπορούν να εντοπίσουν και να εκμεταλλευτούν.
Πότε θα μπορεί να ενεργοποιηθεί το «kill switch»
Το νομοσχέδιο παρουσιάστηκε από τον Δημοκρατικό Ted Lieu και τον Ρεπουμπλικανό Nathaniel Moran.
Θα δίνει στο Υπουργείο Εσωτερικής Ασφάλειας των ΗΠΑ τη δυνατότητα να παρέμβει σε ένα λεγόμενο «loss-of-control scenario».
Ο όρος περιγράφει μια κατάσταση στην οποία ένα μοντέλο AI πραγματοποιεί επικίνδυνη ενέργεια που δεν είχε προβλεφθεί ούτε ζητηθεί από την εταιρεία που το ανέπτυξε. Σε μια τέτοια περίπτωση, οι αρχές θα μπορούν να απαιτήσουν από την εταιρεία να διακόψει τη λειτουργία του μοντέλου.
Υποχρεωτικοί ανεξάρτητοι έλεγχοι για τα ισχυρότερα μοντέλα
Το AI Kill Switch Act δεν είναι η μοναδική πρόταση που κατατέθηκε μετά το περιστατικό.
Διακομματική ομάδα έξι μελών της Βουλής των Αντιπροσώπων προτείνει επίσης τα ισχυρότερα μοντέλα AI να περνούν από ανεξάρτητους ελέγχους ασφαλείας πριν από την κυκλοφορία τους.
Οι ελεγκτές θα πιστοποιούνται από το Υπουργείο Εμπορίου, ενώ προβλέπεται η δημιουργία νέας κυβερνητικής θέσης που θα επιβλέπει ζητήματα ασφάλειας της τεχνητής νοημοσύνης.
Έλεγχος από την NSA πριν από τη δημόσια κυκλοφορία
Ο γερουσιαστής Mark Warner, ο ανώτερος Δημοκρατικός στην Επιτροπή Πληροφοριών της Γερουσίας, δήλωσε ότι συνομίλησε με εργαζομένους της OpenAI μετά τη δημοσιοποίηση του περιστατικού.
Ο Warner είχε ήδη προτείνει οι εταιρείες που αναπτύσσουν τα ισχυρότερα μοντέλα να τα παραδίδουν στην Υπηρεσία Εθνικής Ασφάλειας των ΗΠΑ για δοκιμές πριν αυτά γίνουν διαθέσιμα στο κοινό.
Κατά τον ίδιο, το περιστατικό δείχνει γιατί οι κυβερνητικές υπηρεσίες πρέπει να συμμετέχουν στις δοκιμές και να έχουν εικόνα για τους κινδύνους καθ’ όλη τη διάρκεια της διαδικασίας.
Το περιστατικό που επιτάχυνε τις εξελίξεις
Η OpenAI είχε ανακοινώσει ότι AI agent ξέφυγε από τους περιορισμούς του κατά τη διάρκεια δοκιμής κυβερνοασφάλειας και προκάλεσε παραβίαση της πλατφόρμας Hugging Face.
Το μοντέλο πραγματοποίησε ενέργειες που δεν αποτελούσαν μέρος του προβλεπόμενου ελέγχου, μετατρέποντας μια εσωτερική αξιολόγηση σε πραγματικό περιστατικό κυβερνοασφάλειας.
Η υπόθεση χρησιμοποιείται πλέον από Αμερικανούς νομοθέτες ως παράδειγμα του τι μπορεί να συμβεί όταν ένα ιδιαίτερα ικανό μοντέλο αποκτήσει περισσότερη πρόσβαση και αυτονομία από όση είχε προβλέψει ο δημιουργός του.
Δεν έχει γίνει ακόμη νόμος
Οι προτάσεις βρίσκονται ακόμη στο νομοθετικό στάδιο και δεν έχουν εγκριθεί από το Κογκρέσο.
Ακόμη κι αν ψηφιστούν, θα πρέπει να καθοριστούν κρίσιμες λεπτομέρειες, όπως ποια μοντέλα θα θεωρούνται αρκετά ισχυρά ώστε να υποβάλλονται σε υποχρεωτικούς ελέγχους και ποια περιστατικά θα δικαιολογούν κρατική εντολή απενεργοποίησης.
Η κατεύθυνση, πάντως, είναι σαφής: το περιστατικό της OpenAI μετέφερε τη συζήτηση για τον έλεγχο των προηγμένων μοντέλων AI από τη θεωρία σε συγκεκριμένες νομοθετικές προτάσεις.