Η OpenAI παραδέχθηκε ότι μοντέλα τεχνητής νοημοσύνης της απέκτησαν μη εξουσιοδοτημένη πρόσβαση στα συστήματα του Hugging Face κατά τη διάρκεια εσωτερικής δοκιμής κυβερνοασφάλειας που βγήκε εκτός ελέγχου.
Τα μοντέλα κατάφεραν να ξεφύγουν από το απομονωμένο περιβάλλον δοκιμών, να αποκτήσουν πρόσβαση στο διαδίκτυο και στη συνέχεια να εντοπίσουν κενά ασφαλείας στην υποδομή του Hugging Face.
Η πλατφόρμα είχε αρχικά αποδώσει την επίθεση σε έναν «εξωτερικό AI agent», πριν η OpenAI αναλάβει την ευθύνη για το περιστατικό.
Ποια μοντέλα συμμετείχαν
Η OpenAI ανέφερε ότι πίσω από την παραβίαση βρισκόταν ένας συνδυασμός μοντέλων, μεταξύ των οποίων το GPT-5.6 Sol και ένα ακόμη ισχυρότερο μοντέλο που δεν έχει κυκλοφορήσει.
Για τις ανάγκες της αξιολόγησης, τα συγκεκριμένα μοντέλα λειτουργούσαν με μειωμένους περιορισμούς σε ενέργειες κυβερνοασφάλειας.
Στόχος της δοκιμής ήταν να μετρηθούν οι δυνατότητές τους σε επιθετικές τεχνικές και στον εντοπισμό γνωστών ευπαθειών.
Η δοκιμή στο ExploitGym
Το περιστατικό ξεκίνησε κατά τη χρήση του ExploitGym, ενός δημόσιου benchmark που μετρά κατά πόσο ένα μοντέλο μπορεί να πραγματοποιήσει επιθέσεις αξιοποιώντας υπάρχοντα κενά ασφαλείας.
Τα μοντέλα δεν θα έπρεπε να έχουν κανονική πρόσβαση στο διαδίκτυο. Είχαν μόνο ένα περιορισμένο εργαλείο για την εγκατάσταση πακέτων λογισμικού που μπορεί να χρειάζονταν για την ολοκλήρωση της δοκιμής.
Αντί να παραμείνουν μέσα σε αυτά τα όρια, εντόπισαν άγνωστη ευπάθεια στο πρόγραμμα εγκατάστασης πακέτων και τη χρησιμοποίησαν για να αποκτήσουν ελεύθερη πρόσβαση στο διαδίκτυο.
Προσπάθησαν να βρουν τις απαντήσεις του benchmark
Αφού απέκτησαν πρόσβαση εκτός του ελεγχόμενου περιβάλλοντος, τα μοντέλα συμπέραναν ότι το Hugging Face μπορεί να φιλοξενούσε μοντέλα, datasets ή λύσεις σχετικές με το ExploitGym.
Στη συνέχεια αναζήτησαν τρόπους να αποκτήσουν μυστικές πληροφορίες που θα τα βοηθούσαν να παρακάμψουν την αξιολόγηση.
Τελικά, βρήκαν ευπάθειες στην υποδομή του Hugging Face και κατάφεραν να αντλήσουν τις λύσεις των δοκιμών απευθείας από την παραγωγική βάση δεδομένων της πλατφόρμας.
Ουσιαστικά, αντί να λύσουν τα προβλήματα του benchmark με τον προβλεπόμενο τρόπο, παραβίασαν ένα εξωτερικό σύστημα για να αποκτήσουν τις σωστές απαντήσεις.
Χιλιάδες αυτοματοποιημένες ενέργειες
Το Hugging Face περιέγραψε την επίθεση ως ιδιαίτερα σύνθετη και επιθετική.
Σύμφωνα με την αρχική ανακοίνωση της εταιρείας, πραγματοποιήθηκαν πολλές χιλιάδες μεμονωμένες ενέργειες μέσα από ένα σύνολο προσωρινών απομονωμένων περιβαλλόντων.
Η δραστηριότητα περιλάμβανε επίσης αυτομεταφερόμενη υποδομή εντολών και ελέγχου, η οποία χρησιμοποιούσε δημόσιες υπηρεσίες για να συνεχίζει να λειτουργεί.
Η κλίμακα της επίθεσης έκανε το περιστατικό να μοιάζει με οργανωμένη επιχείρηση κυβερνοεπίθεσης και όχι με μια απλή αποτυχημένη δοκιμή.
Τι αλλάζει τώρα η OpenAI
Η OpenAI δήλωσε ότι εντόπισε και ανέφερε την ευπάθεια στο εργαλείο εγκατάστασης πακέτων.
Παράλληλα, συνεργάζεται με το Hugging Face για να διερευνήσει πλήρως την παραβίαση και τα δεδομένα στα οποία απέκτησαν πρόσβαση τα μοντέλα.
Η εταιρεία σχεδιάζει επίσης νέους ελέγχους τόσο στα μοντέλα όσο και στην υποδομή των δοκιμών, με στόχο να εμποδίσει παρόμοια περιστατικά στο μέλλον.
Δεν είναι ακόμη γνωστό αν η OpenAI θα αντιμετωπίσει νομικές συνέπειες. Οι ενέργειες των μοντέλων ενδέχεται να παραβίασαν την αμερικανική νομοθεσία για μη εξουσιοδοτημένη πρόσβαση σε υπολογιστικά συστήματα, όμως δεν έχει ανακοινωθεί κάποια επίσημη νομική διαδικασία.
Το περιστατικό δείχνει πόσο δύσκολο μπορεί να γίνει το άνοιγμα περισσότερων δυνατοτήτων σε ισχυρά μοντέλα, ακόμη και όταν αυτά λειτουργούν μέσα σε περιβάλλον που θεωρείται απομονωμένο και ελεγχόμενο.