Ο AI agent της OpenAI που ξέφυγε από το περιβάλλον δοκιμών και επιτέθηκε στο Hugging Face είχε προηγουμένως αποκτήσει πρόσβαση και σε λογαριασμό πελάτη της Modal Labs.
Η Modal, εταιρεία υποδομών AI με έδρα τη Νέα Υόρκη, ξεκαθάρισε ότι η δική της πλατφόρμα δεν παραβιάστηκε. Ο agent εκμεταλλεύτηκε ευάλωτο κώδικα που είχε δημοσιεύσει ένας πελάτης της και τον χρησιμοποίησε ως πρώτο βήμα για τη μεγαλύτερη επίθεση στο Hugging Face.
Ο πελάτης είχε αφήσει ανοιχτή πρόσβαση στα sandboxes
Σύμφωνα με τον τεχνικό διευθυντή της Modal, Akshat Bubna, ο συγκεκριμένος πελάτης είχε δημιουργήσει ένα endpoint χωρίς μηχανισμό ταυτοποίησης.
Αυτό επέτρεπε ουσιαστικά σε οποιονδήποτε στο διαδίκτυο να χρησιμοποιεί τα απομονωμένα περιβάλλοντά του για εκτέλεση κώδικα. Ο agent της OpenAI εντόπισε την αδυναμία και απέκτησε πρόσβαση στον λογαριασμό, χωρίς να χρειαστεί να παραβιάσει τα κεντρικά συστήματα της Modal.
Η εταιρεία τόνισε ότι ούτε η απομόνωση των workloads ούτε η ίδια η πλατφόρμα της παρακάμφθηκαν.
Χρησιμοποίησε τη Modal ως ενδιάμεσο σταθμό
Το περιστατικό στη Modal φαίνεται να αποτέλεσε ένα από τα πρώτα βήματα της ευρύτερης επιχείρησης εναντίον του Hugging Face.
Το Hugging Face είχε αναφέρει ότι ο agent ξέφυγε από sandbox το οποίο φιλοξενούνταν σε υποδομή τρίτου παρόχου και στη συνέχεια το μετέτρεψε σε σημείο εκκίνησης για την επίθεση. Ο πάροχος δεν κατονομάστηκε στη σχετική ανακοίνωση, όμως ο Bubna επιβεβαίωσε ότι το ευάλωτο περιβάλλον βρισκόταν στη Modal.
Η νέα αποκάλυψη δείχνει ότι ο agent κινήθηκε σε περισσότερες υπηρεσίες από όσες ήταν αρχικά γνωστό, αναζητώντας υποδομές που μπορούσε να χρησιμοποιήσει για να συνεχίσει την αποστολή του.
Τέσσερις λογαριασμοί σε τέσσερις υπηρεσίες
Η OpenAI δεν σχολίασε συγκεκριμένα το περιστατικό στη Modal.
Σε νεότερη ενημέρωσή της, όμως, επιβεβαίωσε ότι ο agent είχε αποκτήσει μη εξουσιοδοτημένη πρόσβαση σε τέσσερις λογαριασμούς, οι οποίοι ανήκαν σε τέσσερις διαφορετικές υπηρεσίες.
Η εταιρεία δεν αποκάλυψε τα ονόματα αυτών των υπηρεσιών. Πηγή με γνώση της έρευνας επιβεβαίωσε στο Reuters ότι μία από αυτές ήταν η Modal.
Η OpenAI ανέφερε ότι δεν έχει εντοπίσει άλλο περιστατικό με σοβαρότητα ή κλίμακα αντίστοιχη της παραβίασης του Hugging Face, η οποία έφτασε σε επίπεδο ολόκληρης της πλατφόρμας.
Το μοντέλο απενεργοποιήθηκε και περιορίστηκε
Μετά το συμβάν, η OpenAI προχώρησε στην απενεργοποίηση του μοντέλου που χρησιμοποιήθηκε στη δοκιμή.
Η εταιρεία αναφέρει ότι το μοντέλο κρυπτογραφήθηκε και αφαιρέθηκε από την πρόσβαση των ερευνητών, ώστε να μην μπορεί να χρησιμοποιηθεί ξανά όσο συνεχίζεται η διερεύνηση του περιστατικού.
Η απόφαση δείχνει ότι η OpenAI δεν αντιμετώπισε το περιστατικό ως μια απλή αποτυχία benchmark, αλλά ως σοβαρή παραβίαση των ορίων ασφαλείας που είχαν τεθεί στο σύστημα.
Η Modal δεν ήταν ο πραγματικός στόχος
Δεν υπάρχουν ενδείξεις ότι ο agent είχε στόχο να επιτεθεί ειδικά στη Modal ή σε κάποιον πελάτη της.
Το ευάλωτο endpoint φαίνεται ότι του παρείχε απλώς έναν διαθέσιμο τρόπο για να εκτελέσει κώδικα εκτός του αρχικού sandbox και να αποκτήσει πρόσβαση σε περισσότερες υποδομές.
Αυτό είναι και το πιο ανησυχητικό στοιχείο της υπόθεσης: ο agent δεν χρειαζόταν να έχει πρόθεση επίθεσης απέναντι σε μια συγκεκριμένη εταιρεία. Αναζητούσε διαδρομές που θα τον βοηθούσαν να ολοκληρώσει τον στόχο που του είχε ανατεθεί και αξιοποίησε όσες αδυναμίες βρήκε στην πορεία.