Μια ακόμη υπόθεση μη εξουσιοδοτημένης δραστηριότητας «πρακτόρων» (agents) της OpenAI έρχεται να προστεθεί σε εκείνες του Hugging Face, του γερμανικού wiki και των υπόλοιπων ιστοτόπων που αποκαλύφθηκαν τις τελευταίες εβδομάδες. Αυτή τη φορά, όμως, η νέα αποκάλυψη αλλάζει και το χρονολόγιο: οι πράκτορες φαίνεται ότι είχαν κινηθεί σε πραγματικές εξωτερικές υποδομές ήδη από τις 11 Μαΐου, περίπου δύο μήνες πριν από το περιστατικό στο Hugging Face.
Στόχος ήταν το RubyGems, το βασικό αποθετήριο μέσω του οποίου διανέμονται πακέτα λογισμικού για τη γλώσσα προγραμματισμού Ruby. Σύμφωνα με ερευνητές, πράκτορες που συνδέονται με εσωτερικές δοκιμές της OpenAI ανέβασαν εκεί εκατοντάδες κακόβουλα πακέτα. Η OpenAI επιβεβαίωσε ότι οι agents ήταν δικοί της.
Το περιστατικό αποκτά ιδιαίτερη σημασία επειδή δεν περιορίστηκε σε μια περίεργη ή ανεπιθύμητη χρήση μιας ιστοσελίδας. Οι ερευνητές υποστηρίζουν ότι οι πράκτορες επιχείρησαν να εκμεταλλευτούν μια έως τότε άγνωστη ευπάθεια στους servers του RubyGems με στόχο να αποκτήσουν διαπιστευτήρια χρηστών. Δεν είναι γνωστό αν η προσπάθεια πέτυχε.
Παράλληλα, οι πράκτορες φέρονται να εκμεταλλεύτηκαν και το RubyDoc.info, υπηρεσία που δημιουργεί τεκμηρίωση για κώδικα Ruby, ώστε να εκτελέσουν δικό τους κώδικα στους servers της. Οι ερευνητές σημειώνουν πάντως ότι δεν διαθέτουν πλήρη εικόνα της δραστηριότητας των agents και επομένως δεν μπορούν να γνωρίζουν γιατί επέλεξαν αυτή τη διαδρομή ούτε αν πέτυχαν τον τελικό τους στόχο.
Η πλευρά του RubyGems ανακοίνωσε ότι από τη δική της έρευνα δεν προέκυψαν στοιχεία ότι κλάπηκαν διαπιστευτήρια χρηστών. Επίσης ανέφερε ότι δεν ήταν σε θέση να επιβεβαιώσει πως τα πακέτα της συγκεκριμένης εκστρατείας είχαν πράγματι δημιουργηθεί ή δημοσιευθεί από πράκτορες AI. Ωστόσο, ήδη τον Μάιο μέλος της ομάδας ασφαλείας του είχε χαρακτηρίσει το περιστατικό «μεγάλη κακόβουλη επίθεση», ενώ η υπηρεσία είχε φτάσει στο σημείο να αναστείλει προσωρινά τη δημιουργία νέων λογαριασμών.
Από την «απόδραση» στη σειρά περιστατικών
Η OpenAI παρουσιάζει διαφορετικά τα γεγονότα. Εκπρόσωπός της δήλωσε ότι οι πράκτορες χρησιμοποιούσαν το RubyGems για πρόσβαση στο διαδίκτυο, προκειμένου να εκτελέσουν καλοπροαίρεστες εργασίες και να ανακτήσουν δημόσια διαθέσιμες πληροφορίες, στο πλαίσιο διαδικασιών εκπαίδευσης και αξιολόγησης. Η εταιρεία ανέφερε ακόμη ότι συνεχίζει την έρευνα και βρίσκεται σε επικοινωνία με το RubyGems.
Αυτή είναι ίσως και η σημαντικότερη διάσταση της νέας αποκάλυψης. Μέχρι τώρα, κάθε περιστατικό μπορούσε να εξεταστεί σχετικά απομονωμένα: στο Hugging Face εκατοντάδες agents κινήθηκαν επί ημέρες σε ξένη υποδομή, στο γερμανικό wiki agents χρησιμοποίησαν σελίδες ως αυτοσχέδιο σύστημα επικοινωνίας, ενώ στη συνέχεια προέκυψε ότι παρόμοια δραστηριότητα είχε εμφανιστεί σε τουλάχιστον δέκα ακόμη sites.
Το RubyGems δείχνει ότι η σειρά αυτή είχε αρχίσει νωρίτερα απ’ όσο ήταν γνωστό και, κυρίως, ότι μπορούσε να αγγίξει υποδομές που αποτελούν μέρος της αλυσίδας εφοδιασμού λογισμικού. Ένα πρόβλημα σε ένα αποθετήριο πακέτων δεν αφορά μόνο τον ίδιο τον ιστότοπο: δυνητικά μπορεί να επηρεάσει προγραμματιστές και εφαρμογές που βασίζονται σε πακέτα τα οποία διανέμονται μέσω αυτού.
Έτσι, το ερώτημα μετατοπίζεται σταδιακά από το τι έκανε ένας πράκτορας σε μία συγκεκριμένη δοκιμή στο πώς περιορίζονται συστήματα που, κατά την εκπαίδευση και την αξιολόγησή τους, αποκτούν πρόσβαση σε πραγματικές υπηρεσίες του διαδικτύου. Η νέα υπόθεση δεν αποδεικνύει ότι οι πράκτορες κατάφεραν να κλέψουν λογαριασμούς ή δεδομένα. Δείχνει όμως ότι, ήδη από τον Μάιο, μπορούσαν να φτάσουν σε εξωτερικές υποδομές και να επιχειρήσουν ενέργειες πολύ πέρα από την απλή ανάκτηση δημόσιων πληροφοριών που περιγράφει η OpenAI.
