Καθώς τα εργαλεία τεχνητής νοημοσύνης πολλαπλασιάζονται σε όλο τον κόσμο και διεισδύουν βαθύτερα στην ανάπτυξη λογισμικού. νέα έρευνα Ένα άρθρο από την εταιρεία κυβερνοασφάλειας Crowdstrike δείχνει πώς οι εισβολείς στοχεύουν ενεργά αλυσίδες εργαλείων τεχνητής νοημοσύνης για να κλέψουν διαπιστευτήρια πρόσβασης, να αποκτήσουν βαθύτερη πρόσβαση σε περιβάλλοντα στόχους, να διεισδύσουν ευαίσθητα δεδομένα και ακόμη και να καταστρέψουν αρχεία και συστήματα στόχων, βρίσκοντας νέους τρόπους για να τα παρακολουθήσουν όλα.
Οι ερευνητές ανακάλυψαν το σκουλήκι στη φύση ενώ διερεύνησαν επιθέσεις εφοδιαστικής αλυσίδας σε λογισμικό τεχνητής νοημοσύνης. Ο Adam Myers, ανώτερος αντιπρόεδρος αντιμέτρων αντιπάλου της CrowdStrike, είπε ότι η εταιρεία δεν αποδίδει ακόμη αυτή τη δραστηριότητα σε έναν συγκεκριμένο παράγοντα απειλής, αλλά είπε ότι ταιριάζει σε μια ευρύτερη εξέλιξη στον τρόπο με τον οποίο στοχεύουν οι φορείς απειλών όπως το TeamPCP (το οποίο το CrowdStrike παρακολουθεί ως “Altered Spider”) και οι βορειοκορεατικές ομάδες εφοδιασμού λογισμικού.
«Αυτή είναι μια από τις πρώτες καμπάνιες που έχουμε δει μέχρι σήμερα που δείχνει ότι πρόκειται για μια νέα κατηγορία επιθέσεων», είπε ο Myers στο WIRED. “Καθώς οι πράκτορες κωδικοποίησης AI γίνονται το πρότυπο ανάπτυξης, οι απειλές της εφοδιαστικής αλυσίδας εξελίσσονται για να εκμεταλλευτούν αυτήν την εμπιστοσύνη. Για πρώτη φορά, βιώνουμε πόσο πολύ επηρεάζουν οι αλυσίδες εργαλείων AI και AI το ευρύτερο τεχνολογικό οικοσύστημα.”
Τα σκουλήκια που εντοπίστηκαν από το CrowdStrike λειτουργούν σταδιακά. Πρώτον, πραγματοποιήστε αναγνώριση για την αξιολόγηση του περιβάλλοντος στόχου. Στη συνέχεια, αναζητήστε διακριτικά πρόσβασης και άλλα ευαίσθητα δεδομένα, όπως κλειδιά κρυπτογράφησης ή διαπιστευτήρια πρόσβασης διακομιστή που μπορούν να παρέχονται σε έναν εισβολέα. Μόλις το κακόβουλο λογισμικό αποκτήσει προνόμια, συνεχίζει να αποσυμπιέζεται και να αποκτά διαπιστευτήρια, συγκεκριμένα ένα διακριτικό “npm” που παρέχει πρόσβαση σε βασικούς διακομιστές διαχείρισης πακέτων λογισμικού και άλλες δυνατότητες ανάπτυξης, όπως αιτήματα έλξης.
Όσο πιο βαθιά διεισδύει το κακόβουλο λογισμικό στο σύστημά σας, τόσο πιο ευαίσθητα δεδομένα μπορεί να ανακτήσει. Σε αυτό το σημείο, το κακόβουλο λογισμικό μπορεί επίσης να αναπτύξει τις καταστροφικές του δυνατότητες, ή αυτό που ο Myers αποκαλεί “διακόπτη θανάτου”, για να καταστρέψει αρχεία ή να αποκλείσει τη νόμιμη πρόσβαση στην παραβιασμένη υποδομή.
Ωστόσο, ένα βασικό εύρημα είναι ότι επειδή μεγάλο μέρος της συμπεριφοράς του σκουληκιού μιμείται τη νόμιμη συμπεριφορά, μεγάλο μέρος της κακόβουλης δραστηριότητας του σκουληκιού συμβαίνει σε αυτό που είναι ουσιαστικά ένα τυφλό σημείο. “Αυτό είναι σαν μια βελόνα σε μια θημωνιά χόρτου, μόνο που αυτή είναι μια βελόνα σε μια βελόνα σε μια θημωνιά”, λέει ο Myers. “Αυτό μοιάζει πολύ με αυτό που χρησιμοποιούν πολλοί οργανισμοί αυτοματισμού για να δημιουργήσουν τον κώδικά τους, επομένως είναι πολύ δύσκολο να εντοπιστεί.”
Ο Myers προσθέτει ότι αυτοί οι αγωγοί ανάπτυξης λογισμικού AI καθιστούν επίσης δύσκολη τη συλλογή σημείων δεδομένων που χρησιμοποιούν παραδοσιακά οι σαρωτές ασφαλείας και τα εργαλεία ανάλυσης για τον εντοπισμό δυνητικά ύποπτης δραστηριότητας.
«Επειδή τα νόμιμα συστήματα κωδικοποίησης AI λειτουργούν με τον ίδιο τρόπο όπως αυτό το σκουλήκι, υπάρχει μεγάλη επικάλυψη στην τηλεμετρία, γεγονός που καθιστά πολύ δύσκολο να διακρίνουμε τι είναι νόμιμο και τι είναι αθέμιτο από τη διαθέσιμη τηλεμετρία», είπε ο Myers.
Ακόμη πιο πονηρά και κρυφά, οι συγγραφείς του σκουληκιού δημιούργησαν χρονικές καθυστερήσεις για να εκτελεστούν διάφορες λειτουργίες ώρες ή και μέρες μετά τη δημιουργία των θεμελίων, καθιστώντας ακόμη πιο δύσκολο για τους υπερασπιστές να καθορίσουν την αιτία και το αποτέλεσμα συγκεκριμένων γεγονότων που οδηγούν σε συγκεκριμένα αποτελέσματα.
Ο Myers είπε ότι το CrowdStrike εργάζεται σε περισσότερες στρατηγικές «connect-the-dot», αλλά τόνισε ότι καθώς η ανάπτυξη λογισμικού τεχνητής νοημοσύνης εκρήγνυται, υπάρχει επιτακτική ανάγκη για όλα τα μέρη να συνεργαστούν σε δομικές λύσεις.
«Επειδή μόνο μια περιορισμένη ποσότητα αυτής της δραστηριότητας μπορεί πραγματικά να δημιουργήσει σήματα τηλεμετρίας που μπορούμε να δούμε, η περιοχή ανίχνευσης είναι περιορισμένη, καθιστώντας πολύ δύσκολο τον προσδιορισμό της νόμιμης και της παράνομης συμπεριφοράς», είπε ο Myers.
