Στη σύντομη ιστορία της ασφάλειας της τεχνητής νοημοσύνης, η άμεση έγχυση έγινε γρήγορα η κορυφαία απειλή. Τα μοντέλα μεγάλων γλωσσών δεν μπορούν να διακρίνουν τις νόμιμες οδηγίες που δίνονται από τους χρήστες και τις κακόβουλες οδηγίες που είναι κρυμμένες σε μηνύματα ηλεκτρονικού ταχυδρομείου, στον πηγαίο κώδικα και σε άλλο περιεχόμενο τρίτων που επεξεργάζονται τα μοντέλα. Αυτό καθιστά ασήμαντο να εισάγουμε κρυφά κακόβουλες εντολές που το LLM ακολουθεί εύκολα.
Χωρίς τρόπο να επιβληθεί αυτό το κρίσιμο όριο μεταξύ αξιόπιστων και μη αξιόπιστων πηγών, οι προγραμματιστές κινητήρων τεχνητής νοημοσύνης αφήνονται να δημιουργήσουν περίτεχνους φράχτες που έχουν σχεδιαστεί για να μετριάζουν τις ζημιές αντί να αντιμετωπίζουν τις βαθύτερες αιτίες.
Μέχρι σήμερα, οι περισσότερες έγκαιρες ενέσεις εμπίπτουν σε μια κατηγορία γνωστή ως ώθηση, όπου κάθε πιθανό θύμα στοχεύει. Για παράδειγμα, ο αντίπαλος εισάγει κακόβουλες οδηγίες σε ξεχωριστό email ή πρόσκληση ημερολογίου. Επειδή η έγχυση πρέπει να σταλεί (ή να προωθηθεί) σε κάθε συγκεκριμένο στόχο, η κλίμακα της επίθεσης είναι περιορισμένη, εμποδίζοντας μαζικές εκμεταλλεύσεις που πλήττουν το Διαδίκτυο γενικά.
Εν τω μεταξύ, οι επιθέσεις που βασίζονται σε έλξη, όπου ένα LLM αναζητά ενεργά εχθρικές προτροπές που φυτεύονται σε ιστότοπους, παραμένουν περιορισμένες. Δεδομένου ότι δεν υπάρχει τρόπος να προσελκύσετε μεγάλο αριθμό LLM σε έναν κακόβουλο ιστότοπο, αυτοί οι τύποι επιθέσεων επίσης δεν κλιμακώνονται.
Μπείτε στο HalluSquatting
Τώρα, οι ερευνητές έχουν αναπτύξει μια επίθεση βασισμένη στην ένταση που αλλάζει όλα αυτά. Οι ερευνητές ανέπτυξαν μια νέα επίθεση που ονομάζεται ψευδαίσθηση, η οποία έχει τη δυνατότητα να συναρμολογήσει τεράστια botnets, να εκτελέσει DDoS μεγάλης κλίμακας και να μολύνει συσκευές σε κλίμακα, μια πρώτη για μια επίθεση άμεσης έγχυσης. Η επίθεση λειτουργεί εναντίον βοηθών και πρακτόρων κωδικοποίησης τεχνητής νοημοσύνης, συμπεριλαμβανομένων των Cursor, Cursor CLI, Gemini CLI, Windsurf, GitHub Copilot, Cline, OpenClaw, ZeroClaw και NanoClaw, τα οποία είναι όλα ευάλωτα. Κατά την κανονική πορεία της εκτέλεσης των καθημερινών λειτουργιών, αυτοί οι βοηθοί και οι πράκτορες αντλούν συνήθως κώδικα και άλλους πόρους από τα αποθετήρια και τα μητρώα.
Μοντέλο απειλής HalluSquatting.
Πίστωση: Spira et al.
Συντομογραφία του Hostile Hallucination Squatting, η ψευδαίσθηση βασίζεται στην εγγενή τάση ενός LLM να έχει ψευδαισθήσεις αναγνωριστικά πόρων που φιλοξενούνται σε αποθετήρια και μητρώα. Λειτουργεί ενάντια σε πράκτορες κωδικοποίησης και βοηθούς, οι οποίοι συνήθως έχουν πρόσβαση σε αυξημένες γραμμές εντολών για την εκτέλεση κώδικα από πόρους τρίτων. Με την πρόβλεψη του αναγνωριστικού, το LLM είναι πολύ πιθανό να έχει παραισθήσεις για το LLM και, στη συνέχεια, καταχωρώντας και δίνοντάς τους οδηγίες να εγκαταστήσουν αντίστροφα κελύφη ή άλλο κακόβουλο λογισμικό, η επίθεση μπορεί να μολύνει έναν μεγάλο αριθμό συσκευών αδιακρίτως χωρίς να στοχεύει καθεμία.
