Μπορούμε τώρα να προσθέσουμε το έγκλημα στον κυβερνοχώρο στον αυξανόμενο κατάλογο ανησυχιών που σχετίζονται με την τεχνητή νοημοσύνη. Ομάδα πληροφοριών απειλών της Google (GTIG) είπε ότι ανακάλυψε, για πρώτη φορά, έναν παράγοντα απειλής που χρησιμοποιεί ένα exploit zero-day που πιστεύει ότι δημιουργήθηκε από την τεχνητή νοημοσύνη. «Τα τρωτά σημεία μηδενικής ημέρας είναι συχνά τα πιο επικίνδυνα επειδή είναι άγνωστα στους στόχους και τους αφήνουν μηδέν ημέρες για να προετοιμαστούν για μια επίθεση.
Η Google ανέφερε στην έκθεση ότι ο παράγοντας της απειλής σχεδίαζε να το χρησιμοποιήσει σε ένα «συμβάν μαζικής εκμετάλλευσης», αλλά ότι ο προληπτικός εντοπισμός «θα μπορούσε να είχε αποτρέψει τη χρήση του». Η Google πρόσθεσε ότι δεν πιστεύει ότι χρησιμοποιήθηκαν τα δικά της μοντέλα Gemini, αλλά εξακολουθεί να έχει «υψηλή εμπιστοσύνη» ότι ένα μοντέλο τεχνητής νοημοσύνης ήταν μέρος της ανακάλυψης της ευπάθειας και της όπλισης μιας εκμετάλλευσης.
Η αναφορά GTIG δεν προσδιόρισε τον στόχο, αλλά ανέφερε ότι η Google ειδοποίησε την ανώνυμη εταιρεία, η οποία στη συνέχεια επιδιορθώθηκε το ζήτημα. Η Google επίσης δεν αποκάλυψε τους κακούς παράγοντες, αλλά όσοι εμπλέκονται στην Κίνα και τη Βόρεια Κορέα έχουν δείξει «σημαντικό ενδιαφέρον» για τη χρήση της τεχνητής νοημοσύνης για την εκμετάλλευση των τρωτών σημείων ασφαλείας.
Με το πόσο γρήγορα έχουν εξελιχθεί τα μοντέλα AI για καθημερινή χρήση, δεν αποτελεί έκπληξη το γεγονός ότι θα χρησιμοποιηθούν με κακόβουλη πρόθεση. Σε μια συνέντευξη με τον Δρ Οι New York TimesΟ John Hultquist, κύριος αναλυτής στο GTIG, το χαρακτήρισε «γεύση των πραγμάτων που έρχονται» και «την κορυφή του παγόβουνου», προσθέτοντας ότι η υπόθεση ήταν η πρώτη «επαληθεύσιμη απόδειξη» αυτού του τύπου επίθεσης. Η Google ανέφερε στην έκθεσή της ότι, ενώ οι παράγοντες απειλών χρησιμοποιούν τεχνητή νοημοσύνη σε διάφορα στάδια επιθέσεων στον κυβερνοχώρο, “το AI μπορεί επίσης να είναι ένα ισχυρό εργαλείο για τους υπερασπιστές”. Όπως η Google, άλλες εταιρείες χρησιμοποιούν μοντέλα τεχνητής νοημοσύνης για να αντλήσουν προληπτικά μέτρα. Τον περασμένο μήνα, η Anthropic ανακοίνωσε το Project GlassWing, μια πρωτοβουλία για τη χρήση του Cloud Mythos Preview για την εύρεση και την άμυνα έναντι «ευπαθειών υψηλής έντασης».
