Είδαμε πώς η τεχνητή νοημοσύνη μπορεί να χρησιμοποιηθεί για την εύρεση ελαττωμάτων σε εφαρμογές και ιστότοπους, αλλά οι ερευνητές έχουν δείξει τώρα πώς μπορούν να αναπτυχθούν όπλα για την εκμετάλλευση αυτών των τρωτών σημείων. Μια ομάδα από Πανεπιστήμιο του Τορόντο Χρησιμοποιήθηκαν μοντέλα τεχνητής νοημοσύνης με πρόσβαση στο κοινό για την τροφοδοσία ενός πρωτότυπου τύπου worm ικανού να εκμεταλλευτεί τυχόν γνωστά ελαττώματα του υπολογιστή. Τέτοια σκουλήκια μπορούν στη συνέχεια να εξαπλωθούν μέσω του δικτύου και να προκαλέσουν χάος στο Διαδίκτυο.
Ένα κοινό worm συνήθως σχεδιάζεται από έμπειρους προγραμματιστές για να εκμεταλλευτεί συγκεκριμένα ελαττώματα δικτύου και μπορεί να σταματήσει επιδιορθώνοντας αυτά τα ελαττώματα. Ωστόσο, οι U of T επιστήμονες, που εργάζονταν σε ένα ασφαλές κλειστό περιβάλλον και λαμβάνοντας μεγάλες προφυλάξεις, χρησιμοποίησαν μοντέλα AI ανοιχτού βάρους (ανοιχτού κώδικα) για να δημιουργήσουν ένα πολύ πιο εξελιγμένο πρωτότυπο σκουλήκι που εξαπλώθηκε μέσω του δικτύου δοκιμών της ομάδας χωρίς ανθρώπινη παρέμβαση.
Αυτός ο νέος τύπος τύπου worm καθιστά δυνατή την εκμετάλλευση μιας ποικιλίας τρωτών σημείων σε πολλές πλατφόρμες, συμπεριλαμβανομένων των συσκευών Linux, Windows και IoT. Συλλέγει δεδομένα καθώς κινείται μέσω του δικτύου, συλλέγει κωδικούς πρόσβασης και αποκαλύπτει περισσότερες ευπάθειες που θα το βοηθήσουν να αναλάβει άλλα μηχανήματα. Εάν εντοπιστεί μια μόλυνση και διορθωθεί σε έναν υπολογιστή, το worm μπορεί να εκμεταλλευτεί άλλα ελαττώματα για να επιτεθεί στον ίδιο υπολογιστή.
Επιπλέον, το σκουλήκι “τροφοδοτεί” τον εαυτό του με τη λήψη επεξεργαστικής ισχύος από το μολυσμένο μηχάνημα για να τροφοδοτήσει τη λογική και τη στρατηγική του για μελλοντικές επιθέσεις. «Οι χάκερ έπρεπε συνήθως να δώσουν προτεραιότητα στους στόχους με τη μεγαλύτερη αξία, επειδή ο χρόνος και οι υπολογιστικοί πόροι ήταν περιορισμένοι», δήλωσε ο επικεφαλής συγγραφέας Nicolas Papernot. «Αλλά τώρα, μόλις ξεκινήσει ένα worm, το κόστος πέφτει σχεδόν στο μηδέν».
Η ιδέα των απειλών στον κυβερνοχώρο που βασίζονται στην τεχνητή νοημοσύνη έγινε πρόσφατα πολύ πραγματική με την κυκλοφορία του Anthropic’s Mythos, ενός μοντέλου που μπορεί να ανιχνεύσει προηγουμένως άγνωστους κινδύνους για την ασφάλεια στον κυβερνοχώρο. Η Anthropic λέει ότι η Mithos έχει ήδη αποκαλύψει περισσότερα από 10.000 ελαττώματα, αυξάνοντας το ποσοστό εύρεσης σφαλμάτων των συνεργατών της κατά περισσότερο από 10. Το Cloudflare, το οποίο βοηθά τις εταιρείες να προστατεύονται από κακόβουλες επιθέσεις, βρήκε 2.000 τέτοιες ευπάθειες, 400 από τις οποίες θεωρούνται υψηλές ή κρίσιμες.
Το πρωτότυπο σκουλήκι που δημιουργήθηκε από τους ερευνητές μπορεί να εκμεταλλευτεί μόνο γνωστά σφάλματα και δεν μπορεί να βρει άγνωστα όπως το Mythos. Ωστόσο, είναι εύκολο να δει κανείς πώς οι κακοί ηθοποιοί θα μπορούσαν να το προσαρμόσουν τόσο για να βρουν όσο και να εκμεταλλευτούν νέα τρωτά σημεία – κάτι που θα το έκανε σχεδόν ασταμάτητο εάν κυκλοφορούσε στη φύση. «Σε έναν διασυνδεδεμένο κόσμο, κανένα σύστημα δεν είναι απρόσβλητο από αυτές τις απειλές», είπε ο Papernot. «Η κοινή χρήση αυτών των ευρημάτων είναι το πρώτο βήμα για τους ερευνητές, τους ηγέτες του κλάδου και τους υπεύθυνους χάραξης πολιτικής να αναλάβουν δράση — και γρήγορα».
