μεγάλοΤην περασμένη εβδομάδα, οι υπηρεσίες εθνικής ασφάλειας από το Five Eyes, μια λέσχη πλούσιων αγγλόφωνων χωρών, δημοσίευσαν από κοινού δήλωση προειδοποίηση για τους αυξανόμενους κινδύνους στον κυβερνοχώρο των μοντέλων τεχνητής νοημοσύνης: ειδικότερα, την ικανότητά τους να παραβιάζουν αυτόνομα συστήματα και δίκτυα. Η δήλωση ήταν πιο μετρημένη από μερικούς από τους τίτλους που την έχουν κατακλύσει και οι συμβουλές που έδωσαν είναι σχεδόν η τυπική συμβουλή που δίνουν όλοι, αν και με μια νέα επείγουσα ανάγκη.
Οι κίνδυνοι του Διαδικτύου δεν είναι κάτι καινούργιο και οι επιθέσεις στον κυβερνοχώρο – τόσο μεγάλες όσο και μικρές – ήταν ένα σημαντικό πρόβλημα πολύ πριν από την τρέχουσα γενιά μοντέλων τεχνητής νοημοσύνης.
Αυτό που έχει αλλάξει με τις δεκαετίες και αυτό που η τεχνητή νοημοσύνη αλλάζει ακόμα πιο γρήγορα, είναι το χάσμα μεταξύ δεξιοτήτων και ικανοτήτων. Για το μεγαλύτερο μέρος της ανθρώπινης ιστορίας, οι δύο όροι ήταν συνώνυμοι, αλλά οι υπολογιστές τους έχουν χωρίσει. Καθώς το χάσμα μεταξύ τους διευρύνεται, τα άτομα που έχουν εξουσιοδοτηθεί με αυτά τα εργαλεία τεχνητής νοημοσύνης μπορούν να κάνουν περισσότερα: περισσότερο γράψιμο, περισσότερη έρευνα, περισσότερη ανάλυση και μεγαλύτερη ζημιά από ποτέ. Αυτά τα μοντέλα μπορούν, χωρίς λεπτομερή καθοδήγηση, να παραβιάσουν αυτόνομα τα δίκτυα, να κλέψουν δεδομένα, να εισαγάγουν ransomware και να καταστρέψουν συστήματα. Και αν υπάρξει λύση, θα περιλαμβάνει τη χρήση τεχνητής νοημοσύνης για προστασία.
Το 1998, επτά άτομα από την ομάδα χάκερ L0pht κατέθεσε να Συνέδριο. Είπαν σε μια σχεδόν ανίδεη επιτροπή της Γερουσίας ότι θα μπορούσαν να κλείσουν το Διαδίκτυο σε 30 λεπτά. Αυτό ήταν εν μέρει αλήθεια, εν μέρει αυθάδης, αλλά δείχνει ένα σημαντικό σημείο: παραβίαση συστημάτων, κλοπή δεδομένων και καταστροφή όλων των απαραίτητων δεξιοτήτων.
Συγκρίνετε τους χάκερ L0pht με τους χάκερ που χλευάζονται ως «παιδιά σεναρίου». Δεν καταλάβαιναν υπολογιστές ή ασφάλεια. Αντίθετα, χρησιμοποίησαν εργαλεία hacking γραμμένα από άλλους. Οι ενέργειές τους απαιτούσαν ελάχιστες δεξιότητες και ακόμη λιγότερη γνώση. Αλλά μόλις αυτά τα εργαλεία χάκερ έγιναν ευρέως διαδεδομένα, ο αριθμός των πιθανών εισβολέων αυξήθηκε.
Αυτός ο αριθμός συνεχίζει να αυξάνεται καθώς αυξάνεται η ποιότητα και η διαθεσιμότητα εργαλείων επίθεσης εκτός ραφιού. Και αυξάνεται δραματικά με την έλευση του AI. Τα σημερινά συστήματα τεχνητής νοημοσύνης —όχι μόνο προηγμένα μοντέλα, αλλά τα περισσότερα από αυτά— είναι ικανά να πραγματοποιούν αυτόματα κυβερνοεπιθέσεις. Όλα λειτουργούν καλύτερα στα χέρια έμπειρων επιτιθέμενων, αλλά όλο και περισσότερο μπορούν να λειτουργούν αυτόνομα με ελάχιστες προτροπές.
Το θέμα με τα άτομα με ικανότητες αλλά χωρίς δεξιότητες είναι ότι συχνά είναι ξένοι, δεν ανήκουν σε καμία επαγγελματική κοινότητα και δεν δεσμεύονται από κανόνες ή κανονισμούς. Αυτό το φαινόμενο είναι πολύ πιο γενικό από ό,τι στην κυβερνοασφάλεια. Οποιοσδήποτε γιατρός μπορεί να σας πει πώς να δηλητηριάζετε ήσυχα έναν άνθρωπο και πολλοί ερευνητές ιών γνωρίζουν πώς να δημιουργούν βιολογικά όπλα. Οποιοσδήποτε μηχανικός γέφυρας θα σας πει πώς να φυτέψετε εκρηκτικά για να ανατινάξετε μια γέφυρα. Ο λόγος που οι δολοφόνοι γιατροί και οι τρομοκράτες μηχανικοί είναι τόσο σπάνιοι είναι ότι η μακρά διαδικασία απόκτησης αυτών των δεξιοτήτων ενσταλάζει επίσης έναν ηθικό και ηθικό κώδικα. Εάν κάθε τυχαίο άτομο είχε πρόσβαση σε καλές συμβουλές για τη δηλητηρίαση, θα μας έβαζε όλους σε κίνδυνο.
Τα σύγχρονα συστήματα τεχνητής νοημοσύνης είναι, στην πραγματικότητα, καθολικοί σύμβουλοι που βοηθούν τους ανθρώπους να διαπράττουν επιβλαβείς ενέργειες. Και ενώ οι σημερινές μεγάλες εταιρείες τεχνητής νοημοσύνης προσπαθούν να δημιουργήσουν προστατευτικά κιγκλιδώματα για να εμποδίσουν τους ανθρώπους να κάνουν ερωτήσεις των οποίων οι απαντήσεις θα επέτρεπαν στον ερωτώντα να κάνει κακό, δεν θα λειτουργήσει μακροπρόθεσμα. Μικρότερα, φθηνότερα, ανοιχτού κώδικα μοντέλα, συμπεριλαμβανομένων μοντέλων που μπορούν να εκτελεστούν σε υπολογιστές ανθρώπων, και ειδικά ομάδες μοντέλων που συνεργάζονται, είναι εξίσου καλά με τα μοντέλα αιχμής από εταιρείες όπως η OpenAI και η Anthropic. Και συνεχίζουν να βελτιώνονται. Αυτά τα μοντέλα θα περνούν από άτομο σε άτομο, όπως τα εργαλεία hacking script kiddie, και δεν θα έχουν τέτοια προστατευτικά κιγκλιδώματα.
Η εντολή στα μοντέλα τεχνητής νοημοσύνης να κατασκοπεύουν ανθρώπους και να αναφέρουν τυχόν κακόβουλα αιτήματα στις αρχές αποτυγχάνει για τους ίδιους λόγους. Οι Megacorporations μπορούν να το κάνουν, αλλά τα τοπικά μοντέλα ανοιχτού κώδικα δεν μπορούν. Στην καλύτερη περίπτωση, αυτό θα μπορούσε να μας δώσει μερικούς μήνες.
Μια τρίτη πιθανότητα είναι να καταστήσουμε τα ίδια τα μοντέλα ανίκανα να χακάρουν υπολογιστές, να δημιουργήσουν βιολογικά όπλα ή να κάνουν οτιδήποτε άλλο που θα μπορούσε να βλάψει τους ανθρώπους ή την κοινωνία. Δεν θα λειτουργήσει για τον ίδιο λόγο που δεν μπορούμε να διδάξουμε στους γιατρούς πώς να αντιμετωπίζουν τη δηλητηρίαση χωρίς να τους διδάξουμε επίσης πώς να δηλητηριάζουν. Είναι η ίδια γνώση. Το ίδιο συμβαίνει με την κατασκευή και την κατεδάφιση. Το ίδιο συμβαίνει και με την κυβερνοασφάλεια. Θέλουμε αυτά τα μοντέλα τεχνητής νοημοσύνης να μπορούν να επιθεωρούν τον κώδικα του υπολογιστή, να βρίσκουν τρωτά σημεία και να τα διορθώνουν αυτόματα. Τα οφέλη για τη συλλογική μας ασφάλεια θα είναι τεράστια. Δυστυχώς, η ίδια γνώση μπορεί να χρησιμοποιηθεί για επιθέσεις.
Αυτό μας αφήνει σε έναν κόσμο αυξημένης αστάθειας. Οι υπερδύναμοι άνθρωποι με βοηθούς τεχνητής νοημοσύνης θα μπορούν να κάνουν τόσο υπέροχα όσο και τρομερά πράγματα.
Αυτό μας φέρνει πίσω στη δήλωση Five Eyes. Όλα όσα προτείνουν είναι αυτά που συνιστούν οι επαγγελματίες ασφαλείας εδώ και χρόνια, αν όχι δεκαετίες. Αυτό συζητήθηκε σε μια ακρόαση του Κογκρέσου το 1998 με τίτλο “Αδύναμη ασφάλεια υπολογιστών στην κυβέρνηση: Είναι η κοινωνία σε κίνδυνο;” Ακόμη και οι Five Eyes παραδέχτηκαν ότι οι συμβουλές τους για την ασφάλεια δεν είναι νέες, αλλά μόνο πιο σχετικές.
Το νέο είναι το πόσο γρήγορα αλλάζουν τα πράγματα: “Ο γρήγορος ρυθμός προόδου στην προηγμένη τεχνητή νοημοσύνη σημαίνει ότι οι υποθέσεις σχετικά με τον κίνδυνο στον κυβερνοχώρο μπορεί να είναι ξεπερασμένες σε μήνες και όχι χρόνια. Πρέπει να δράσουμε νωρίτερα και να είμαστε έτοιμοι να προσαρμοστούμε και να αντιμετωπίσουμε τις εξελισσόμενες απειλές.” Το Five Eyes επισημαίνει ότι η τεχνολογία τεχνητής νοημοσύνης (όχι απαραίτητα τα chatbot, αλλά η AI γενικά) χρησιμοποιείται για να βελτιώσει όλες τις πτυχές της ασφάλειας, να «εντοπίσει έγκαιρα τρωτά σημεία, να βελτιώσει την ποιότητα του λογισμικού, να παρακολουθεί για ασυνήθιστη συμπεριφορά και να ανταποκρίνεται σε περιστατικά πιο γρήγορα, μειώνοντας τόσο το κόστος όσο και τον αντίκτυπο των περιστατικών».
Εξαιρετικές συμβουλές από τις υπηρεσίες ασφαλείας Five Eyes. Πρέπει να το κάνουμε αυτό με κάθε κίνδυνο που ενισχύει η τεχνητή νοημοσύνη, όχι μόνο την ασφάλεια στον κυβερνοχώρο.
