“Όταν αυτοί οι πράκτορες αναπτυχθούν σε ολόκληρη την επιχείρηση, οι κίνδυνοι σας όχι μόνο θα αυξηθούν, αλλά θα αλλάξουν.”
«Ο λόγος είναι ότι θα έχετε πελάτες που δεν κυβερνώνται».
Λάβετε υπόψη ότι η εικόνα δημοσιεύεται μόνο για αντιπροσωπευτικούς σκοπούς. Φωτογραφία: Ευγενική παραχώρηση Tara Winstead / Pexels.com
Ανάντ ΌσβαλΟι πράκτορες AI πυκνώνουν το τοπίο απειλών στις επιχειρήσεις και ότι είναι βέβαιο ότι θα αναπτυχθεί καθώς αναπτύσσονται περισσότεροι πράκτορες, λέει ο εκτελεστικός αντιπρόεδρος της Palo Alto Networks για την ασφάλεια στον κυβερνοχώρο.
Σε εικονική αλληλεπίδραση με Avik Das/Επιχειρηματικό πρότυποο Oswal μιλά επίσης για τους λόγους για τους οποίους αγόρασε το Portkey νωρίτερα αυτό το έτος και τα συμπεράσματα από το Project Glasswing.
Βασικά σημεία
- Η Palo Alto Networks λέει ότι οι πράκτορες AI θα αναδιαμορφώσουν θεμελιωδώς τους επιχειρηματικούς κινδύνους στον κυβερνοχώρο δημιουργώντας νέους φορείς επιθέσεων και προκλήσεις διακυβέρνησης.
- Το έργο Glasswing έδειξε ότι τα μοντέλα τεχνητής νοημοσύνης εντόπισαν γρήγορα τις ευπάθειες του λογισμικού και δημιούργησαν ενημερώσεις κώδικα, επιταχύνοντας δραματικά τα χρονοδιαγράμματα έρευνας για την ασφάλεια.
- Οι οργανισμοί πρέπει να προετοιμαστούν για μια αυξανόμενη εκκρεμότητα ευπάθειας ενισχύοντας την αρχιτεκτονική Zero Trust, την προστασία τελικού σημείου και τους ελέγχους ασφαλείας σε πραγματικό χρόνο.
- Η Palo Alto εξαγόρασε το Portkey για να δημιουργήσει μια κεντρική πύλη AI για διακυβέρνηση σε επίπεδο επιχείρησης, παρατηρησιμότητα, προστασία χρόνου εκτέλεσης και διαχείριση πρακτόρων.
- Η ευπάθεια, οι υπερβολικές άδειες, η κατάχρηση ταυτότητας και οι αυτόνομες επιθέσεις που βασίζονται στην τεχνητή νοημοσύνη αναδεικνύονται ως σημαντικές απειλές για την ασφάλεια στον κυβερνοχώρο για οργανισμούς.
Ποια είναι μερικά από τα βασικά ευρήματα από τη σκοπιά του Palo Alto που συνεργάζεται με την Anthropic ως μέρος του έργου Glasswing;
Νομίζω ότι αυτό που βρήκαμε είναι ότι με το Mythos υπάρχει περίπου 50 τοις εκατό βελτίωση στην ικανότητα του μοντέλου να γράφει κώδικα.
Τώρα δεν υπάρχει κανένα πρότυπο για την εύρεση ευπαθειών, οπότε θα το θέσω ως εξής: Εάν μπορείτε να γράψετε καλύτερο κώδικα, ελπίζουμε ότι μπορείτε να βρείτε περισσότερα τρωτά σημεία.
Είναι μια προσέγγιση κατά τη γνώμη μου.
Αυτό που με ενδιέφερε περισσότερο ήταν ότι αυτό που μπορούσαμε να βρούμε τις πρώτες δύο έως τρεις εβδομάδες χρήσης του Mythos θα είχε στους ερευνητές το ισοδύναμο ενός ολόκληρου έτους χειροκίνητης δοκιμής διείσδυσης.
Δεύτερον, αν και μπόρεσε να βρει πολλαπλά τρωτά σημεία – χαμηλή, μεσαία, υψηλή και κρίσιμη – η ικανότητα του μοντέλου να συσχετίζει πολλαπλές ευπάθειες στη διαδρομή επίθεσης ήταν πολύ ενδιαφέρουσα όσον αφορά τον τρόπο με τον οποίο μπορούσε να το κάνει.
Νομίζω ότι καθώς αρχίσαμε να χρησιμοποιούμε αυτά τα μοντέλα περισσότερο και φυσικά καθώς κατασκευάζαμε τα σωστά εργαλεία γύρω από αυτά με την εμπειρία μας, είδαμε ότι μπορούσαμε να βρίσκουμε προβλήματα πολύ πιο γρήγορα.
Και μετά, φυσικά, ήμασταν μία από τις πρώτες εταιρείες που κυκλοφόρησαν ενημερώσεις κώδικα λογισμικού που δημιουργήθηκαν με τη βοήθεια της Mythos.
«Τελικά, ο μόνος δρόμος προς τα εμπρός είναι να έχουμε ελέγχους σε πραγματικό χρόνο».
Τι σημαίνει αυτό για τους πελάτες;
Αυτό σημαίνει ότι θα υπάρξει μια πλημμύρα τρωτών σημείων που θα συναντήσουν οι πελάτες επειδή έχουν πολλά πράγματα να επιδιορθώσουν.
Δεν νομίζω ότι θα είναι τόσο εύκολο και ξεκάθαρο γιατί δεν μπορεί να κινηθεί γρήγορα κάθε κλάδος, ειδικά οι ρυθμιζόμενες βιομηχανίες.
Ας πάρουμε τα παραδείγματα της κατασκευής και της υγειονομικής περίθαλψης.
Σε ορισμένες περιπτώσεις, δεν μπορούν καν να επιδιορθώσουν εύκολα τα δικά τους τελικά σημεία.
Είναι σχεδόν αδύνατο.
Το δεύτερο πράγμα είναι ότι αυτό δημιουργεί μια ευκαιρία για τους οργανισμούς να αντιμετωπίσουν θέματα που μπορεί να ήταν στη λίστα προτεραιοτήτων τους.
Αυτό περιλαμβάνει τη λήψη της λειτουργίας Zero Trust και την εφαρμογή ελέγχων πρόσβασης ελάχιστων προνομίων.
Ήταν πάντα σημαντικό, αλλά για διάφορους λόγους -όπως εστίαση, χρόνος και χρηματοδότηση- δεν ήταν κορυφαία προτεραιότητα.
Γιατί τελικά, ο μόνος δρόμος προς τα εμπρός είναι να υπάρχουν έλεγχοι σε πραγματικό χρόνο.
Πώς οραματίζεστε τις μελλοντικές επιθέσεις;
Πιστεύω ότι οι μελλοντικές επιθέσεις δεν θα είναι απλώς επιθέσεις με τεχνητή νοημοσύνη. Θα λειτουργεί αυτόνομα από τεχνητή νοημοσύνη.
Αυτό είναι ξεκάθαρο με βάση αυτό που βλέπουμε τώρα.
Έτσι, ενώ η επιδιόρθωση και η υγιεινή ασφαλείας παραμένουν σημαντικές, τελικά πρέπει να φτάσετε σε ένα σημείο όπου έχετε ελέγχους σε πραγματικό χρόνο, σωστή διαχείριση στάσης, αρχιτεκτονική και τμηματοποίηση – όλα αυτά τα πράγματα εφαρμόζονται σωστά.
Αυτό συμβαίνει επειδή όχι μόνο πρέπει να είστε αντιδραστικοί αλλά και προορατικοί στον τρόπο με τον οποίο ασφαλίζετε τον οργανισμό.
Για μένα, είναι ένα ταξίδι τριών βημάτων.
Αρχικά, αντιμετωπίστε τον κατακλυσμό των τρωτών σημείων, που σημαίνει επιδιόρθωση τελικών σημείων, εφαρμογών και υποδομών.
Δεύτερον, αναβαθμίστε τα στοιχεία ελέγχου ασφαλείας, τα οποία είναι μηδενική εμπιστοσύνη, ασφαλή προγράμματα περιήγησης και στοιχεία ελέγχου τελικού σημείου.
Και τρίτον, προχωρήστε σε λειτουργίες ασφαλείας που βασίζονται σε AI, ώστε να μπορείτε να κάνετε αυτά τα πράγματα σε πραγματικό χρόνο.
«Νέοι φορείς επίθεσης θα αναδυθούν καθώς οι πελάτες αλληλεπιδρούν με τους πελάτες με τρόπους που δεν υπάρχουν σήμερα».
Πώς οι πράκτορες AI και AI ενισχύουν τις απειλές ασφαλείας σε οργανισμούς;
Όταν αυτοί οι πράκτορες αναπτυχθούν σε ολόκληρη την επιχείρηση, οι κίνδυνοι όχι μόνο θα αυξηθούν, αλλά θα αλλάξουν.
Ο λόγος είναι ότι θα έχετε πελάτες χωρίς επίβλεψη.
Η απρόσκοπτη ανάπτυξη πρακτόρων μέσω πλατφορμών χαμηλού κώδικα, πλατφορμών χωρίς κώδικα, πλατφορμών SaaS και εταιρικών πλατφορμών έχει αυξήσει τον αριθμό των πρακτόρων.
Καθώς συνδέονται με μη πιστοποιημένους διακομιστές MCP, επικοινωνούν μέσω νεότερων πρωτοκόλλων όπως MCP και A2A, επικαλούνται δεξιότητες και εφαρμόζουν εργαλεία σε κλίμακα, αυτοί οι κίνδυνοι θα αλλάξουν.
Νέοι φορείς επίθεσης θα εμφανιστούν καθώς οι πράκτορες αλληλεπιδρούν με τους πελάτες με τρόπους που δεν υπάρχουν σήμερα.
Για να διαχειριστεί κανείς αυτήν την τεράστια κλίμακα τεχνητής νοημοσύνης και όλους τους κινδύνους διακυβέρνησης που αντιμετωπίζει, χρειάζεται ένα κεντρικό επίπεδο ελέγχου και ένα κεντρικό επίπεδο ασφαλείας.
Επομένως, όλες αυτές οι αλληλεπιδράσεις AI πρέπει να δρομολογούνται μέσω της πύλης AI, όπου μπορούμε να δημιουργήσουμε ένα μητρώο μεσολάβησης, προστασία χρόνου λειτουργίας, προστασία ταυτότητας, διακυβέρνηση εταιρικής τεχνητής νοημοσύνης, δυνατότητα παρακολούθησης διακομιστή μεσολάβησης από άκρο σε άκρο και στοιχεία ελέγχου FinOps για διαχείριση διακριτικών.
Όλα αυτά μας οδήγησαν να αποκτήσουμε το Portkey επειδή χρειάζεστε αυτό το νέο επίπεδο ελέγχου.
«Θέλουμε να εξασφαλίσουμε ολόκληρο το αποτύπωμα AI χωρίς να επιβραδύνουμε την καινοτομία».
Ποιοι είναι μερικοί από τους κύριους φορείς απειλής που επηρεάζουν τους οργανισμούς σήμερα;
Νομίζω ότι μεταξύ των εφαρμογών που εκτίθενται σε επιθέσεις άμεσης έγχυσης και άρνησης υπηρεσίας (Υποτελής) Επιθέσεις κατά προτύπων, κατάχρηση εργαλείων και υπερβολικές άδειες.
Για παράδειγμα, είχαμε έναν πελάτη του οποίου η ομάδα μάρκετινγκ δημιούργησε πράκτορες που μπορούσαν να πάνε στο Salesforce και να διαβάσουν αρχεία για να δημιουργήσουν δυνητικούς πελάτες μάρκετινγκ.
Μια πολύ απλή και μάλλον ευγενής θήκη χρήσης. Δυστυχώς, είχε ένα πρόβλημα. Ο πράκτορας είχε υπερβολικά δικαιώματα – μπορεί να διαγράψει εγγραφές Salesforce.
Όλα αυτά λοιπόν είναι αυτά που λέμε θέματα στάσης.
Θα υπάρξουν, φυσικά, απειλές ταυτότητας.
Όταν ένας πράκτορας ζητά άδεια για να κάνει κάτι, το ερώτημα είναι: Έχω άδεια πρόσβασης σε αυτά τα δεδομένα, σε όλα τα δεδομένα ή μόνο στα συγκεκριμένα δεδομένα που απαιτούνται για αυτήν την εργασία;
Αυτός είναι ο τύπος ελέγχου που ενσωματώνουμε στο AI Gateway.
Η όλη ιδέα είναι ότι θέλουμε να εξασφαλίσουμε ολόκληρο το αποτύπωμα AI χωρίς να επιβραδύνουμε την καινοτομία.
Οι πελάτες σήμερα δεν αναζητούν λύση για τους επόμενους έξι μήνες.
Και αν δεν έχω τη διακυβέρνηση και τα στοιχεία ελέγχου FinOps και τα στοιχεία ελέγχου παρατηρητικότητας και χρόνου εκτέλεσης, είναι πολύ δύσκολο για μένα να το αναπτύξω σε κλίμακα εάν έχω 100.000 πράκτορες στον οργανισμό.
Προβολή χαρακτηριστικού: Ashish Narsil/Redev
