Η Anthropic λανσάρει ένα νέο μοντέλο τεχνητής νοημοσύνης στο πλαίσιο μιας συνεργασίας στον τομέα της κυβερνοασφάλειας με τη Nvidia, την Google, την Amazon Web Services, την Apple, τη Microsoft και άλλες εταιρείες. Το Project Glasswing, όπως λέγεται, περιγράφεται ως ένας τρόπος για τις μεγάλες εταιρείες, και ίσως ακόμη και την κυβέρνηση, να εντοπίζουν τρωτά σημεία στα συστήματά τους χωρίς σχεδόν καμία ανθρώπινη παρέμβαση.
Η Anthropic προσφέρει στους συνεργάτες εκκίνησης πρόσβαση στο Claude Mythos Preview, ένα νέο μοντέλο γενικής χρήσης που δεν σκοπεύει να κυκλοφορήσει επί του παρόντος δημόσια λόγω ανησυχιών για την ασφάλεια. Ο Newton Cheng, ηγέτης στον κυβερνοχώρο της Red Frontier Team της Anthropic, είπε: Ακρη Το μοντέλο θα δώσει στους υπερασπιστές του κυβερνοχώρου ένα «ξεκίνημα» έναντι των αντιπάλων. Οι συνεργάτες θα χρησιμοποιήσουν το μοντέλο για να αναλύσουν το σύστημά τους για να εντοπίσουν τρωτά σημεία υψηλού κινδύνου και να βοηθήσουν στην επιδιόρθωση τους. Η πρόσβαση είναι περιορισμένη για να εμποδίσει τους ίδιους τους αντιπάλους να τη χρησιμοποιήσουν για να βρουν τρωτά σημεία και να πραγματοποιήσουν επιθέσεις.
Αν και το Claude Mythos Preview δεν εκπαιδεύτηκε ειδικά για σκοπούς κυβερνοασφάλειας, η Anthropic είπε σε μια δήλωση ότι οι «ισχυρές δεξιότητες προγραμματισμού και συλλογιστικής» του μοντέλου βρίσκονται πίσω από τις προόδους στην ασφάλεια στον κυβερνοχώρο. Σε μια συνέντευξη με ΑκρηΟ Newton Cheng, επικεφαλής της ομάδας κόκκινων συνόρων του Anthropic, αρνήθηκε να μοιραστεί συγκεκριμένες λεπτομέρειες σχετικά με τις επιτυχίες του μοντέλου στον κυβερνοχώρο, αλλά μια ανάρτηση ιστολογίου Anthropic ανέφερε ότι τις τελευταίες εβδομάδες, το Mythos Preview εντόπισε «χιλιάδες ευπάθειες υψηλού κινδύνου, συμπεριλαμβανομένων μερικών που βρέθηκαν σε κάθε μεγάλο λειτουργικό σύστημα και πρόγραμμα περιήγησης ιστού». Η ανάρτηση ιστολογίου Anthropic δεν κάνει καμία αναφορά στην ενημέρωση των ανθρώπων για τις εκστρατείες του μοντέλου στον κυβερνοχώρο. Στην πραγματικότητα, τονίζει ότι το μοντέλο εντόπισε τα τρωτά σημεία «και ανέπτυξε (κυκλοφόρησε) αρκετά σχετικά exploits – εντελώς ανεξάρτητα, χωρίς καμία ανθρώπινη καθοδήγηση».
Η ύπαρξη του Claude Mythos Preview αναφέρθηκε για πρώτη φορά τον περασμένο μήνα σε μια διαρροή δεδομένων, την οποία η Anthropic αποδίδει σε ανθρώπινο λάθος. Η Diane Penn, Επικεφαλής Διοίκησης Προϊόντων στην Anthropic, δήλωσε: Ακρη Σε συνέντευξή της, η εταιρεία «λαμβάνει μέτρα όσον αφορά την ενίσχυση των λειτουργιών μας… και αυτό δεν έχει συσχετιστεί με τρωτά σημεία λογισμικού σε καμία περίπτωση».
Το Mythos Preview θα είναι διαθέσιμο αποκλειστικά στους εταιρικούς συνεργάτες της Glasswing, στους οποίους περιλαμβάνονται επίσης οι JPMorgan Chase, Broadcom, Cisco, CrowdStrike, Linux Foundation και Palo Alto Networks, καθώς και περίπου 40 άλλοι οργανισμοί που διατηρούν ή δημιουργούν υποδομές λογισμικού. Προς το παρόν, το Anthropic θα βοηθήσει στην επιδότηση του κόστους χρήσης του. Η εταιρεία λέει ότι θα δεσμεύσει έως και 100 εκατομμύρια δολάρια σε πιστώσεις χρήσης, καθώς και 4 εκατομμύρια δολάρια σε άμεσες δωρεές στο Ίδρυμα Linux και στο Ίδρυμα Λογισμικού Apache, είπε ο Τσενγκ. Μακροπρόθεσμα, καθώς η Anthropic και άλλες εταιρείες τεχνητής νοημοσύνης αντιμετωπίζουν πίεση να αποκομίσουν κέρδος, το λογισμικό θα μπορούσε να εξελιχθεί σε μια πληρωμένη υπηρεσία που παρέχει μια νέα ροή εσόδων — εάν λειτουργεί αρκετά καλά ώστε οι εταιρείες να συνεχίσουν να το χρησιμοποιούν.
Παρά την πρόσφατη δημόσια σύγκρουσή της με την κυβέρνηση Τραμπ, η Anthropic ανέφερε επίσης στη δήλωση ότι έχει «συνεχείς συζητήσεις με αξιωματούχους της κυβέρνησης των ΗΠΑ σχετικά με το Claude Mythos Preview και τις επιθετικές και αμυντικές δυνατότητές του στον κυβερνοχώρο». όταν Ακρη Όταν ρωτήθηκε τι σημαίνει αυτό, ο Ben επιβεβαίωσε ότι η εταιρεία «έχει ενημερώσει ανώτερους αξιωματούχους της αμερικανικής κυβέρνησης για το Mythos και τι μπορεί να κάνει» και ότι η εταιρεία παραμένει «δεσμευμένη να συνεργάζεται στενά με όλα τα διαφορετικά επίπεδα διακυβέρνησης». Ο Τσενγκ είπε ότι παρόλο που η Anthropic «συναλλάσσεται» με την κυβέρνηση, αρνήθηκε να μιλήσει σε ποιον τον ενημέρωσε συγκεκριμένα η εταιρεία.
Σύνδεσμος πηγής: www.theverge.com