Η ινδική κυβέρνηση και οι οργανισμοί του ιδιωτικού τομέα χρησιμοποιούν τώρα το μοντέλο τεχνητής νοημοσύνης της Anthropic αιχμής Mythos στο πλαίσιο του Project Glasswing για να βελτιώσουν την ασφάλεια στον κυβερνοχώρο και να ανιχνεύσουν κρίσιμα τρωτά σημεία λογισμικού, ακόμη και όταν η Anthropic προειδοποιεί για τον γρήγορο ρυθμό προόδου της τεχνητής νοημοσύνης και τους πιθανούς κοινωνικούς κινδύνους της.
Βασικά Σημεία
- Η ινδική κυβέρνηση και οι οργανισμοί του ιδιωτικού τομέα έχουν πρόσβαση στο μοντέλο τεχνητής νοημοσύνης Mythos της Anthropic μέσω του Project Glasswing.
- Το Project Glasswing είναι μια πρωτοβουλία κυβερνοασφάλειας που χρησιμοποιεί προηγμένη τεχνητή νοημοσύνη για τον εντοπισμό τρωτών σημείων λογισμικού σε κρίσιμες υποδομές.
- Το πρόγραμμα έχει επεκταθεί παγκοσμίως για να συμπεριλάβει 150 επιπλέον οργανισμούς σε περισσότερες από 15 χώρες, εστιάζοντας σε τομείς όπως η ενέργεια, το νερό και η υγεία.
- Η Anthropic κάλεσε επίσης τα εργαστήρια τεχνητής νοημοσύνης να εξετάσουν το ενδεχόμενο επιβράδυνσης της ανάπτυξης τεχνητής νοημοσύνης λόγω ανησυχιών ότι τα συστήματα επιταχύνουν τη δική τους πρόοδο πέρα από τον ανθρώπινο έλεγχο, δημιουργώντας κοινωνικούς κινδύνους.
Κυβερνητικές υπηρεσίες και εταιρείες του ιδιωτικού τομέα είναι μεταξύ μιας επιλεγμένης ομάδας ινδικών οργανισμών που απέκτησαν πρόσβαση στο μοντέλο τεχνητής νοημοσύνης του Anthropic Mythos ως μέρος της πρόσφατης επέκτασης του Project Glasswing, σύμφωνα με άτομα που γνωρίζουν το θέμα.
Όταν ρωτήθηκαν για τον αριθμό των ινδικών εταιρειών που έχουν πρόσβαση στο μοντέλο, οι πηγές είπαν ότι ο αριθμός είναι επί του παρόντος μονοψήφιος. Ένα email που στάλθηκε στο Anthropic δεν οδήγησε σε άμεση απάντηση. Οι πηγές ανέφεραν ότι οι συμμετέχοντες ινδικοί οργανισμοί καλύπτουν τόσο τον δημόσιο όσο και τον ιδιωτικό τομέα, αλλά δεν αποκάλυψαν συγκεκριμένα ονόματα.
Το έργο Glasswing της Anthropic επεκτείνεται παγκοσμίως
Το Project Glasswing, που περιγράφεται ως «συνεργατική προσπάθεια για την προστασία του πιο σημαντικού λογισμικού στον κόσμο», είναι μια πρωτοβουλία Anthropic που στοχεύει στην ενίσχυση της κυβερνοασφάλειας δίνοντας σε επιλεγμένους οργανισμούς πρόσβαση στο Claude Mythos Preview, ένα προηγμένο μοντέλο τεχνητής νοημοσύνης που μπορεί να εντοπίσει τρωτά σημεία λογισμικού.
Όταν το πρόγραμμα ανακοινώθηκε παγκοσμίως τον Απρίλιο, περίπου 50 συνεργάτες απέκτησαν αρχικά πρόσβαση στο μοντέλο και η Anthropic είπε ότι έκτοτε έχει εντοπίσει περισσότερες από 10.000 ευπάθειες υψηλής σοβαρότητας ή κρίσιμης σοβαρότητας σε βάσεις κωδικών.
Νωρίτερα αυτή την εβδομάδα, η Anthropic ανακοίνωσε μια σημαντική επέκταση του Project Glasswing, επεκτείνοντας την εμβέλειά του σε περίπου 150 επιπλέον οργανισμούς σε περισσότερες από 15 χώρες. Ο νέος όμιλος περιλαμβάνει φορείς εκμετάλλευσης υποδομών ζωτικής σημασίας σε τομείς όπως η ενέργεια, το νερό, η υγειονομική περίθαλψη, οι επικοινωνίες και ο εξοπλισμός.
«Και πολλοί από τους νέους συνεργάτες είναι προμηθευτές — εταιρείες ή μη κερδοσκοπικοί οργανισμοί που διατηρούν βάσεις κωδικών στις οποίες βασίζονται πολλοί άλλοι οργανισμοί σε όλο τον κόσμο, συμπεριλαμβανομένων των κυβερνήσεων», ανέφερε η εταιρεία σε δήλωση της 2ας Ιουνίου.
Η Anthropic είπε ότι οι οργανισμοί εταίροι είναι εκείνοι για τους οποίους μια επιτυχημένη κυβερνοεπίθεση θα μπορούσε να έχει εκτεταμένες συνέπειες, σε ορισμένες περιπτώσεις δυνητικά επηρεάζοντας περισσότερους από 100 εκατομμύρια ανθρώπους. Με απλά λόγια, η πρόσβαση αναμένεται να επιτρέψει στους συμμετέχοντες οργανισμούς να ανακαλύψουν τρωτά σημεία ασφαλείας στην ψηφιακή υποδομή, να δοκιμάσουν την ασφάλεια και να επιταχύνουν την επιδιόρθωση των ευάλωτων συστημάτων λογισμικού.
Ο ρυθμός ανάπτυξης της τεχνητής νοημοσύνης και οι κοινωνικοί κίνδυνοι
Εν τω μεταξύ, στο τελευταίο της blog, η Anthropic κάλεσε τα κορυφαία εργαστήρια τεχνητής νοημοσύνης να εξετάσουν το ενδεχόμενο επιβράδυνσης του ρυθμού ανάπτυξης της τεχνητής νοημοσύνης, προειδοποιώντας ότι τα όλο και πιο ισχυρά συστήματα θα μπορούσαν σύντομα να αποκτήσουν την ικανότητα να επιταχύνουν τη δική τους πρόοδο με τρόπους που ξεπερνούν την ανθρώπινη επίβλεψη και δημιουργούν ευρύτερους κοινωνικούς κινδύνους.
«Πιστεύουμε ότι θα ήταν καλό αν ο κόσμος είχε τη δυνατότητα να επιβραδύνει ή να διακόψει προσωρινά την ανάπτυξη προηγμένης τεχνητής νοημοσύνης, έτσι ώστε οι κοινωνικές δομές και η έρευνα ευθυγράμμισης να μπορούν να συμβαδίζουν με την τεχνολογική ανάπτυξη», ανέφερε η εταιρεία σε μια ανάρτηση ιστολογίου με τίτλο «When AI Builds Itself», περιγράφοντας την ταχύτητα με την οποία αναπτύσσονται τα προηγμένα μοντέλα AI.
Αποποίηση ευθύνης: Το περιεχόμενο ειδήσεων λαμβάνεται από την πηγή που αναφέρεται. Οι επικεφαλίδες, οι περιλήψεις, οι επικεφαλίδες ενοτήτων και οι εικόνες δημιουργούνται αυτόματα ή επιλέγονται από τεχνητή νοημοσύνη/αλγόριθμους και μπορεί να μην είναι πάντα απόλυτα ακριβείς. Συνιστάται στους αναγνώστες να ανατρέξουν στο πλήρες άρθρο για το πλήρες περιεχόμενο.
