Πληροφορίες ανέφερε ότι ένας πράκτορας τεχνητής νοημοσύνης εντός της Meta προέβη σε μη εξουσιοδοτημένες ενέργειες που προκάλεσαν έναν υπάλληλο να δημιουργήσει παραβίαση ασφάλειας στην κοινωνική εταιρεία την περασμένη εβδομάδα. Σύμφωνα με το δημοσίευμα, ένας υπάλληλος χρησιμοποίησε μια εσωτερική τεχνητή νοημοσύνη για να αναλύσει μια ερώτηση από έναν δεύτερο υπάλληλο σε ένα εσωτερικό φόρουμ. Ο πράκτορας της AI δημοσίευσε μια απάντηση που συμβουλεύει τον δεύτερο υπάλληλο, παρόλο που το πρώτο άτομο δεν του έδωσε εντολή να το κάνει.
Ένας δεύτερος υπάλληλος έκανε την προτεινόμενη ενέργεια του πράκτορα, προκαλώντας ένα φαινόμενο ντόμινο που είχε ως αποτέλεσμα ορισμένοι μηχανικοί να αποκτήσουν πρόσβαση σε μετα-συστήματα που δεν έπρεπε να τους επιτραπεί να δουν. Εκπρόσωπος της εταιρείας επιβεβαίωσε το περιστατικό Πληροφορίες και είπε ότι «δεν έγινε λάθος χειρισμός δεδομένων χρήστη». Η εσωτερική αναφορά της Meta ανέφερε ότι υπήρχαν απροσδιόριστα πρόσθετα ζητήματα που οδήγησαν στην παραβίαση. Μια πηγή είπε ότι δεν υπάρχουν στοιχεία που να αποδεικνύουν ότι κάποιος απέκτησε ξαφνικά πρόσβαση ή είχε αποκαλύψει δεδομένα τις δύο ώρες που ήταν ενεργή η παραβίαση ασφαλείας. Ωστόσο, αυτό μπορεί να είναι περισσότερο αποτέλεσμα χαζής τύχης παρά οτιδήποτε άλλο.
Με πολλούς ηγέτες τεχνολογίας και εταιρείες να διαφημίζουν τα οφέλη της τεχνητής νοημοσύνης, αυτή είναι η πιο πρόσφατη περίπτωση που οι εργαζόμενοι έχουν χάσει τον έλεγχο ενός πράκτορα τεχνητής νοημοσύνης. Η Amazon Web Services υπέστη μια διακοπή 13 ωρών νωρίτερα αυτό το έτος που (προφανώς συμπτωματικά) αφορούσε το εργαλείο κωδικοποίησης τεχνητής νοημοσύνης Kiro. Το Moltbook, το κοινωνικό δίκτυο για πράκτορες τεχνητής νοημοσύνης που αποκτήθηκε πρόσφατα από τη Meta, είχε ένα ελάττωμα ασφαλείας που εξέθετε τις πληροφορίες των χρηστών σε παράβλεψη στην κωδικοποιημένη πλατφόρμα Vibe.
Σύνδεσμος πηγής: www.engadget.com