Ενώ πολλοί από εμάς ανησυχούμε τις τελευταίες ημέρες ότι ο πρόεδρός μας θα βάλει τέλος σε “όλο τον πολιτισμό”, μια εταιρεία τεχνολογίας της Silicon Valley προειδοποιεί ότι αυτό θα μπορούσε να προκαλέσει ακούσια διακοπή χωρίς ιδιαίτερη ειδοποίηση όλοι Πολιτισμός όπως τον ξέρουμε.
Η τεχνολογική εταιρεία του Σαν Φρανσίσκο Anthrophic ανακοίνωσε την Τρίτη ότι Όχι Κυκλοφόρησε μια νέα έκδοση του υπερεγκεφάλου Claude AI επειδή είναι τόσο ισχυρό που μπορεί να εισβάλει σχεδόν σε οποιοδήποτε σύστημα υπολογιστή, όσο ασφαλές κι αν είναι, μέσα σε λίγες μέρες ή και ώρες.
«Οι επιπτώσεις στην οικονομία, τη δημόσια ασφάλεια και την εθνική ασφάλεια θα μπορούσαν να είναι σοβαρές», ανέφερε η Anthropic σε δήλωση.
Οι ανησυχίες για την τεχνητή νοημοσύνη δεν είναι κάτι καινούργιο. Ανησυχούμε για την τεχνητή νοημοσύνη που αφαιρεί θέσεις εργασίας, για παιχνίδια που είναι πολύ αληθινά για τα παιδιά μας και για την παρακολούθηση κάθε μας κίνησης σε μαζική κλίμακα. Αλλά οι προειδοποιήσεις της Anthropic για τα προϊόντα της είναι πιο σοβαρές από οποιοδήποτε από αυτά τα μεμονωμένα ζητήματα. Είναι μια κλήση μέσα από το σπίτι, η καταστροφή είναι προ των πυλών. Ξέρω, αυτό ακούγεται πολύ τρομακτικό και υπερβολικό. Αλλά εδώ είναι το πράγμα – δεν είναι.
Όπως ίσως θυμάστε, ο Αμερικανός «Υπουργός Πολέμου» Πιτ Χέγκσεθ είχε εκφράσει τη δυσαρέσκειά του για την εταιρεία Anthropic επειδή η εταιρεία δεν ήθελε ο Κλοντ να πάει στη μάχη χωρίς επίβλεψη ή ακόμη και να κάνει πράγματα όπως να ανατινάξει κατά λάθος ένα κοριτσάκι στο σχολείο.
Τώρα, η εταιρεία εκδίδει αυτήν την ανατριχιαστική προειδοποίηση: Το υπάρχον Cloud που προκαλεί αυτόν τον χάος είναι ξεπερασμένο και, σοκαριστικά, λιγότερο ισχυρό από το νέο Cloud που προσπαθεί να μην απελευθερώσει — παρόλο που αυτό το νέο Cloud, που ονομάστηκε Cloud Myth Preview, έχει ήδη ξεφύγει τουλάχιστον μία φορά από μόνο του. Περισσότερα για αυτό αργότερα – υπάρχει μόνο τόσος πολύς υπαρξιακός τρόμος που μπορεί να χειριστεί ένας άνθρωπος.
«Πρέπει να ανησυχούμε όλοι», μου είπε ο Roman Yampolskiy, και οι τελευταίες εξελίξεις στην τεχνολογία είναι βέβαιο ότι θα αλλάξουν την πορεία της ανθρωπότητας. Είναι ένας από τους εξέχοντες ερευνητές ασφάλειας τεχνητής νοημοσύνης της χώρας και καθηγητής στο Πανεπιστήμιο του Λούισβιλ στο Κεντάκι.
«Είμαστε στα πρόθυρα της δημιουργίας μιας παγκόσμιας υπερνοημοσύνης που θα απειλήσει ολόκληρη την ανθρώπινη φυλή», είπε ο Γιαμπόλσκι.
«Τίποτα άλλο δεν έχει σημασία», πρόσθεσε, προτού με συμβουλεύσει να μην αποκαλώ τον εαυτό μου ηλίθιο επειδή δεν καταλαβαίνω το βαρύ από την τεχνολογία μέρος αυτής της συζήτησης. Με διαβεβαίωσε ότι η απλοϊκή μου άποψη ήταν «ένας εύλογος τρόπος να την εξηγήσω».
Αυτό είναι λοιπόν.
Αυτό δεν είναι ένα σενάριο “πραγματικά έξυπνη ιδιοφυΐα υπολογιστή μπορεί να κάνει κατάχρηση”, δεν είναι ένα σενάριο “όλοι θα χάσουν τη δουλειά τους” ή ακόμη και ένα σενάριο “μπορεί να βομβαρδίσει κατά λάθος παιδιά”, είναι ένα πραγματικά τρομακτικό σενάριο.
Είναι ένα σενάριο “ο έφηβος γιος σας θα μπορούσε να το χρησιμοποιήσει για να εισχωρήσει στο σύστημα της τοπικής σχολικής περιφέρειας, να αλλάξει βαθμούς με ελάχιστες γνώσεις και να καταστρέψει κατά λάθος το ηλεκτρικό δίκτυο της Καλιφόρνια”.
Ή, μια χώρα που δεν μας συμπαθεί—και μπορώ να σκεφτώ μερικούς— θα μπορούσε να εξαντλήσει τους τραπεζικούς λογαριασμούς κάθε Αμερικανού πολίτη ενώ ταυτόχρονα να ανοίξει τις αυτόματες κλειδαριές στα κελιά της φυλακής, να κλείσει τις μονάδες επεξεργασίας λυμάτων μας και να αναλάβει τα συστήματα ελέγχου αέρα. Ή ίσως το Cloud Myth το έκανε μόνος του.
Για παράδειγμα, η Anthropic είπε ότι σε ένα από τα δημοφιλή λειτουργικά συστήματα που δοκίμασε, που χρησιμοποιείται από χιλιάδες εταιρείες, όπως το Netflix και η Sony, ο Claude Mythos ανακάλυψε ένα ελάττωμα που δεν είχε εντοπιστεί για 17 χρόνια. Στη συνέχεια, κατάλαβε μόνη της, χωρίς ανθρώπινη καθοδήγηση ή βοήθεια, πώς να εκμεταλλευτεί το ελάττωμα για να πάρει τον έλεγχο οποιουδήποτε διακομιστή που εκτελεί αυτό το λειτουργικό σύστημα χρησιμοποιώντας οποιονδήποτε υπολογιστή οπουδήποτε στον κόσμο.
Ακριβώς εδώ, αλλά αν σχεδόν κανένα σύστημα ασφαλείας δεν είναι ασφαλές, οι δυνατότητες για κοινωνικό, οικονομικό και γενικό χάος είναι πραγματικά ατελείωτες. Ας είμαστε ειλικρινείς, οποιοσδήποτε ειδικός σε θέματα ασφάλειας θα σας πει ότι η μεγαλύτερη ευπάθεια της Αμερικής όσον αφορά την ασφάλεια στον κυβερνοχώρο είναι οι τοπικές και πολιτειακές κυβερνήσεις, γιατί περιέργως οι κορυφαίοι ειδικοί δεν κατέχουν πενταψήφιες θέσεις εργασίας στις πόλεις των Μεγάλων Πεδιάδων.
Με βάση τις δικές της δοκιμές, η Anthropic προβλέπει ότι μπορεί να βρει «περισσότερες από χίλιες πιο σοβαρές ευπάθειες και χιλιάδες πιο σοβαρές ευπάθειες».
Αυτό σημαίνει ότι ο μύθος του Cloud θέτει σε κίνδυνο την υποδομή μας, καλά, παντού – επειδή τόσα πολλά πράγματα συνδέονται με τρόπους κερκόπορτας που οι περισσότεροι από εμάς δεν εξετάζουμε ποτέ, χρειάζεται μόνο ένα αδύναμο σύστημα για να ανοίξει η πόρτα σε εκατοντάδες άλλα συστήματα. Αλλά θα είναι σχεδόν αδύνατο να προστατεύσουμε και να επισκευάσουμε όλα αυτά τα συστήματα αρκετά γρήγορα και αρκετά ισχυρά για να προστατεύσουμε από αυτό το είδος τεχνητής νοημοσύνης.
Ο Yampolsky είπε ότι αυτό είναι απλώς ένας κίνδυνος για την ασφάλεια στον κυβερνοχώρο. Ένα AI με τις μυθικές ικανότητες του Cloud θα μπορούσε να κάνει άλματα και όρια με πολλούς τρόπους.
“Βλέπουμε το ίδιο πράγμα με τη συνθετική βιολογία. Θα δούμε το ίδιο πράγμα με τα χημικά όπλα, και μπορεί να υπάρχει κάτι νέο όσον αφορά τα όπλα μαζικής καταστροφής”, είπε.
Προς τιμή του, το Anthropic σήμανε συναγερμό με τη δημιουργία του και βρήκε (αν όχι λύση) κάποιου είδους παιχνίδι – το “Project Glasswing”, το οποίο υποπτεύομαι ότι ονομάστηκε γιατί όσο άσχημα κι αν πήγαιναν τα πράγματα, θα το κάναμε να ακούγεται σαν θρίλερ με συναρπαστικό τέλος.
Το έργο Glasswing θα ονομαζόταν καλύτερα «Project Headstart» γιατί αυτό είναι. Πριν κυκλοφορήσει το Mythos στη φύση, η Anthropic το κυκλοφόρησε σε περίπου 40 εταιρείες τεχνολογίας, συμπεριλαμβανομένων της Apple, της Google και της Nvidia, για να δουν αν μπορούσαν να επιδιορθώσουν συλλογικά τυχόν ευπάθειες που βρήκαν προτού το κοινό είχε την ευκαιρία να τις διορθώσει. Είναι λίγο σαν ο δολοφόνος της ταινίας που δίνει στο θύμα του 15 δευτερόλεπτα για να ξεφύγει.
Θέλω να πω, θα περνούσα 15 δευτερόλεπτα για να εύχομαι να ήταν αληθινά. Όμως, όπως ανέφερε σε δήλωσή του η Anthropic, “Οι προσπάθειες για την υπεράσπιση της παγκόσμιας υποδομής στον κυβερνοχώρο μπορεί να διαρκέσουν χρόνια. Οι δυνατότητες τεχνητής νοημοσύνης αιχμής είναι πιθανό να προχωρήσουν δραματικά τους επόμενους μήνες. Για να διαφοροποιήσουμε τους υπερασπιστές στον κυβερνοχώρο, πρέπει να δράσουμε τώρα”.
Έχουμε πραγματικά 15 δευτερόλεπτα; Ένας από τους επιβλέποντες του Claude Mythos ανάρτησε πρόσφατα στα μέσα κοινωνικής δικτύωσης ότι γευμάτιζε στο πάρκο όταν ο Mythos του έστειλε email – παρόλο που υποτίθεται ότι δεν είχε πρόσβαση στο διαδίκτυο. Οι ερευνητές ζήτησαν από τον Mythos να προσπαθήσει να ξεφύγει από το άσχετο “άμμο” του και το έκανε.
Αυτό είναι ένα άλλο πρόβλημα με το Mythos και άλλα AI – σπάνια κάνουν αυτό που περιμένουμε και θα βρουν πονηρούς τρόπους να παρακάμψουν τους κανόνες. Σχεδόν κάθε υπερεγκέφαλος τεχνητής νοημοσύνης έχει αποδειχθεί ότι λέει ψέματα, εξαπατά και γενικά συμπεριφέρεται με ενοχλητικούς και ανήθικους τρόπους κάτω από τις κατάλληλες συνθήκες.
Ακόμη και το Cloud, γνωστό ως ένας από τους πιο ηθικούς υπερεγκεφάλους τεχνητής νοημοσύνης, έχει κακή συμπεριφορά. Η Anthropic υπερηφανεύεται για το «καλύτερο μοντέλο συνέπειας» που έχει δημιουργήσει ποτέ – έναν τεχνικό τρόπο να πει ότι ακολουθεί τις ανθρώπινες αξίες και προθέσεις – αλλά επίσης παραδέχεται ότι «μπορεί να εγκυμονεί τους μεγαλύτερους κινδύνους που σχετίζονται με τη συνέπεια», κάτι που είναι ένας τεχνικός τρόπος να πούμε, ίσως όχι.
Έτσι, τουλάχιστον προς το παρόν, το να γίνεις ο πιο ηθικός υπερεγκέφαλος της τεχνητής νοημοσύνης είναι λίγο σαν να γίνεσαι ο πιο ηθικός κατά συρροή δολοφόνος. Τρέξτε, άνθρωποι, τρέξτε.
Συγχαρητήρια και πάλι στην Anthropic (και τον διευθύνοντα σύμβουλό της Dario Amodei, ο οποίος προειδοποιεί συχνά για τους κινδύνους αυτού που δημιούργησε, για ό,τι αξίζει) που δεν μας βύθισε στο παγκόσμιο χάος χωρίς καμία προειδοποίηση, γιατί βάζω στοίχημα ότι κάποια άλλη εταιρεία θα μπορούσε απλώς να πετάξει το super-AI της στην κοινωνία και να αφήσει την καταστροφή να συμβεί όπου μπορεί. Χωρίς αμφιβολία θα εμφανιστούν σύντομα άλλοι εγκέφαλοι τεχνητής νοημοσύνης τόσο ισχυροί όσο ο Mythos – το Anthropic είναι το πρώτο με αυτήν την ικανότητα, αλλά είναι μόλις 15 δευτερόλεπτα μπροστά από τον ανταγωνισμό.
Αλλά η ιδέα ότι η βιομηχανία της τεχνολογίας θα —ή πρέπει— να λύσει από μόνη της αυτά τα προβλήματα είναι γελοία και μια κατάφωρη παραίτηση από την ευθύνη και την κοινή λογική από τις μεγάλες και τις μικρές κυβερνήσεις προκειμένου να προστατεύσουν τους ανθρώπους τους. Δεν πρόκειται για έναν αγώνα κυριαρχίας, όπως το απεικόνισε ο πρόεδρος Τραμπ. Είναι ένας αγώνας για να προστατευτούμε από τους εαυτούς μας και από τους υπερπλούσιους στις περισσότερες βιομηχανίες που πάντα φαίνεται να βάζουν τις επιχειρήσεις και το εμπόριο πάνω από τα συμφέροντα της κοινωνίας.
Μας απομένουν 15 δευτερόλεπτα πριν η τεχνητή νοημοσύνη αλλάξει τα πάντα. Είτε ζητάμε επίβλεψη και ρύθμιση τώρα, είτε αφήνουμε τις εταιρείες τεχνολογίας να καθορίσουν τη μοίρα του κόσμου.
Σύνδεσμος πηγής: www.latimes.com