λίγο περισσότερο από ένα χρόνο Πριν από μια εβδομάδα, παρακολούθησα ένα μεγάλο συνέδριο τεχνητής νοημοσύνης στην πολυσύχναστη περιοχή υψηλής τεχνολογίας του Πεκίνου, Zhongguancun.
Ήταν γεμάτο με συναρπαστικές συνεδρίες που αφορούσαν τα πάντα, από την αναδρομική αυτοβελτίωση (την ιδέα ότι ένα μοντέλο μπορεί να κάνει άπειρη πρόοδο τροποποιώντας τον δικό του κώδικα) έως τα ανθρωποειδή ρομπότ. Εμφανίστηκαν επίσης αρκετοί θρύλοι της πληροφορικής, συμπεριλαμβανομένου του Whitfield Diffie, συν-εφευρέτη της κρυπτογραφίας δημόσιου κλειδιού, και του Andrew Burt, ο οποίος μοιράστηκε το βραβείο Turing με τον Rich Sutton για την πρωτοποριακή του εργασία στην ενίσχυση της μάθησης.
Έφυγα όμως με ένα μάθημα πάνω από όλα. Αυτό σημαίνει ότι οι ΗΠΑ και η Κίνα θα πρέπει να αφήσουν στην άκρη τον σκληρό ανταγωνισμό τους στην τεχνητή νοημοσύνη.
Η κυβερνοασφάλεια και οι συστημικοί κίνδυνοι της συνοριακής τεχνητής νοημοσύνης είναι πολύ σοβαροί για να αγνοηθούν, και εκτός εάν οι υπερδυνάμεις της τεχνητής νοημοσύνης στον κόσμο μπορούν να συνεργαστούν, τα ολοένα και πιο εξελιγμένα μοντέλα πρακτόρων θα μπορούσαν γρήγορα να προκαλέσουν αναστάτωση. «Η τεχνητή νοημοσύνη είναι μια παγκόσμια τεχνολογία, με παγκόσμια οφέλη και παγκόσμιες βλάβες, και μια σταθερή τάση προς τον τελικό πολλαπλασιασμό νέων δυνατοτήτων». ο Στίβεν ΚάσπερΜου είπε αργότερα ένας επιστήμονας υπολογιστών του MIT που μίλησε μέσω βίντεο στο συνέδριο.
Μέχρι τώρα, οι Ηνωμένες Πολιτείες θεωρούσαν πρωτίστως τις προόδους της τεχνητής νοημοσύνης της Κίνας ως απειλή οικονομικής και εθνικής ασφάλειας. Η κυβέρνηση των ΗΠΑ έχει επιβάλει αυστηρούς περιορισμούς σε τσιπ και εξοπλισμό κατασκευής τσιπ για να εμποδίσει την ανάπτυξη ισχυρής τεχνητής νοημοσύνης στη χώρα. Πιο πρόσφατα, η κυβέρνηση των ΗΠΑ διέταξε την Anthropic να απαγορεύσει στους ξένους την πρόσβαση στα πιο ισχυρά μοντέλα της, το Mythos και το Fable 5, επικαλούμενη ανησυχίες για την εθνική ασφάλεια. Σε απάντηση, η Anthropic ανακάλεσε την πρόσβαση όλων. Μια εταιρεία που προκαλεί ιδιαίτερη ανησυχία, που προηγουμένως αποκαλύφθηκε από το WIRED, ήταν ένας νοτιοκορεάτης τηλεπικοινωνιακός κολοσσός με ύποπτους δεσμούς με την Κίνα.
Αλλά το συνέδριο, που φιλοξενήθηκε από την Εταιρεία Τεχνητής Νοημοσύνης του Πεκίνου, ενίσχυσε την ιδέα ότι τόσο οι Ηνωμένες Πολιτείες όσο και η Κίνα πρόκειται να χάσουν εάν η ανάπτυξη της τεχνητής νοημοσύνης είναι πολύ γρήγορη και απερίσκεπτη. Καθώς η τεχνητή νοημοσύνη γίνεται πιο ισχυρή, ενεργεί ως πράκτορας και γίνεται πιο συνυφασμένη με την καθημερινή ζωή, ο κίνδυνος χρήσης της σε κυβερνοεπιθέσεις ή καταστροφικής αποτυχίας θα αυξηθεί. Με τις δύο παγκόσμιες εταιρείες τεχνητής νοημοσύνης που είναι υπεύθυνες για μοντέλα αιχμής, η συνεργασία μεταξύ των δύο θα είναι πιθανότατα σημαντική.
Ο Κάσπερ έδειξε. η μελέτη Αυτό δείχνει ότι τα οφέλη της διεθνούς συνεργασίας σχετικά με τους κινδύνους της τεχνητής νοημοσύνης υπερτερούν των κινδύνων εθνικής ασφάλειας από αυτήν. Παρομοίασε την τρέχουσα κατάσταση με τις Ηνωμένες Πολιτείες και τη Σοβιετική Ένωση, που προσπαθούσαν να συσσωρεύσουν η μία την άλλη, αλλά αναγκάστηκαν να συνεργαστούν ενάντια στον πυρηνικό κίνδυνο.
«Ένα πράγμα στο οποίο σχεδόν όλοι στην κοινότητα της τεχνητής νοημοσύνης μπορούν να συμφωνήσουν αυτή τη στιγμή είναι ότι η τεχνητή νοημοσύνη δεν χρειάζεται μια στιγμή του Τσερνόμπιλ», είπε ο Κάσπερ.
Η ημερήσια συνεδρία τόνισε την πανταχού παρουσία των προκλήσεων στον κυβερνοχώρο που θέτει η πιο προηγμένη τεχνητή νοημοσύνη. Αυτό περιλαμβάνει νέους τύπους τρωτών σημείων στον κώδικα που δημιουργείται από AI, νέες μεθόδους επίθεσης σε συστήματα που ενεργοποιούνται μέσω της χρήσης εργαλείων πρακτόρων και αυτοματοποιημένες μεθόδους για τη διεξαγωγή επιθέσεων κοινωνικής μηχανικής.
Μετά από μια άλλη συνεδρία, μίλησα με τον Lin Yun, καθηγητή στο Πανεπιστήμιο της Σαγκάης Jiatong. κάνε σπουδαία δουλειά Σχετικά με την τεχνητή νοημοσύνη και την ασφάλεια των υπολογιστών. Ο Yun είπε ότι αναμένει από τους χάκερ να έχουν πλεονέκτημα βραχυπρόθεσμα, αλλά ότι νέα αντίμετρα, συμπεριλαμβανομένων των νέων χρήσεων της τεχνητής νοημοσύνης, θα ανατρέψουν την ισορροπία στους υπερασπιστές με την πάροδο του χρόνου.
Ο Γιουν είπε ότι ακόμη κι αν η διεθνής συνεργασία περιπλέκεται από τον ανταγωνισμό, θα πρέπει να παραμείνει προτεραιότητα. «Εάν διαφορετικές χώρες κατανοούν τους κινδύνους με παρόμοιο τρόπο, γίνεται ευκολότερο να αναπτυχθούν κοινές αρχές ασφάλειας και τεχνικά πρότυπα», μου είπε. «Το κλειδί είναι να βρεθούν τομείς όπου η κοινή χρήση μπορεί να μειώσει τον συστημικό κίνδυνο χωρίς να αποκαλύψει ευαίσθητες επιχειρησιακές λεπτομέρειες».
Ίσως το πιο πιεστικό ζήτημα και για τις δύο χώρες είναι πώς να εξισορροπηθεί το άνοιγμα και το ρίσκο. Τα μοντέλα ανοιχτού βάρους έχουν γίνει ζωτικής σημασίας για την έρευνα και την καινοτομία, με τα μοντέλα κινεζικής κατασκευής να κερδίζουν δημοτικότητα στις Ηνωμένες Πολιτείες. Καθώς όμως αυτά τα μοντέλα προχωρούν, θα γίνει πιο δύσκολο να αποτρέψουμε τους χάκερ να εντοπίσουν τρωτά σημεία ασφαλείας και να τα χρησιμοποιήσουν ως όπλα στον κυβερνοχώρο.