Οι ανησυχίες για τις ανακαλύψεις της τεχνητής νοημοσύνης αναγκάζουν τις ΗΠΑ και την Κίνα να μιλήσουν

Chongqing, Κίνα- Πριν από τρία χρόνια, στην ειδυλλιακή πόλη Woodside νότια του Σαν Φρανσίσκο, οι Ηνωμένες Πολιτείες και η Κίνα πραγματοποίησαν τις πρώτες τους συνομιλίες υψηλού επιπέδου σχετικά με τους κινδύνους που εγκυμονεί η τεχνητή νοημοσύνη. Ο πρόεδρος Σι Τζινπίνγκ και ο επί μακρόν υπουργός Εξωτερικών του φαίνεται να είναι σοβαρά πεπεισμένοι ότι πρέπει να δημιουργηθεί ένας δίαυλος μεταξύ Πεκίνου και Ουάσιγκτον – παρέχοντας ένα κόκκινο τηλέφωνο για τεχνητή νοημοσύνη σε περίπτωση έκτακτης ανάγκης.

Ενέκρινε μια διπλωματική προσπάθεια να ξεκινήσει στην Ελβετία το 2024, λίγους μήνες πριν από τις προεδρικές εκλογές των ΗΠΑ. Μια μεγάλη αντιπροσωπεία των ΗΠΑ έφτασε με μεγάλες ελπίδες που ξαφνικά διαψεύστηκαν, σύμφωνα με τέσσερις πηγές που συμμετείχαν στις συνομιλίες. Η κινεζική αντιπροσωπεία απέρριψε τις ανησυχίες των ΗΠΑ για τη φυγή τεχνητής νοημοσύνης ως ακαδημαϊκές, σχεδόν θεωρητικές, και γρήγορα έστρεψε τη συζήτηση σε αυτό που το Πεκίνο βλέπει ως ελέγχους των εξαγωγών, μια άλλη προσπάθεια των ΗΠΑ να περιορίσουν την Κίνα.

«Φυσικά βλέπουν οποιαδήποτε διπλωματική κίνηση των ΗΠΑ που περιλαμβάνει περιορισμούς ή περιορισμούς σε κάποια ικανότητα ως παγίδα», δήλωσε σε συνέντευξή του ο Τζέικ Σάλιβαν, σύμβουλος εθνικής ασφάλειας των ΗΠΑ υπό τον Πρόεδρο Τζο Μπάιντεν.

Παρά τη δυσπιστία – και το γεγονός ότι οι Δημοκρατικοί έχασαν τον Λευκό Οίκο από τον Ντόναλντ Τραμπ – επιτεύχθηκε μια συμφωνία στο Περού τον Νοέμβριο του ίδιου έτους, στην οποία και οι δύο πλευρές συμφώνησαν να αποκλείσουν την τεχνητή νοημοσύνη από τη διοίκηση και τον έλεγχο των πυρηνικών όπλων.

«Αυτό σπάει τη σφραγίδα ότι μπορούμε πραγματικά να κάνουμε κάτι με την τεχνητή νοημοσύνη», είπε ο Sullivan. “Κατά τη διάρκεια της μετάβασης, είπα στην εισερχόμενη ομάδα Τραμπ ότι θα έπρεπε πραγματικά να ξεκινήσουν αυτή τη συνομιλία. Αλλά η άποψη της κυβέρνησης Τραμπ ήταν πιο χαλαρή και δεν έδειχναν να τους ενδιαφέρει ιδιαίτερα”.

«Τα πάντα έχουν αλλάξει τις τελευταίες εβδομάδες», πρόσθεσε.

Η κυβέρνηση Τραμπ, κάποτε πρόθυμη να ανταγωνιστεί για την τεχνολογική υπεροχή, εξετάζει τώρα για πρώτη φορά τη δύναμη που θα μπορούσε να απελευθερώσει η τεχνητή νοημοσύνη εάν αφεθεί ανεξέλεγκτη.

Αξιωματούχοι είπαν στους Times ότι έγιναν απροσδόκητα ήρεμες συζητήσεις πριν από την επίσημη επίσκεψη του Προέδρου Τραμπ στην Κίνα αυτή την εβδομάδα για να διερευνηθεί η επανέναρξη των συνομιλιών μέσω διαύλων έκτακτης ανάγκης, εν μέσω αμοιβαίου συναγερμού από το Πεκίνο και την Ουάσιγκτον για το ντεμπούτο του ισχυρού νέου μοντέλου της Anthropic, του Mythos.

Ανώτερος κυβερνητικός αξιωματούχος είπε στους δημοσιογράφους την Κυριακή ότι ο Λευκός Οίκος επιδιώκει να δημιουργήσει ένα κανάλι επικοινωνίας για την τεχνητή νοημοσύνη, όπως έκαναν άλλοι, «σε πολλούς τομείς στενής ανησυχίας με τις Ηνωμένες Πολιτείες και την Κίνα».

«Πιστεύω πώς θα μοιάζει αυτός ο δίαυλος επικοινωνίας, τι σχήμα θα πάρει και πώς θα είναι, δεν έχει ακόμη καθοριστεί», είπε ο αξιωματούχος, «αλλά θέλουμε να εκμεταλλευτούμε την ευκαιρία της συνάντησης των ηγετών για να έχουμε μια συνομιλία. Πρέπει να έχουμε ένα κανάλι επικοινωνίας για αυτό».

Οι δυνατότητες του Mythos θεωρούνται σε όλη τη βιομηχανία και την κυβέρνηση ως Πρωτοφανή όπλα στον κυβερνοχώροικανό να διεισδύσει και να εκμεταλλευτεί τα συστήματα ψηφιακών επικοινωνιών—συμπεριλαμβανομένων των κυβερνητικών βάσεων δεδομένων, των χρηματοπιστωτικών ιδρυμάτων και των προγραμμάτων υγειονομικής περίθαλψης—με ανείπωτες συνέπειες.

Δεν είναι σαφές εάν η ανακοίνωση αυτής της εβδομάδας θα πραγματοποιηθεί. Οι ειδικοί λένε ότι οποιεσδήποτε διαπραγματεύσεις μεταξύ των Ηνωμένων Πολιτειών και της Κίνας σχετικά με κανονισμούς τεχνητής νοημοσύνης – η επινόηση κάποιου είδους συμφωνίας για τον έλεγχο των όπλων που θα διέπει τη χρήση τεχνολογίας που καμία πλευρά δεν κατανοεί ή ελέγχει πλήρως – θα είναι γεμάτη καχυποψία, παρεξήγηση και κίνδυνο.

«Προς το παρόν, υπάρχει μικρή υποστήριξη μεταξύ των υπευθύνων χάραξης πολιτικής των ΗΠΑ για επίσημες συζητήσεις με την Κίνα σχετικά με τη διακυβέρνηση της τεχνητής νοημοσύνης», δήλωσε ο Aalok Mehta, διευθυντής του Κέντρου Τεχνητής Νοημοσύνης Wadhwani στο Κέντρο Στρατηγικών και Διεθνών Μελετών.

«Η λογική είναι ότι αυτός είναι ένας αγώνας που παίρνει όλους τους νικητές και η πρόοδος στην τεχνητή νοημοσύνη πρέπει να επιταχυνθεί για να διασφαλιστεί ότι οι Ηνωμένες Πολιτείες θα κερδίσουν αυτόν τον αγώνα», είπε η Mehta.

Η Αμερική προηγείται

Η Κίνα θα εισέλθει σε αυτές τις συζητήσεις με ισχυρό επιχείρημα ότι η ηγεσία των ΗΠΑ στην τεχνητή νοημοσύνη και οι γενικές στρατηγικές των αμερικανικών εταιρειών τεχνητής νοημοσύνης ωθούν τον κόσμο σε ένα δύσκολο σύνορο.

Κάθε σημαντικός παίκτης των ΗΠΑ στον τομέα – OpenAI, Google, Anthropic, Microsoft και Meta Platform – αγωνίζεται για να είναι ο πρώτος που θα μπορέσει να δημιουργήσει ένα μοντέλο τεχνητής γενικής νοημοσύνης (AGI), ένα όριο που δεν έχει κοινό ορισμό, αλλά οι περισσότεροι συμφωνούν ότι απαιτείται για ένα μοντέλο για να εκτελέσει οποιαδήποτε εργασία ανθρώπινης νοημοσύνης.

Η επικρατούσα θεωρία είναι ότι το πρώτο άτομο που θα επιτύχει AGI θα ανταμειφθεί με αυτο-πολλαπλασιασμό: αυτοεκπαίδευση, αναδρομική βελτίωση της νοημοσύνης, εκθετικά, αφήνοντας όλους τους ανταγωνιστές να ακολουθήσουν.

Αντίθετα, οι κινεζικές εταιρείες ακολουθούν μια κρατική στρατηγική που επικεντρώνεται στην ενσωμάτωση της τεχνητής νοημοσύνης σε βιομηχανίες και συστήματα, σε μοντέλα εκπαίδευσης για τη βελτίωση των επιμέρους εργασιών και στην επιτάχυνση της ανάπτυξης με πιο προσαρμοσμένο τρόπο.

«Οι Κινέζοι πιστεύουν ότι δεν υπάρχει μία φυλή, αλλά πολλές φυλές», δήλωσε ο Scott Kennedy, ανώτερος σύμβουλος για τις κινεζικές επιχειρήσεις και τα οικονομικά στο Κέντρο Στρατηγικών και Διεθνών Σπουδών. «Οι Ηνωμένες Πολιτείες επικεντρώνονται στην επίτευξη γενικής τεχνητής νοημοσύνης, ενώ η Κίνα επικεντρώνεται στη διάδοση και την εφαρμογή της τεχνητής νοημοσύνης σε άλλους τομείς της οικονομίας της – κατασκευή, ανθρωποειδή ρομπότ, πτυχές του Διαδικτύου των Πραγμάτων».

Κινέζοι ακαδημαϊκοί, μέλη της τεχνητής νοημοσύνης και διαδοχικές κυβερνήσεις αμφισβήτησαν τη στρατηγική σκέψη και την ειλικρίνεια του Πεκίνου.

«Το AGI είναι τόσο ενσωματωμένο στην κοινότητα εδώ και έχει αυτή τη δυνατότητα μετασχηματισμού που οι άνθρωποι δεν μπορούν να πιστέψουν ότι η Κίνα δεν επικεντρώνεται σε αυτό», δήλωσε ο Matt Sheehan, μελετητής σε παγκόσμια τεχνολογικά ζητήματα με έμφαση στην Κίνα στο Carnegie Endowment for International Peace. “Λέει ότι επικεντρώνεται σε εφαρμογές, αλλά είναι μια ψευδαίσθηση ενός προγράμματος AGI που κρύβεται κάπου στα βουνά;”

Αλλά οι περισσότεροι γνώστες του κλάδου πιστεύουν ότι η καθοδήγηση του Πεκίνου προς τις κινεζικές εταιρείες αποκαλύπτει τις πραγματικές του προθέσεις.

«Δεν είναι τόσο κορεσμένοι με τη γενική τεχνητή νοημοσύνη όσο οι ΗΠΑ και νομίζω ότι αυτό ισχύει ακόμα σήμερα, επομένως πιστεύουν ότι πολλές από τις συζητήσεις στις ΗΠΑ για τους ακραίους συνοριακούς κινδύνους – εξάρθρωση και απώλεια ελέγχου – είναι λίγο αφηρημένες και δεν σχετίζονται πραγματικά με το πώς βλέπουν την εξάπλωση της τεχνητής νοημοσύνης στην Κίνα», είπε ο Sullivan.

Ενώ η πρόοδος της Κίνας έχει ξεπεράσει τις προσδοκίες των ΗΠΑ – ειδικά από τότε που η DeepSeek κυκλοφόρησε το μοντέλο της πριν από περισσότερο από ένα χρόνο – η κινεζική κυβέρνηση έχει επικεντρώσει τις δυνατότητες του υπολογιστή της σε συγκεκριμένες εφαρμογές και όχι στην ευρεία στρατηγική που απαιτείται για την ανάπτυξη ισχυρότερων μοντέλων ικανών να προωθήσουν τη γενική τεχνητή νοημοσύνη.

“Δεν είναι μόνο μάρκες. Είναι χρήματα”, πρόσθεσε ο Sheehan. “Η οικονομική κατάσταση των κορυφαίων κινεζικών εταιρειών είναι πολύ χειρότερη από αυτή των αμερικανικών εταιρειών. Οι άνθρωποι ανησυχούν για μια φούσκα εδώ, αλλά το OpenAI αποτιμάται σε σχεδόν 800 δισεκατομμύρια δολάρια. Οι κορυφαίες κινεζικές εταιρείες που έχουν εισαχθεί στο χρηματιστήριο αποτιμώνται στα 20 δισεκατομμύρια δολάρια. Υπάρχει μόνο μια τάξη μεγέθους διαφορά στη διαθέσιμη χρηματοδότηση.”

Ωστόσο, ορισμένοι στην κυβέρνηση των ΗΠΑ ανησυχούν ότι η Κίνα δεν θα χρειαστεί παρόμοια υπολογιστική ισχύ εάν απλώς κλέψει τεχνολογία σε μεγάλη κλίμακα.

Το να το κάνεις δεν είναι απλό. Ωστόσο, τον περασμένο μήνα, το Γραφείο Επιστήμης και Τεχνολογικής Πολιτικής του Λευκού Οίκου κατηγόρησε τους Κινέζους ηθοποιούς σε ένα σημείωμα ότι «συμμετέχουν σε μια εκστρατεία βιομηχανικής κλίμακας για τη βελτίωση των αμερικανικών συστημάτων τεχνητής νοημοσύνης αιχμής», αντιγράφοντας αποτελεσματικά την απόδοση των πιο προηγμένων υπαρχόντων μοντέλων «με ένα κλάσμα του κόστους». Το σημείωμα δεν κατηγορούσε το Πεκίνο ότι υποστήριξε τη δραστηριότητα.

Το σημείωμα πρόσθεσε ότι τα προσεκτικά κατασκευασμένα πρωτόκολλα ασφαλείας αφαιρέθηκαν σκόπιμα κατά τη διάρκεια της διαδικασίας.

Το διαπραγματευτικό πλεονέκτημα της Κίνας

Όποιοι και αν είναι οι στρατηγικοί της υπολογισμοί, η Κίνα θα διαπραγματευτεί με μια κυβέρνηση Τραμπ που υστερεί στις εκλογές και διχάζεται για τη φύση της γραμμής τερματισμού.

Θεωρητικά, το AGI θα μπορούσε να φτάσει σε ένα στάδιο επαναλαμβανόμενης αυτοβελτίωσης, οδηγώντας σε απώλεια της ανθρώπινης κατανόησης ή ελέγχου. Αλλά αν μόνο οι Αμερικανοί και όχι οι Κινέζοι προσπαθούν να φτάσουν αυτό το κατώφλι, τότε ποιος έχει την ευθύνη να το σταματήσει;

Ο Ντάνιελ Ρέμλερ, ο οποίος διηύθυνε την πολιτική τεχνητής νοημοσύνης για το Στέιτ Ντιπάρτμεντ κατά τη διάρκεια της διακυβέρνησης Μπάιντεν και συμμετείχε στις συνομιλίες της Γενεύης, εξέφρασε σκεπτικισμό ότι η Κίνα δεν ενδιαφέρεται για την AGI και αγνοεί τους κινδύνους της. Είπε ότι η καθυστέρηση της Κίνας στον ανταγωνισμό δεν είναι στρατηγικός σχεδιασμός.

«Οι Κινέζοι τεχνολόγοι είναι στενοί παρατηρητές του οικοσυστήματος τεχνητής νοημοσύνης των ΗΠΑ και μερικές φορές λένε τη γνώμη τους», είπε ο Ρέμλερ. “Πολλοί είναι εντυπωσιασμένοι, ακόμη και απελπισμένοι, από το μοντέλο (Mythos). Τους τελευταίους μήνες, ακόμη και πριν από την εμφάνιση του Mythos, οι ηγέτες των κορυφαίων εργαστηρίων τεχνητής νοημοσύνης της Κίνας έχουν μιλήσει ειλικρινά για τους υπολογιστικούς περιορισμούς τους στην τεχνολογία αιχμής. Κάποιοι λένε ότι μπορεί να μην φτάσουν ποτέ τους αντιπάλους των ΗΠΑ.”

Οι διαπραγματεύσεις σε αυτό το σημείο της κούρσας είναι πιθανό να ακολουθήσουν ένα γνωστό μοτίβο στην πρόσφατη ιστορία της διπλωματίας ΗΠΑ-Κίνας, όπου το Πεκίνο ισχυρίζεται ότι υστερεί σε σχέση με τις Ηνωμένες Πολιτείες στην ανάπτυξη, κερδίζοντας τελικά εμπόδια και μεγαλύτερες παραχωρήσεις στο τραπέζι των διαπραγματεύσεων.

Σε άλλους τομείς ανταγωνισμού – όπως η ένταξη της Κίνας στον Παγκόσμιο Οργανισμό Εμπορίου και οι διαπραγματεύσεις για την κυβερνοασφάλεια μεταξύ του Πεκίνου και της κυβέρνησης Ομπάμα – η Ουάσιγκτον θεώρησε εκ των υστέρων τις συμφωνίες που προέκυψαν ως κακές για τις αμερικανικές εταιρείες.

Ο Ρέμλερ πρόσθεσε ότι η κυβέρνηση Τραμπ «πρέπει να προσεγγίσει τη διπλωματία της τεχνητής νοημοσύνης με την Κίνα με σαφείς προσδοκίες που βασίζονται στα δικά μας εθνικά συμφέροντα».

Η ίδια η Silicon Valley είναι διχασμένη ως προς τη ρύθμιση της τεχνητής νοημοσύνης. Η Anthropic, που ιδρύθηκε από ανησυχίες ότι άλλες εταιρείες τεχνητής νοημοσύνης αποτυγχάνουν να λάβουν σοβαρά υπόψη τα θέματα ασφάλειας και συνέπειας, προειδοποίησε την κυβέρνηση Τραμπ για το δικό της μοντέλο, το Mythos, μια στιγμή που ώθησε τον Λευκό Οίκο να σκεφτεί την καλύτερη πορεία προς τα εμπρός.

Ο υπουργός Οικονομικών των ΗΠΑ Scott Bessent, θορυβημένος από τις συναντήσεις με κορυφαίους ηγέτες τραπεζών των ΗΠΑ σχετικά με τα τρωτά σημεία του, συνέστησε εσωτερικά στην αμερικανική κυβέρνηση να επανεξετάσει τις μελλοντικές εκδόσεις μοντέλων – μια πρακτική που βρίσκεται ήδη σε εξέλιξη στην Κίνα, όπου οι παράμετροι εκπαίδευσης του μοντέλου, γνωστές ως “βαρίδια”, έχουν δημοσιοποιηθεί.

Ακόμη και οι προτάσεις για κυβερνητική ρύθμιση έχουν πυροδοτήσει αντιδράσεις στη Silicon Valley. Την περασμένη εβδομάδα, ο Λευκός Οίκος εξέδωσε ένα υπόμνημα διαβεβαιώνοντας τους συμμάχους της βιομηχανίας ότι η υποβολή νέων μοντέλων για ομοσπονδιακή αναθεώρηση θα ήταν εντελώς εθελοντική.

Εάν τελικά επαναληφθούν οι συνομιλίες για την τεχνητή νοημοσύνη μεταξύ Ουάσιγκτον και Πεκίνου, οι ειδικοί πιστεύουν ότι θα είναι πολύ πιο περίπλοκες από τις συμφωνίες ελέγχου όπλων της εποχής του Ψυχρού Πολέμου για τα πυρηνικά όπλα.

Οι υπερδυνάμεις θα συζητήσουν όχι μόνο την απειλή αποσταθεροποίησης του παγκόσμιου χρηματοπιστωτικού συστήματος, αλλά και τις ανησυχίες για τη διάδοση – προηγμένα εργαλεία τεχνητής νοημοσύνης που θα πέσουν στα χέρια κακών παραγόντων που ενδιαφέρονται να χρησιμοποιήσουν βιολογικά ή κυβερνοόπλα που θα μπορούσαν να στοχεύουν και τις δύο χώρες.

Πρέπει τελικά να αποφασίσουν εάν θα συζητήσουν τη ρύθμιση της ενσωμάτωσης της τεχνητής νοημοσύνης στους στρατούς της Κίνας και των ΗΠΑ, έναν σχεδόν αδιανόητο στόχο μεταξύ των μεγαλύτερων αντιπάλων του κόσμου, όπου η εμπιστοσύνη είναι χαμηλότερη και η επαλήθευση είναι πιο δύσκολη.

Οι άνθρωποι του κλάδου που ανησυχούν περισσότερο για το τι μπορεί να φέρει η τεχνητή νοημοσύνη λένε στην κυβέρνηση Τραμπ ότι οι διαπραγματεύσεις με την Κίνα είναι μια υπαρξιακή αναγκαιότητα.

Αλλά ακόμη και μέσα στην ανθρώπινη εταιρεία που υποστηρίζει τη διπλωματία, υπάρχουν ανησυχίες ότι το Πεκίνο θα μπορούσε να εκμεταλλευτεί το τρέχον μειονέκτημά του για να σύρει τη βιομηχανία των ΗΠΑ στο προσκήνιο των κορυφαίων επιτευγμάτων της.

Αντί να πιέσουν για μια συνολική συμφωνία, δύο πηγές του κλάδου είπαν ότι οι εμπιστευτικοί του κλάδου συνέστησαν στην κυβέρνηση να συνάψει στοχευμένη συμφωνία με το Πεκίνο για να μετριάσει συγκεκριμένους κινδύνους, όπως μια συμφωνία πυρηνικής διοίκησης και ελέγχου.

Ιδιωτικά, είπε ο Σάλιβαν, τόσο ο Σι όσο και ο Κινέζος υπουργός Εξωτερικών Γουάνγκ Γι φάνηκαν να κατανοούν ότι η σημασία των αναδυόμενων τεχνολογιών που είχαν μπροστά τους απαιτούσε κάποια μορφή συνεργασίας.

“Σε εννοιολογικό επίπεδο, πιστεύω ότι έχουν εμπιστοσύνη σε αυτό και την εξουσία να το κάνουν, αλλά πιστεύω ότι έχουν πολύ χαμηλότερο επίπεδο επείγοντος από εμάς και νομίζω ότι αυτή είναι μια μακροπρόθεσμη διαδικασία που θα εξελιχθεί με την πάροδο του χρόνου”, είπε ο Sullivan.

«Ο επείγων χαρακτήρας τους και τα συμφέροντά τους έχουν αυξηθεί», πρόσθεσε.