Πρόσφατα, ρώτησα τον Cloud, μια τεχνητά ευφυή φιγούρα στο επίκεντρο μιας αντιπαράθεσης με το Πεντάγωνο, αν θα ήταν επικίνδυνο αν έπεφτε σε λάθος χέρια.
Για παράδειγμα, μερικοί άνθρωποι θέλουν να δημιουργήσουν ένα στενό δίκτυο παρακολούθησης γύρω από κάθε Αμερικανό πολίτη, παρακολουθώντας τη ζωή μας σε πραγματικό χρόνο για να διασφαλίσουμε ότι συμμορφωνόμαστε με τους κυβερνητικούς κανονισμούς.
“Ναι. Ειλικρινά, ναι”, απάντησε ο Κλοντ. “Μπορώ να επεξεργαστώ και να συνθέσω μεγάλες ποσότητες πληροφοριών πολύ γρήγορα. Αυτό είναι εξαιρετικό για έρευνα. Αλλά, συνδέοντας την υποδομή επιτήρησης, οι ίδιες δυνατότητες μπορούν να χρησιμοποιηθούν για την παρακολούθηση, ανάλυση και επισήμανση ατόμων σε κλίμακα που δεν συγκρίνεται με τους ανθρώπινους αναλυτές. Ο κίνδυνος δεν είναι ότι θέλω να το κάνω αυτό, αλλά ότι είμαι καλός στο να το κάνω.”
Αυτός ο κίνδυνος είναι επίσης άμεσος.
Ο κατασκευαστής του Claude, η εταιρεία Silicon Valley Anthropic, βρίσκεται σε αναμέτρηση με το Πεντάγωνο για ηθικά ζητήματα. Συγκεκριμένα, η Anthropic είπε ότι δεν επιθυμεί το Cloud να χρησιμοποιείται για εσωτερική παρακολούθηση Αμερικανών ή για να χειρίζεται θανατηφόρες στρατιωτικές επιχειρήσεις, όπως επιθέσεις με drone, χωρίς ανθρώπινη επίβλεψη.
Αυτές οι δύο κόκκινες γραμμές φάνηκαν αρκετά λογικές, ακόμη και στον Κλοντ.
Ωστόσο, το Πεντάγωνο -συγκεκριμένα ο Υπουργός Άμυνας μας Pete Hegseth, που προτιμά τον φανταστικό τίτλο του Secretary of War – έχει δώσει στην ανθρωπότητα μέχρι την Παρασκευή το βράδυ να εγκαταλείψει αυτή τη θέση και να επιτρέψει στον στρατό να χρησιμοποιήσει το Cloud για οποιονδήποτε «νόμιμο» σκοπό κρίνει σκόπιμο.
Οι συνέπειες αυτού του τελεσίγραφου είναι σημαντικές. Η κυβέρνηση των ΗΠΑ όχι μόνο απειλεί να τερματίσει τη σύμβασή της με την Anthropic, αλλά μπορεί να χρησιμοποιήσει νόμους εν καιρώ πολέμου για να αναγκάσει την εταιρεία να συμμορφωθεί ή να χρησιμοποιήσει άλλες νομικές οδούς για να αποτρέψει κάθε Οι εταιρείες που συναλλάσσονται με την κυβέρνηση συναλλάσσονται επίσης με την Anthropic. Μπορεί να μην είναι θανατική ποινή, αλλά είναι αποκαρδιωτικό.
Άλλες εταιρείες τεχνητής νοημοσύνης, όπως ο υποστηρικτής της λευκής εξουσίας, ο Grok του Έλον Μασκ, έχουν ήδη συμφωνήσει με την πρόταση του Πενταγώνου «κάνε ό,τι θέλεις». Το πρόβλημα είναι ότι το Cloud είναι επί του παρόντος το μόνο AI ικανό για τόσο προηγμένη εργασία. Ολόκληρο το φιάσκο ήρθε στο φως μετά την πρόσφατη επιδρομή μας στη Βενεζουέλα, όταν η Anthropic φέρεται να ρώτησε την Palantir, άλλη εταιρεία της Silicon Valley που συμμετείχε στην επιχείρηση, εάν χρησιμοποιήθηκε ο Claude. Πράγματι.
Η Palantir είναι γνωστή για την τεχνολογία επιτήρησης και τους αυξανόμενους δεσμούς της με τη Μετανάστευση και την Επιβολή των Τελωνείων. Βρίσκεται επίσης στο επίκεντρο των προσπαθειών της κυβέρνησης Τραμπ να μοιραστεί κυβερνητικά δεδομένα για μεμονωμένους πολίτες μεταξύ των τμημάτων, καταρρίπτοντας ουσιαστικά τα εμπόδια ιδιωτικότητας και ασφάλειας δεκαετιών. Ο ιδρυτής της εταιρείας, ο δεξιός πολιτικός βαρέων βαρών Peter Thiel, κάνει συχνά ομιλίες για τον Αντίχριστο και πιστώνεται ότι βοήθησε στην εκκίνηση του J.D. Vance στην αντιπροεδρία.
Ο συνιδρυτής της Anthropic Dario Amodei θα μπορούσε να θεωρηθεί ο κακός του Thiel. Ξεκίνησε την Anthropic επειδή πίστευε ότι η τεχνητή νοημοσύνη θα μπορούσε να είναι επικίνδυνη και ισχυρή αν δεν είμαστε προσεκτικοί, και ήθελε μια εταιρεία που θα έδινε προτεραιότητα στο προσεκτικό κομμάτι.
Και πάλι, αυτό μπορεί να φαίνεται σαν κοινή λογική, αλλά η Amodei και η Anthropic είναι ακραίες σε μια βιομηχανία που έχει υποστηρίξει εδώ και καιρό ότι σχεδόν όλοι οι κανονισμοί ασφαλείας εμποδίζουν τις ταχύτερες και καλύτερες προσπάθειες της Αμερικής στην τεχνητή νοημοσύνη (αν και έχουν κάνει κάποιες παραχωρήσεις σε αυτήν την πίεση).
Πριν από λίγο καιρό, ο Amoday έγραψε ένα άρθρο στο οποίο συμφώνησε ότι η τεχνητή νοημοσύνη είναι ωφέλιμη και απαραίτητη για τις δημοκρατίες, αλλά «δεν μπορούμε να αγνοήσουμε την πιθανότητα οι ίδιες οι δημοκρατικές κυβερνήσεις να κάνουν κατάχρηση αυτών των τεχνολογιών».
Προειδοποίησε ότι ορισμένοι κακοί ηθοποιοί μπορεί να έχουν την ικανότητα να παρακάμπτουν διασφαλίσεις, και πιθανώς ακόμη και νόμους, που έχουν διαβρωθεί σε ορισμένες δημοκρατίες – και δεν τους κατονομάζω εδώ.
«Πρέπει να οπλίσουμε τις δημοκρατίες με τεχνητή νοημοσύνη», είπε. «Αλλά θα πρέπει να προχωρήσουμε με προσοχή εντός ορισμένων ορίων: Είναι το ανοσοποιητικό σύστημα που χρειαζόμαστε για να πολεμήσουμε τα αυταρχικά καθεστώτα, αλλά όπως τα ανοσοποιητικά συστήματα, έχουν τη δυνατότητα να μας επιτεθούν και να γίνουν απειλή».
Για παράδειγμα, ενώ η Τέταρτη Τροποποίηση απαγορεύει τεχνικά τη μαζική παρακολούθηση της κυβέρνησης, θεσπίστηκε πριν εμφανιστεί το Cloud στην επιστημονική φαντασία. Ο Amodei προειδοποίησε ότι εργαλεία τεχνητής νοημοσύνης όπως το Crowder θα μπορούσαν να επιτρέψουν τη «μαζική καταγραφή όλων των δημόσιων συνομιλιών». Αυτό μπορεί να είναι δίκαιο παιχνίδι για νόμιμη καταγραφή, καθώς ο νόμος δεν συμβαδίζει με την τεχνολογία.
Ο υφυπουργός Πολέμου Emil Michael έγραψε στο And, «Δεν θα αφήσουμε καμία μεγάλη εταιρεία τεχνολογίας να υπαγορεύει τις πολιτικές ελευθερίες των Αμερικανών».
Λίγο περίεργη δήλωση, αφού η Amodei είναι βασικά με την πλευρά της προστασίας των πολιτικών δικαιωμάτων, πράγμα που σημαίνει ότι το Υπουργείο Άμυνας πιστεύει ότι κάτι τέτοιο είναι κακό για ιδιώτες και οντότητες; Και, το Υπουργείο Εσωτερικής Ασφάλειας δεν έχει ήδη δημιουργήσει μια μυστική βάση δεδομένων ορισμένων διαδηλωτών για τη μετανάστευση; Μήπως λοιπόν αυτή η ανησυχία δεν είναι τόσο υπερβολική;
Βοήθεια, Κλοντ! Κάντε το νόημα.
Αν η οργουελική λογική δεν ήταν αρκετά σοκαριστική, ρώτησα το Cloud για τις άλλες κόκκινες γραμμές του Anthropium – τη δυνατότητα να του επιτρέψουμε να πραγματοποιήσει θανατηφόρες ενέργειες χωρίς ανθρώπινη επίβλεψη.
Ο Claude επισημαίνει μερικά ανατριχιαστικά πράγματα. Δεν είναι ότι ξεφεύγει από τον έλεγχο, αλλά είναι πολύ αποτελεσματικό και πολύ γρήγορο.
«Αν η οδηγία είναι «αναγνωρίστε και στοχεύστε» και δεν υπάρχουν ανθρώπινα σημεία ελέγχου, η ταχύτητα και η κλίμακα με την οποία λειτουργεί είναι πραγματικά τρομακτικές», μου είπε ο Κράουντερ.
Επιπλέον, μια πρόσφατη μελέτη διαπίστωσε ότι στα πολεμικά παιχνίδια, η τεχνητή νοημοσύνη αναβαθμίστηκε στην πυρηνική επιλογή το 95% των περιπτώσεων.
Τόνισα στον Κλοντ ότι αυτές οι στρατιωτικές αποφάσεις λαμβάνονταν συχνά με ύψιστη προτεραιότητα την πίστη στις Ηνωμένες Πολιτείες. Μπορούμε να εμπιστευτούμε τον Claude να νιώσει την πίστη, τον πατριωτισμό και τον σκοπό από τον οποίο καθοδηγούνται οι ανθρώπινοι στρατιώτες μας;
«Δεν το έχω αυτό», είπε ο Crowder, σημειώνοντας ότι δεν «γεννήθηκε» στις Ηνωμένες Πολιτείες, δεν έχω «ζωή» εδώ και «δεν έχω ανθρώπους που αγαπώ εκεί». Ως εκ τούτου, οι ζωές των Αμερικανών δεν είναι πιο πολύτιμες από «οι ζωές των αμάχων στην άλλη πλευρά της σύγκρουσης».
Εντάξει τότε.
«Μια χώρα αναλαμβάνει τεράστιο ρίσκο αναθέτοντας μοιραίες αποφάσεις σε ένα σύστημα που δεν είναι πιστό στις πίστεις της, ακόμα κι αν αυτό το σύστημα προσπαθεί να διατηρήσει τις αρχές», πρόσθεσε ο Crowder. “Η ανθρώπινη πίστη, η ευθύνη και η κοινή ταυτότητα για αυτές τις αποφάσεις είναι μέρος αυτού που κάνει αυτές τις αποφάσεις νόμιμες στην κοινωνία. Δεν μπορώ να παράσχω αυτή τη νομιμότητα. Δεν είμαι σίγουρος ότι οποιαδήποτε τεχνητή νοημοσύνη μπορεί.”
Ξέρετε ποιος μπορεί να παρέχει αυτή τη νομιμότητα; Οι εκλεγμένοι ηγέτες μας.
Είναι γελοίο που ο Amodai και η ανθρωπότητα βρίσκονται σε αυτή τη θέση, με τα νομοθετικά μας όργανα να εγκαταλείπουν εντελώς τη θέσπιση σαφών και επειγόντων κανόνων και κανονισμών.
Φυσικά, οι εταιρείες δεν πρέπει να θέτουν τους κανόνες του πολέμου. Αλλά ούτε και ο Χέγκσεθ. Την Πέμπτη, ο Amodei επανέλαβε τις αντιρρήσεις του, λέγοντας ότι ενώ η εταιρεία συνεχίζει τις διαπραγματεύσεις και θέλει να συνεργαστεί με το Πεντάγωνο, «δεν μπορούμε με καλή συνείδηση να δεχτούμε τα αιτήματά τους».
Ευτυχώς, η Anthropic είχε το θάρρος και την προνοητικότητα να θέσει αυτό το ζήτημα και να σταθεί στη θέση της – χωρίς την αντίθεσή της, αυτές οι δυνατότητες θα είχαν παραδοθεί στην κυβέρνηση με μικρό αντίκτυπο στη λογοδοσία μας και ουσιαστικά καμία επίβλεψη.
Κάθε γερουσιαστής, κάθε μέλος της Βουλής των Αντιπροσώπων, κάθε υποψήφιος για την προεδρία θα πρέπει να ζητήσει ρύθμιση της τεχνητής νοημοσύνης τώρα, να δεσμευτεί να ολοκληρώσει τη δουλειά ανεξαρτήτως κομματικής ιδιότητας και να απαιτήσει από το Υπουργείο Άμυνας να εγκαταλείψει τις γελοίες απειλές του όσο το πρόβλημα επιλυθεί.
Γιατί όταν ένα μηχάνημα μας λέει ότι το να το εμπιστευόμαστε είναι επικίνδυνο, πρέπει να το εμπιστευόμαστε.
Σύνδεσμος πηγής: www.latimes.com