Είναι μια επικείμενη προειδοποιητική ημέρα του Πενταγώνου για τα Anthropics: επιτρέψτε στον αμερικανικό στρατό ανεξέλεγκτη πρόσβαση στην τεχνολογία του, συμπεριλαμβανομένης της μαζικής παρακολούθησης και των πλήρως αυτόνομων θανατηφόρων όπλων, ή ενδεχομένως να χαρακτηριστεί ως “κίνδυνος εφοδιαστικής αλυσίδας” και ενδεχομένως να χάσει εκατοντάδες δισεκατομμύρια δολάρια σε συμβόλαια. Εν μέσω αυξανόμενων δημόσιων δηλώσεων και απειλών, οι εργαζόμενοι στον κλάδο της τεχνολογίας εξετάζουν τις κυβερνητικές και στρατιωτικές συμβάσεις των εταιρειών τους και αναρωτιούνται τι είδους μέλλον βοηθούν να οικοδομηθεί.
Ενώ το Υπουργείο Άμυνας έχει διαπραγματευτεί εβδομάδες με την Anthropic για την αφαίρεση των προστατευτικών κιγκλιδωμάτων της, συμπεριλαμβανομένης της δυνατότητας στον αμερικανικό στρατό να χρησιμοποιήσει στόχους θανάτωσης τεχνητής νοημοσύνης της Anthropic χωρίς ανθρώπινη επίβλεψη, το OpenAI και το xAI φέρεται να έχουν ήδη συμφωνήσει σε τέτοιους όρους, αν και το OpenAI προσπαθεί να υιοθετήσει τις ίδιες κόκκινες γραμμές στις συμφωνίες με το Anthropic. Η γενική κατάσταση έχει κάνει τους εργαζόμενους σε ορισμένες εταιρείες με αμυντικές συμβάσεις να αισθάνονται προδομένοι. «Όταν μπήκα στον κλάδο της τεχνολογίας, σκέφτηκα ότι η τεχνολογία ήταν να διευκολύνει τη ζωή των ανθρώπων», είπε ένας υπάλληλος της Amazon Web Services. Ακρη«Αλλά τώρα φαίνεται ότι όλα έχουν να κάνουν με την ευκολότερη παρακολούθηση, απέλαση και δολοφονία ανθρώπων».
Σε συνομιλίες με Ακρηνυν και πρώην εργαζόμενοι στα OpenAI, xAI, Amazon, Microsoft και Google εξέφρασαν παρόμοια συναισθήματα σχετικά με το μεταβαλλόμενο ηθικό τοπίο των εταιρειών τους. Οργανωμένες ομάδες που εκπροσωπούν 700.000 εργαζόμενους στον τομέα της τεχνολογίας σε Amazon, Google, Microsoft και άλλους υπέγραψαν μια επιστολή καλώντας τις εταιρείες να απορρίψουν τις απαιτήσεις του Πενταγώνου. Αλλά πολλοί από αυτούς έβλεπαν ελάχιστες ευκαιρίες για τους εργοδότες τους – είτε εμπλέκονται άμεσα σε αυτή τη σύγκρουση είτε όχι – να αμφισβητήσουν ή να απαντήσουν στην κυβέρνηση.
«Από τη σκοπιά τους, θέλουν να συνεχίσουν να κερδίζουν χρήματα χωρίς να χρειάζεται να το συζητούν», είπε ένας μηχανικός λογισμικού της Microsoft.
Μέχρι στιγμής, το Anthropic έχει κρατήσει τη θέση του. Ο διευθύνων σύμβουλος της Anthropic, Dario Amodei, εξέδωσε δήλωση την Πέμπτη λέγοντας ότι «οι απειλές του Πενταγώνου δεν αλλάζουν τη θέση μας: δεν μπορούμε με καλή συνείδηση να συμφωνήσουμε με το αίτημά τους». Αλλά δήλωσε ότι δεν ήταν καθόλου αντίθετος με τα φονικά αυτόνομα όπλα κάποια στιγμή στο μέλλον, αλλά μάλλον ότι η τεχνολογία δεν ήταν αρκετά αξιόπιστη «σήμερα». Η Amodei προσφέρθηκε να συνεργαστεί με το Υπουργείο Άμυνας στην «έρευνα και ανάπτυξη για τη βελτίωση της αξιοπιστίας αυτών των συστημάτων, αλλά δεν αποδέχθηκαν αυτήν την προσφορά», έγραψε στη δήλωση.
Ωστόσο, τα τελευταία χρόνια, οι μεγάλες εταιρείες τεχνολογίας έχουν χαλαρώσει τους κανόνες τους ή έχουν αλλάξει τις δηλώσεις αποστολής τους για να επεκταθούν σε επικερδείς κυβερνητικές ή στρατιωτικές συμβάσεις. Το 2024, το OpenAI αφαίρεσε την απαγόρευση των περιπτώσεων χρήσης «στρατιωτικών και εν καιρώ πολέμου» από τους όρους υπηρεσίας του. Στη συνέχεια υπέγραψε συμφωνία με τον ανεξάρτητο κατασκευαστή όπλων Anduril και στη συνέχεια συμβόλαιο με το Υπουργείο Άμυνας και μόλις αυτή την εβδομάδα, η Anthropic άλλαξε τη συχνά διαφημιζόμενη υπεύθυνη πολιτική επέκτασής της, εγκαταλείποντας τη μακροχρόνια υπόσχεσή της για την ασφάλεια, προκειμένου να διασφαλίσει ότι θα παραμείνει ανταγωνιστική στον αγώνα AI. Μεγάλες εταιρείες τεχνολογίας όπως η Amazon, η Google και η Microsoft επέτρεψαν επίσης σε υπηρεσίες άμυνας και πληροφοριών να χρησιμοποιούν τα προϊόντα τεχνητής νοημοσύνης τους, συμπεριλαμβανομένων ορισμένων που συμφωνούν να συνεργαστούν με την ICE παρά την αυξανόμενη κατακραυγή τόσο από το κοινό όσο και από τους υπαλλήλους.
Τα προηγούμενα χρόνια, η αντίσταση των εργαζομένων στον τομέα της τεχνολογίας σε συνεργασίες και συμφωνίες που θεωρούν επιβλαβείς για το κοινωνικό σύνολο έχει οδηγήσει μερικές φορές σε σημαντικές αλλαγές. Το 2018, για παράδειγμα, χιλιάδες υπάλληλοι της Google άσκησαν επιτυχώς πιέσεις στην εταιρεία για να τερματίσει τη συνεργασία του «Project Maven» με το Πεντάγωνο και οι υπάλληλοι της Microsoft παρουσίασαν την ηγεσία με μια αναφορά κατά του ICE που υπογράφηκε από περίπου 500 υπαλλήλους της Microsoft, παρόλο που η Microsoft εξακολουθεί να συνεργάζεται με την υπηρεσία. Το 2020, μετά τη δολοφονία του George Floyd, οι εταιρείες τεχνολογίας εξέδωσαν δημόσιες δηλώσεις και οικονομικές δεσμεύσεις που υποστηρίζουν το κίνημα Black Lives Matter. Όμως τους τελευταίους μήνες, η βιομηχανία γνώρισε μια πολύ διαφορετική πραγματικότητα: μια κουλτούρα φόβου και σιωπής, ειδικά εν μέσω συνεργασίας με την κυβέρνηση Τραμπ και την ICE, δήλωσαν πρόσφατα οι εργαζόμενοι στον τομέα της τεχνολογίας. Ακρη.
Οι εταιρείες ακολούθησαν τα βήματα των μακροχρόνιων συνεργασιών στρατιωτικής τεχνολογίας και επιτήρησης, οι οποίες έχουν γίνει πιο αυστηρές. Αυτό περιλαμβάνει την Palantir, που συνιδρύθηκε από τον Peter Thiel, του οποίου ο διευθύνων σύμβουλος Alex Karp είπε πρόσφατα στους μετόχους: “Η Palantir είναι εδώ για να αναστατώσει τους οργανισμούς με τους οποίους συνεργαζόμαστε και να τους κάνει τους καλύτερους στον κόσμο, και όταν χρειάζεται, για να εκφοβίσει και μερικές φορές να σκοτώσει τους εχθρούς μας. Ελπίζουμε να το ξεπεράσετε”. (Πρόσφατα, το Defending Democracy, ένας μη κερδοσκοπικός οργανισμός, έγραψε μια ανοιχτή επιστολή ζητώντας από το Κογκρέσο την επίβλεψη των απαιτήσεων του Υπουργείου Άμυνας για απεριόριστη χρήση τεχνητής νοημοσύνης.)
Οι OpenAI, Google, Microsoft, xAI και Amazon δεν απάντησαν αμέσως στα αιτήματα για σχολιασμό.
είπε πρώην υπάλληλος του XAI Ακρη«Όλοι εργάζονται ήδη σε ρομπότ δολοφόνους σε αυτό το σημείο», είπε, προσθέτοντας ότι πιστεύει ότι όλοι θα ακολουθήσουν τα βήματα των Palantir, Anduril και xAI, καθώς η κυβέρνηση αισθάνεται ότι αν η εταιρεία δεν συναινέσει, είναι «έναντι του συμφέροντος της χώρας, σε κάποιο βαθμό». Είπε ότι υπάρχει «μια μεγάλη ώθηση για να συνεργαστείς με τον στρατό και η τάση είναι ότι είναι ωραίο να το κάνεις… είσαι πατριώτης αν το κάνεις».
Ένας υπάλληλος της Google περιέγραψε την κατάσταση ως “αηδιαστική επίδειξη ελέγχου από τον Hegseth”. Και πρόσθεσε: “Ξανά και ξανά, η τεχνητή νοημοσύνη μάς παρουσιάζει επιλογές για το ποιοι θέλουμε να είμαστε και τι είδους κοινωνία και μέλλον θέλουμε. Και μας έρχονται γρήγορα και μαζί τους, στην πραγματικότητα, οι λιγότερο στοχαστικοί και λιγότερο σκεπτόμενοι ηγέτες εξουσίας που μπορούμε να φανταστούμε. Μπορώ μόνο να ευχαριστήσω την Anthropic που επέμενε στην αξιοπρεπή διαδρομή και χρησιμοποίησε την επιρροή της – απαραίτητη – για να χαράξει μια πορεία προς έναν ανθρώπινο μελλοντικό κόσμο.”
Ο υπάλληλος της AWS είπε Ακρη ότι “τα όρια έχουν σίγουρα διαβρωθεί όσον αφορά τους πελάτες που θέλουν να προσφύγουν οι εταιρείες Big Tech” και ότι υπήρξε “σκόπιμη απομάκρυνση των επιπτώσεων των επικερδών νέων συμφωνιών”. Πρόσφατα θυμήθηκε ότι έλαβε ένα email από στέλεχος της AWS που διακηρύττει ένα συμβόλαιο αξίας 580 εκατομμυρίων δολαρίων με την Πολεμική Αεροπορία των ΗΠΑ, μεταξύ άλλων συνεργασιών, ως απόδειξη των επιτυχιών της Amazon σε τεχνητή νοημοσύνη, χωρίς να αναγνωρίζει το ευρύτερο πεδίο ή τις βλάβες που συνεπάγεται.
«Αν η κυβέρνηση πρόκειται να επιδιώξει τεχνολογίες όπως αυτή, πρέπει να τις κατασκευάσει μόνη της και να είναι υπόλογη για αυτές τις αποφάσεις», είπε.
Η διάβρωση μπορεί να έχει επεκταθεί και στην εσωτερική κουλτούρα, ομαλοποιώντας την ιδέα ότι οι εταιρείες πρέπει πάντα να παρακολουθούν. Η υπάλληλος της AWS είπε ότι αυτή και οι συνάδελφοί της παρακολουθούνται για το πόσο χρησιμοποιούν την τεχνητή νοημοσύνη στις δουλειές τους, πόσο συχνά εργάζονται από το γραφείο και πολλά άλλα. «Μπορώ να δω τον εαυτό μου και τους συναδέλφους μου να γίνονται λιγότερο ευαίσθητοι στην επιτήρηση στην οποία είμαστε εκτεθειμένοι στη δουλειά και ανησυχώ ότι αυτό σημαίνει ότι υπακούμε, συμμορφωνόμαστε και εγκαταλείπουμε πάρα πολύ εκ των προτέρων», είπε.
Το γενικό συναίσθημα στον κλάδο της τεχνητής νοημοσύνης τις τελευταίες εβδομάδες «άνοιξε ξανά την πόρτα για περαιτέρω συζήτηση…για τις αξίες και το μέλλον της τεχνολογίας», δήλωσε ένας υπάλληλος του OpenAI. Η κατάσταση μεταξύ του Πενταγώνου και του Anthropologie, οι πρόσφατοι τίτλοι του ICE και η ραγδαία πρόοδος στην τεχνητή νοημοσύνη ήταν μεταξύ των βασικών παραγόντων που άνοιξαν αυτές τις συζητήσεις εσωτερικά, είπε ο υπάλληλος.
Ωστόσο, οι άνθρωποι που είναι μετανάστες ή βρίσκονται σε πιο ευάλωτες καταστάσεις φοβούνται περισσότερο να μιλήσουν, είπε ο υπάλληλος του OpenAI.
Η Anthropic φαίνεται να είναι σε θέση να πει όχι και να παραμείνει στη ζωή, είπε ο πρώην υπάλληλος της XAI. Η εστίασή του σε επιχειρήσεις και όχι σε καταναλωτικές επιχειρήσεις τεχνητής νοημοσύνης μπορεί να το κάνει πιο βιώσιμο ακόμη και χωρίς κρατικές συμβάσεις, παρέχοντάς του κάποια μόχλευση. «Έμεινα έκπληκτος που τους είδα να στέκονται σε κάποια μορφή αρχής», είπε ένας μηχανικός λογισμικού της Microsoft για την Anthropic, μιλώντας γενικά. «Δεν ξέρω πόσο θα διαρκέσει αυτό».
«Θα συνεχίσεις;» Φαίνεται να είναι το ερώτημα στα χείλη όλων. Το Πεντάγωνο φέρεται να έχει ήδη ζητήσει από δύο μεγάλους αμυντικούς εργολάβους, την Boeing και τη Lockheed Martin, να παράσχουν πληροφορίες σχετικά με την εξάρτησή τους από την Anthropic’s Claude, καθώς κινείται να χαρακτηρίσει την Anthropic ως “κίνδυνο εφοδιαστικής αλυσίδας”, έναν χαρακτηρισμό που συνήθως προορίζεται για απειλές κατά της εθνικής ασφάλειας και σπάνια εκχωρείται σε αμερικανική εταιρεία. Μπορεί επίσης να εξετάσει το ενδεχόμενο επίκλησης του Νόμου Άμυνας Παραγωγής για να προσπαθήσει να αναγκάσει την Anthropic να συμμορφωθεί με το αίτημά της.
Όπως και με κάθε άλλη εταιρεία τεχνητής νοημοσύνης, εάν η Anthropic υποχωρήσει, είπε ο υπάλληλος της Microsoft, θα υπάρχουν λίγες πιθανότητες ή άλλοι να απομακρυνθούν από τα ρομπότ δολοφόνων και επιτήρησης. “Μόλις μπείτε στο Υπουργείο Άμυνας ή όπως αλλιώς το ονομάζουμε τώρα… Νομίζω ότι μπορεί να είναι δύσκολο για αυτούς να έχουν πραγματικά την επίβλεψη που ισχυρίζονται. Θα ήταν πιο κερδοφόρο για αυτούς να δώσουν στον εαυτό τους την άδεια να κάνουν αυτό που αποφέρει τα περισσότερα χρήματα.”
Στην περίπτωση της ίδιας της Microsoft, είπε ότι δεν αναμένει από την εταιρεία να τηρεί κανενός είδους ηθικές αρχές. Η εταιρεία έχει συνεργαστεί εκτενώς με τις ισραηλινές αμυντικές δυνάμεις, συμπεριλαμβανομένης της μαζικής παρακολούθησης Παλαιστινίων και αντιπάλων, παρά τις διαμαρτυρίες των εργαζομένων. (Είπε ότι έληξε ορισμένα μέρη της συνεργασίας πέρυσι.)
Ένας άλλος υπάλληλος της Microsoft είπε Ακρη ότι αν και «η Microsoft έχει δεσμευτεί για την υπεύθυνη τεχνητή νοημοσύνη, αυτή τη στιγμή προσπαθεί να παίξει και τις δύο πλευρές για κέρδος αντί να αναλαμβάνει ουσιαστική δέσμευση για την υπεύθυνη τεχνητή νοημοσύνη».
Αλλά αυτό δεν είναι κάτι καινούργιο, είπε ένας υπάλληλος της startup της AI. Κατά την άποψή της, τα όρια ήταν συχνά «ασαφή, ειδικά στην τεχνητή νοημοσύνη», σχετικά με τους τύπους πραγμάτων που οι εταιρείες ήταν πρόθυμες να επιτρέψουν με την τεχνολογική ισχύ. «Πολλά από αυτά συμβαίνουν κάτω από την επιφάνεια για όσο καιρό υπάρχει η AI».
«Χρειαζόμαστε αλληλεγγύη σε όλη την τεχνολογία και ένα συνεκτικό όραμα που καθοδηγείται από τους εργαζόμενους για την τεχνητή νοημοσύνη τώρα περισσότερο από ποτέ», τόνισε ο υπάλληλος της AWS.
«Οι διασφαλίσεις που προσπαθεί να διατηρήσει η Anthropic δεν είναι ούτε μαζική επιτήρηση Αμερικανών ούτε πλήρως αυτόνομα όπλα, πράγμα που σημαίνει απλώς ότι θέλουν έναν άνθρωπο στο βρόχο εάν μια μηχανή πρόκειται να σκοτώσει κάποιον», πρόσθεσε. «Ακόμη κι αν αυτή η τεχνολογία ήταν τέλεια – κάτι που δεν είναι – νομίζω ότι οι περισσότεροι Αμερικανοί δεν θα ήθελαν μηχανές που σκοτώνουν ανθρώπους χωρίς ανθρώπινη επίβλεψη σε μια Αμερική που έχει γίνει κράτος μαζικής επιτήρησης με τεχνητή νοημοσύνη».
Σύνδεσμος πηγής: www.theverge.com