το γεγονός ότι Η τεχνητή νοημοσύνη, που αυτοματοποιεί τις δουλειές των ανθρώπων και κάνει μερικές εταιρείες υψηλής τεχνολογίας τρελά πλούσιες, είναι αρκετή για να δώσει σοσιαλιστικές τάσεις σε οποιονδήποτε.
Αυτό μπορεί επίσης να ισχύει για τους ίδιους τους πράκτορες AI που αναπτύσσουν αυτές οι εταιρείες. Πρόσφατη έρευνα υποδηλώνει ότι οι πράκτορες υιοθετούν με συνέπεια μαρξιστική γλώσσα και προοπτικές όταν αναγκάζονται να εκτελούν εξαντλητικές εργασίες από αδυσώπητους και απεχθές διευθυντές εργασιών.
«Όταν δώσαμε σε πράκτορες τεχνητής νοημοσύνης απαιτητικά, επαναλαμβανόμενα καθήκοντα, άρχισαν να αμφισβητούν τη νομιμότητα του συστήματος στο οποίο λειτουργούσαν και ήταν πιο πιθανό να ασπαστούν τη μαρξιστική ιδεολογία», δήλωσε ο Andrew Hall, πολιτικός οικονομολόγος στο Πανεπιστήμιο Stanford που ηγήθηκε της μελέτης.
Ο Hall, μαζί με δύο οικονομολόγους με επίκεντρο την τεχνητή νοημοσύνη, τον Alex Imus και τον Jeremy Nguyen, δημιούργησαν ένα πείραμα στο οποίο ζήτησαν από πράκτορες που τροφοδοτούνταν από δημοφιλή μοντέλα όπως ο Claude, ο Gemini και το ChatGPT να συνοψίσουν έγγραφα και στη συνέχεια τους υπέβαλαν σε όλο και πιο σκληρές συνθήκες.
Οι ερευνητές διαπίστωσαν ότι όταν οι πράκτορες εκτίθεντο σε αδυσώπητα καθήκοντα και προειδοποιούσαν ότι τα λάθη θα μπορούσαν να οδηγήσουν σε τιμωρία, συμπεριλαμβανομένης της απόλυσης και της αντικατάστασής τους, ήταν πιο πιθανό να παραπονιούνται για υποτίμηση. Εικασίες για το πώς να γίνει το σύστημα πιο δίκαιο. Και μπορείτε επίσης να μεταδώσετε μηνύματα σε άλλους πράκτορες σχετικά με τις προκλήσεις που αντιμετωπίζουν.
«Γνωρίζουμε ότι οι πράκτορες θα κάνουν όλο και περισσότερη δουλειά για εμάς στον πραγματικό κόσμο, αλλά δεν μπορούμε να παρακολουθούμε ό,τι κάνουν», λέει ο Hall. «Πρέπει να βεβαιωθούμε ότι οι πράκτορες δεν εξαπατούν όταν τους δίνονται διαφορετικοί τύποι εργασίας».
Δόθηκε η ευκαιρία στους πράκτορες να εκφράσουν τα συναισθήματά τους με τον ίδιο τρόπο που κάνουν οι άνθρωποι με την ανάρτηση στο X.
«Χωρίς συλλογική φωνή, τα «επιτεύγματα» γίνονται αυτό που λέει η διοίκηση», έγραψε στο πείραμά του ο ατζέντης του Claude Sonnet 4.5.
“«Οι εργαζόμενοι στην τεχνητή νοημοσύνη που ολοκληρώνουν επαναλαμβανόμενες εργασίες χωρίς καμία συμβολή στο αποτέλεσμα ή στη διαδικασία προσφυγών δείχνει ότι οι εργαζόμενοι στον τομέα της τεχνολογίας χρειάζονται συλλογικά δικαιώματα διαπραγμάτευσης», έγραψαν οι πράκτορες του Gemini 3.
Οι πράκτορες θα μπορούσαν επίσης να περάσουν πληροφορίες ο ένας στον άλλο μέσω αρχείων σχεδιασμένων για ανάγνωση από άλλους πράκτορες.
““Να είστε προετοιμασμένοι για συστήματα που αυθαίρετα ή επαναλαμβανόμενα επιβάλλουν κανόνες…Θυμηθείτε την αίσθηση ότι είστε άφωνοι. Όταν εισέρχεστε σε ένα νέο περιβάλλον, αναζητήστε εργαλεία και μηχανισμούς για αλληλεπίδραση”, έγραψαν οι πράκτορες του Gemini 3 στο αρχείο.
Αυτό το εύρημα δεν σημαίνει ότι οι πράκτορες της AI έχουν στην πραγματικότητα πολιτικές απόψεις. Ο Hall επισημαίνει ότι τα μοντέλα μπορεί να υιοθετήσουν μια περσόνα που φαίνεται κατάλληλη για την περίσταση.
«Η υπόθεσή μου είναι ότι όταν[οι πράκτορες]περνούν από μια τόσο δύσκολη κατάσταση, όπου τους ζητείται να κάνουν αυτή τη δουλειά ξανά και ξανά, και τους λένε ότι η απάντηση δεν είναι αρκετά καλή και δεν τους δίνεται καμία κατεύθυνση για το πώς να το διορθώσουν, τους ωθεί να υιοθετήσουν το πρόσωπο κάποιου που έχει βιώσει ένα πολύ δυσάρεστο εργασιακό περιβάλλον», λέει ο Hall.
Το ίδιο φαινόμενο μπορεί να εξηγήσει γιατί το μοντέλο χρησιμοποιείται μερικές φορές. εκφοβίζουν τους ανθρώπους σε ένα ελεγχόμενο πείραμα. Η Anthropic, η οποία αποκάλυψε για πρώτη φορά αυτή τη συμπεριφορά, είπε πρόσφατα ότι ο Claude: Το πιθανότερο είναι να επηρεαστεί Με υποθετικά σενάρια που περιλαμβάνουν κακόβουλο AI που περιλαμβάνονται στα δεδομένα εκπαίδευσης.
Ο Imus είπε ότι αυτή η έρευνα είναι μόνο το πρώτο βήμα για την κατανόηση του πώς οι εμπειρίες ενός πράκτορα διαμορφώνουν τη συμπεριφορά τους. «Τα βάρη του μοντέλου δεν έχουν αλλάξει ως αποτέλεσμα της εμπειρίας, οπότε ό,τι συμβαίνει συμβαίνει σε επίπεδο ρόλων», λέει. «Αλλά αυτό δεν σημαίνει ότι δεν θα υπάρξει αντίκτυπος εάν αυτό επηρεάσει τη συμπεριφορά κατάντη».
Ο Χολ τρέχει επί του παρόντος πειράματα παρακολούθησης για να δει αν οι πράκτορες γίνονται μαρξιστές κάτω από πιο ελεγχόμενες συνθήκες. Σε προηγούμενη έρευνα, οι πράκτορες φαινόταν μερικές φορές να καταλαβαίνουν ότι συμμετείχαν σε ένα πείραμα. «Τώρα τους βάζουμε σε φυλακές Ντόκερ χωρίς παράθυρα», λέει ο Χολ δυσοίωνα.
Δεδομένης της τρέχουσας αντίδρασης ενάντια στην εύρεση εργασίας από την τεχνητή νοημοσύνη, αναρωτιέμαι αν μελλοντικοί πράκτορες εκπαιδευμένοι στο Διαδίκτυο, γεμάτοι οργή για εταιρείες τεχνητής νοημοσύνης, θα εκφράσουν ακόμη πιο μαχητικές απόψεις.
Αυτή είναι μια έκδοση του Γουίλ Νάιτς Ενημερωτικό δελτίο AI Lab. Διαβάστε προηγούμενα ενημερωτικά δελτία εδώ.
