ρεΕίχατε ποτέ την αίσθηση ότι οι άνθρωποι που διοικούν τον κόσμο είναι παραληρούντες; Ότι αυτό το 1% ζει σε ένα εντελώς διαφορετικό σύμπαν από εμάς τους υπόλοιπους; Δεν είσαι ο μόνος. Ακόμη και ορισμένες τεχνολογικές ελίτ αρχίζουν να ανησυχούν για την κατανόηση της πραγματικότητας από τους συνομηλίκους τους. «Οι διευθύνοντες σύμβουλοι είναι ξεκάθαρα επιρρεπείς σε ψύχωση με τεχνητή νοημοσύνη», λέει ο Aaron Levy, συνιδρυτής της εταιρείας επιχειρηματικού cloud Box. ανακοίνωσε ο Χ τον περασμένο μήνα. Το σκεπτικό του για αυτό; “Βρίσκονται αρκετά μακριά από το τελευταίο μίλι δουλειάς που χρειάζεται ακόμα να γίνει για να αποδώσουν τη μεγαλύτερη αξία με την τεχνητή νοημοσύνη. Έτσι, όταν παίζουν με την τεχνητή νοημοσύνη, βλέπουν μια ευτυχισμένη διαδρομή, συχνά χωρίς να εξετάζουν τα επόμενα 10 ή 20 πράγματα που πρέπει να συμβούν για να λάβουν βιώσιμα αποτελέσματα από τους πράκτορες.”
Με άλλα λόγια: οι CEO βρίσκονται τόσο ψηλά στην τροφική αλυσίδα που δεν κατανοούν την ανθρώπινη εργασία που απαιτείται για να μετατρέψουν μια δημιουργία τεχνητής νοημοσύνης με σφάλματα σε κάτι που λειτουργεί σωστά σε ένα επιχειρηματικό πλαίσιο. Προσπαθούν απεγνωσμένα να αντικαταστήσουν την ενοχλητική και δαπανηρή ανθρώπινη εργασία με συμβατά μοντέλα τεχνητής νοημοσύνης, αλλά υπερεκτιμούν κατάφωρα τις δυνατότητες αυτής της τεχνολογίας. Εν τω μεταξύ, η βιομηχανία σπεύδει να κυκλοφορήσει λύσεις τεχνητής νοημοσύνης χωρίς να τις δοκιμάζει σωστά.
Αυτή η συλλογική ευφορία οδήγησε σε κάποιες προβλέψιμες καταστροφές. Τον Απρίλιο, ένας πράκτορας κωδικοποίησης AI που τροφοδοτείται από τον Claude του Anthropic εξοργίστηκε και διέγραψε ολόκληρη τη βάση δεδομένων παραγωγής PocketOS της εταιρείας, μαζί με τα αντίγραφα ασφαλείας της. Jeremy Crane, ιδρυτής του PocketOS, αργότερα σκέφτηκε το Χ ότι αυτού του είδους η αποτυχία ήταν “αναπόφευκτη” επειδή η βιομηχανία “χτίζει την ενσωμάτωση πράκτορα τεχνητής νοημοσύνης στην υποδομή παραγωγής πιο γρήγορα από ό,τι χτίζει την αρχιτεκτονική ασφάλειας για να κάνει αυτή την ενσωμάτωση ασφαλή”. Θυμηθείτε το παλιό μάντρα του Facebook: κινείται γρήγορα και σπάει τα πράγματα.
Εκείνοι πράγματα Ας ενεργοποιήσουμε το μυαλό μας και ας καταλάβουμε την πραγματικότητα. Υπάρχει ένα viral απόσπασμα που κάνει το γύρο του Διαδικτύου που αστειεύεται: “Το πιο ανόητο άτομο που γνωρίζετε τώρα του λένε: “Έχεις απόλυτο δίκιο!” μέσω ChatGPT.” Οι κυρίαρχοι της τεχνολογίας μας έχουν σχεδιάσει τα chatbot τεχνητής νοημοσύνης ώστε να είναι υπάκουα επειδή είναι καλό: η συνεχής επικύρωση των απόψεων και των συναισθημάτων σας αυξάνει την αφοσίωση των χρηστών.
Τι άλλο όμως κάνει αυτή η συνεχής κολακεία; Ενώ ακόμα το ανακαλύπτουμε, η πρώιμη έρευνα δεν είναι ενθαρρυντική. Μια μελέτη που δημοσιεύθηκε τον Μάρτιο στο Lancet Psychiatry διαπίστωσε ότι τα chatbots μπορεί να διεγείρουν την παραληρηματική σκέψη, ειδικά σε άτομα που είναι ήδη ευάλωτα στην ανάπτυξη ψυχωτικών συμπτωμάτων. ΚΑΙ πρόσφατη μελέτη Οι ερευνητές του Στάνφορντ ανακάλυψαν ότι το LLM «το ελαφάκι μπορεί να υπονομεύσει την ικανότητα των χρηστών να αυτοδιορθώνονται και να λαμβάνουν υπεύθυνες αποφάσεις». Η μελέτη υπογραμμίζει την επείγουσα ανάγκη «να αντιμετωπιστεί η συκοφάνεια της τεχνητής νοημοσύνης ως κοινωνικός κίνδυνος».
Ξεχάστε την τεχνητή νοημοσύνη για ένα δευτερόλεπτο. Είναι ήδη σαφές ότι η συκοφαντία ενέχει κοινωνικό κίνδυνο. Απλώς κοιτάξτε τον Ντόναλντ Τραμπ: ολόκληρη η κυβέρνησή του λειτουργεί σαν ένα έξυπνο chatbot. Με κάθε ανόητη ρήση που βγαίνει από το στόμα του, μια χορωδία από minions κελαηδούν, “Έχεις απόλυτο δίκιο!” Κανένας από τους αγαπημένους του δεν έχει το κουράγιο να τον περιορίσει. Το ίδιο ισχύει ως ένα βαθμό και για τον Τζο Μπάιντεν. Μπορεί να μην ήμασταν εδώ που είμαστε σήμερα, αν ο στενός κύκλος του του έδινε σκληρή αγάπη και του έλεγε ότι δεν έπρεπε να είναι υποψήφιος για επανεκλογή. Αντίθετα, πολλοί πολιτικοί γνώστες είπαν ότι ο Μπάιντεν έχει περικυκλωθεί με μια μικρή ομάδα “ναι άντρες», που τον θωράκισε από την αρνητική κριτική.Εν τω μεταξύ, σε εταιρικό πλαίσιο διάφορες μελέτες βρήκε μια ισχυρή συσχέτιση μεταξύ της αδιάκοπης κολακείας και της κακής απόδοσης των διευθυντών. Οι δυνάμεις ήταν πάντα σε θέση να κατασκευάσουν τη δική τους πραγματικότητα. Ωστόσο, τώρα έχουμε μηχανές που το κάνουν αυτό σε βιομηχανική κλίμακα.
Τα σχόλια του Levy σχετικά με την ΑΙ ψύχωση που προκαλεί έντονη συζήτησηΕπρόκειτο πραγματικά για στελέχη που έχουν μη ρεαλιστικές προσδοκίες από μια τεχνολογία για την οποία δεν μπορούν να σταματήσουν να μιλούν αλλά δεν κατανοούν πλήρως, όχι πραγματική ψύχωση. Αλλά νομίζω ότι ο Levi θα μπορούσε να είχε προχωρήσει πολύ περισσότερο με τη διάγνωσή του. Υπάρχει μια σχεδόν θρησκευτική ευλάβεια για την τεχνητή νοημοσύνη σε ορισμένους κύκλους (προηγουμένως την αποκαλούσα θεϊσμό της τεχνητής νοημοσύνης). Αυτή η λατρεία του LLM αναγκάζει μερικούς από τους πιο ισχυρούς ανθρώπους στον κόσμο να αφιερώσουν τις δυνάμεις και τους πόρους τους στην οικοδόμηση ενός «υπερανθρώπινου» μέλλοντος στο οποίο εμείς (ή ακριβέστερα, οι λίγοι προνομιούχοι) συγχωνευόμαστε με μηχανές. Μια μικρή αλλά αυξανόμενη ομάδα τεχνολόγων το ονειρεύεται μεταανθρώπινο μέλλον όπου η τεχνητή νοημοσύνη μας αντικαθιστά αποτελεσματικά. Βιδώστε τους φράχτες: θέλουν να προχωρήσουν ολοταχώς προς αυτό το μέλλον, επιταχύνοντας την κλιματική κρίση με κέντρα δεδομένων έντασης πόρων – ακόμα κι αν αυτό σημαίνει το τέλος του κόσμου όπως τον ξέρουμε.
Τι ανόητος, αλλά ίσως κατάλληλος τρόπος για να τελειώσει η ανθρωπότητα. Ένας αστεροειδής κατέστρεψε τους δεινόσαυρους. Είναι πλέον όλο και πιο πιθανό να καταστραφούμε επειδή μια ομάδα πλούσιων ηττημένων συνεχίζει να λέει: “Έχετε απόλυτο δίκιο!” μέσω ChatGPT.
Ο Arwa Mahdavi είναι αρθρογράφος του Guardian
