ΓΙΑΜε ρωτούν συχνά αν πιστεύω ότι όλα τα μυθιστορήματα του μέλλοντος θα γραφτούν από την τεχνητή νοημοσύνη. Δεν είναι τόσο ερώτηση όσο πρόκληση. Ανησυχώ ότι το μηχάνημα μπορεί να κάνει αυτό που κάνω, μόνο καλύτερα; Συνήθως λέω κάτι σαν: “Κανένας αλγόριθμος δεν μπορεί να γράψει Anna Karenina!” που επίσης δεν είναι πραγματική απάντηση.
Ως εκ τούτου, είμαι ευγνώμων στον Πάπα Λέοντα XIV, τον Αμερικανό Πάπα, για την πρόσφατα δημοσιευμένη επιστολή του προς τον κόσμο, «Magnifica Humanitas: Για την Προστασία του Ανθρώπινου Ατόμου στην Εποχή της Τεχνητής Νοημοσύνης». Είναι μια μεγάλη (περισσότερες από 40.000 λέξεις), έξυπνη και στοχαστική εγκύκλιος στην οποία ο Πάπας αναφέρεται στις χρήσεις και τις κακές χρήσεις της τεχνολογίας που εξελίσσεται γρήγορα. Τώρα, όταν κάποιος ρωτά τη γνώμη μου για την τεχνητή νοημοσύνη, μπορώ να αναφερθώ στην επιστολή του Πάπα, ή τουλάχιστον στο τρίτο κεφάλαιο.
Η εγκύκλιος ξεκινά με μια κατάλληλη βιβλική αναφορά στις τραγικές συνέπειες της κατάρρευσης της ανθρώπινης επικοινωνίας. Η ανθρωπότητα βρίσκεται αντιμέτωπη με μια «κρίσιμη επιλογή: είτε να χτίσει έναν νέο Πύργο της Βαβέλ είτε να χτίσει μια πόλη στην οποία ο Θεός και η ανθρωπότητα θα ζήσουν μαζί. Αυτό που ακολουθεί είναι μια λεπτομερής περιγραφή της εξέλιξης των απόψεων των προκατόχων του Πάπα Λέοντα, των ιδεών του Βατικανού για την εργασία, την εξουσία, την κυβέρνηση, την επιστήμη, την εξουσία και τις ηθικές μας υποχρεώσεις ο ένας στον άλλο. Αναφέρει το έργο που έχει κάνει η εκκλησία για την υπεράσπιση της ανθρώπινης αξιοπρέπειας και ελευθερίας.
Κεφάλαιο Τρίτο, Τεχνολογία και Κυριαρχία. Το μεγαλείο της ανθρωπότητας μέσω της υπόσχεσης της τεχνητής νοημοσύνης ανταποκρίνεται στην υπόσχεση του τίτλου της εγκυκλίου. Σε ένα εύγλωττο (και πιο αναφερόμενο) απόσπασμα που εξηγεί τι είναι η τεχνητή νοημοσύνη. ΔενΟ Πάπας ουσιαστικά ορίζει τι σημαίνει να είσαι άνθρωπος. «Η λεγόμενη τεχνητή νοημοσύνη δεν βιώνει, δεν έχει σώμα, δεν αισθάνεται χαρά ή πόνο, δεν ωριμάζει μέσα από σχέσεις και δεν γνωρίζει εκ των έσω τι είναι αγάπη, δουλειά, φιλία ή ευθύνη». Η τεχνητή νοημοσύνη δεν έχει ηθική συνείδηση και δεν δείχνει καμία κατευθυντήρια ανησυχία για το ευρύτερο ανθρώπινο καλό.
Η επιστολή συνεχίζει λέγοντας το πιο σημαντικό και απαραίτητο για το ποια είναι ίσως η μεγαλύτερη απειλή που θέτει η τεχνητή νοημοσύνη: μπορεί να προγραμματιστεί αποκλειστικά για τη μεγιστοποίηση των κερδών, μια κατάσταση που μπορεί να οδηγήσει μόνο σε ταλαιπωρία για τους πολλούς προς όφελος των λίγων. Ο Πάπας προειδοποιεί κατά της «χειραγώγησης της ιδιωτικής ζωής» και της «κατάχρησης πληροφοριών» και κατά της χρήσης αλγορίθμων για τη διαχείριση της απασχόλησης, τον έλεγχο της πρόσβασης σε δημόσιες υπηρεσίες και τις πιστώσεις και για την ενίσχυση ή την καταστροφή της προσωπικής φήμης.
Η συμπόνια, το έλεος και η συγχώρεση – που δεν βρίσκονται ψηλά στη λίστα προτεραιοτήτων του μηχανήματος – θα καταστούν παρωχημένα. «Οι «απαραίτητες θυσίες» μπορεί να αρχίσουν να δικαιολογούνται, επιβαρύνοντας τους πιο ευάλωτους στην επιδίωξη της υποτιθέμενης βελτιστοποίησης των ειδών». Εάν τα εργαλεία αυτής της νέας εξουσίας τεθούν στα χέρια εκείνων που έχουν ήδη πλούτο και επιρροή, θα χρησιμοποιηθούν για να ενισχύσουν την άνεση, την υγεία και την ευημερία των πλουσιότερων και πιο προνομιούχων πολιτών μας.
Καθώς το μήνυμα πλησιάζει στο τέλος του, ο Πάπας μας καλεί να παραμείνουμε πιστοί στην αλήθεια, να επενδύσουμε στην εκπαίδευση, να αναπτύξουμε σχέσεις, να ζήσουμε με δικαιοσύνη και ειρήνη – να αντιμετωπίσουμε τους τρόπους με τους οποίους οι νέες τεχνολογίες μπορούν να «εκμεταλλευτούν τους πιο ευάλωτους, να δημιουργήσουν νέες μορφές δουλείας και να επωφεληθούν από τις συγκρούσεις». Γίνεται σαφές ότι ο Πάπας δεν καταδικάζει άμεσα την τεχνητή νοημοσύνη, αλλά μάλλον πώς μπορεί να χρησιμοποιηθεί ως εργαλείο πολιτικής καταστολής και ως εγγύηση επιδείνωσης της οικονομικής ανισότητας.
Θεωρητικά, θα μπορούσε κανείς να επικρίνει την εγκύκλιο ότι δεν προχώρησε αρκετά μακριά, επειδή δεν χρησιμοποιεί μια άλλη βιβλική μεταφορά – το χρυσό μοσχάρι – για να στιγματίσει τη χρήση της τεχνητής νοημοσύνης για την εκτίμηση της εξοικονόμησης κόστους έναντι της πνευματικής, ατομικής και κοινωνικής ανάπτυξης. Αλλά αυτό το πλοίο έχει ήδη αποπλεύσει, και ο Λέων XIV – ή οποιοσδήποτε άλλος θρησκευτικός ηγέτης – μπορεί να κάνει για να καταδικάσει τις νέες εξελίξεις ως μια μορφή ειδωλολατρίας του 21ου αιώνα.
Παρόλα αυτά, το όραμα της εγκυκλίου για την ανθρώπινη φύση, το πνεύμα της δικαιοσύνης και της συμπόνιας που πρέπει να κυριαρχεί και η ουσιαστική σημασία των υψηλότερων ηθικών αξιών είναι τελικά τόσο υγιεινό, τόσο θετικό, τόσο γενναιόδωρο και τόσο αναμφισβήτητα ξεκάθαρο για το καθήκον μας να προστατεύουμε τους αδύναμους και τους φτωχούς που είναι δύσκολο να βρούμε λόγο να το απορρίψουμε.
Αλλά αυτό είναι το χειρότερο πράγμα. Προφανώς υπήρξε κάποια αντίδραση από τη Silicon Valley, όπου εφευρέτες και δεξιοτέχνες της τελευταίας τεχνολογίας πρότειναν ότι ο Πάπας δεν ήξερε για τι πράγμα μιλούσε.
Jeremy Nixon, ιδρυτής του AGI House, μιας ομάδας αφιερωμένης στην απόδειξη ότι η τεχνητή νοημοσύνη είναι ουσιαστικά ίση με τον ανθρώπινο εγκέφαλο. αναφέρεται στους New York Times λέγοντας ότι η εκκλησία «δεν έχει σκεφτεί βαθιά το… AI», προσθέτοντας, «Δεν μπορούσαν να έχουν θέση επ’ αυτού γιατί δεν το καταλαβαίνουν». Και φαίνεται να υπάρχει ευρέως διαδεδομένη συμφωνία ότι το τελικό προϊόν της τρέχουσας έρευνας θα είναι, στην πραγματικότητα, ένας νέος Θεός, ή τουλάχιστον ένα πειστικό προσομοιότυπο. Ανησυχώντας για τους κινδύνους του μέλλοντος, η κοινωνία μας επιλέγει να αγνοήσει τις αποδείξεις ότι οι ελλείψεις της τεχνητής νοημοσύνης είναι ήδη εδώ. Η κόρη μιας φίλης της, που ασχολείται με τη διαφήμιση στο κολέγιο, έμαθε πρόσφατα από τον ακαδημαϊκό της σύμβουλο ότι μέχρι να αποφοιτήσει, όλες οι θέσεις εργασίας στη διαφήμιση θα έχουν καλυφθεί από AI.
Εάν οι κύριοι αυτής της νέας τεχνολογίας δεν αποδεχτούν αυτό που ο Πάπας θεωρεί τους κινδύνους και τις ελλείψεις της, θα βρεθούμε πραγματικά σε πολύ σοβαρό πρόβλημα. Το πρόβλημα δεν είναι ότι θα έχουμε ένα ρομπότ που θα γράφει την Άννα Καρένινα. Το πρόβλημα είναι ότι κανείς δεν θα δει την ανάγκη για ένα μυθιστόρημα που να απεικονίζει τόσο εξαίσια τα βάσανα μιας γυναίκας, του μοναδικού ανθρώπου.
Δεν θα είχε νόημα σε ένα τέτοιο βιβλίο εάν αυτή η αφήγηση ενός λάθους που άλλαξε τη ζωή δεν είχε αξιοποιηθεί από έναν προνοητικό αδελφό της τεχνολογίας και δεν είχε χρησιμοποιηθεί για να χρηματοδοτήσει την αγορά ενός μεγαλύτερου και καλύτερου γιοτ, που υποτίθεται ότι διατηρείται από μια μόνιμη κατώτερη τάξη εργαζομένων των οποίων η αξιοπρέπεια -των οποίων οι προηγουμένως πολύτιμες και πολύτιμες θέσεις εργασίας – είχαν λεηλατηθεί από την τεχνητή νοημοσύνη.
-
Η Francine Prowse είναι πρώην πρόεδρος της PEN America και μέλος της Αμερικανικής Ακαδημίας Τεχνών και Γραμμάτων και της Αμερικανικής Ακαδημίας Τεχνών και Επιστημών. Το νέο της μυθιστόρημα, Five Weeks in the Country, κυκλοφόρησε τον Μάιο.
