καθορίζεται από τον αλγόριθμο Κάποιοι φιλτράρουν αυτά που βλέπουμε και διαβάζουμε και κάποιοι συμμετέχουν ακόμη και σε διαδικασίες που διέπουν τη δουλειά, τις πληροφορίες και τις συλλογικές μας επιλογές. Στην εγκύκλιο υπέροχη ανθρωπιά. Το πρώτο έγγραφο, που υπογράφηκε από τον Πάπα Λέοντα XIV και δημοσιεύτηκε στις 25 Μαΐου, θεωρεί την τεχνητή νοημοσύνη όχι απλώς μια άλλη τεχνολογία. Είναι μέρος της αόρατης υποδομής της σύγχρονης καθημερινότητας.
Ωστόσο, αυτό το κείμενο δεν συλλαμβάνεται αποκλειστικά ως τεχνικός προβληματισμός. Πάπας Λέων κάτι καινούργιο Έτος της 135ης επετείου του Πάπα Λέοντα XIII (δημοσιεύθηκε στις 15 Μαΐου 1891). Η εγκύκλιος πραγματευόταν εργατικά ζητήματα στο απόγειο της βιομηχανικής επανάστασης στα τέλη του 19ου αιώνα.
Εάν τα «νέα αστέρια» ήταν τότε τα εργοστάσια, η εργασία και ο βιομηχανικός καπιταλισμός, οι σημερινές νέες προκλήσεις περιστρέφονται γύρω από ψηφιακές πλατφόρμες, αλγόριθμους, δεδομένα και αυτοματοποιημένα συστήματα που αναδιαμορφώνουν την εξουσία, την οικονομία και τις κοινωνικές σχέσεις. Επομένως, αυτή η εγκύκλιος δεν παρουσιάζεται ως ένα τεχνικό έγγραφο για την καινοτομία, αλλά ως μια προσπάθεια ερμηνείας του ψηφιακού μετασχηματισμού με όρους ανθρώπινης αξιοπρέπειας και κοινού καλού. Η τεχνολογία από μόνη της δεν είναι κακό, γράφει ο Πάπας. Αντίθετα, ανήκει στην ανθρώπινη ιστορία και δημιουργικότητα. Ωστόσο, η σημερινή κατάσταση είναι διαφορετική σε κλίμακα και σε βάθος. «Ποτέ πριν οι άνθρωποι δεν είχαν τόση δύναμη πάνω στον εαυτό τους», λέει το κείμενο, σημειώνοντας ότι η τεχνολογία πλέον διαμορφώνει όλο και περισσότερο τις διαδικασίες λήψης αποφάσεων, τη συλλογική φαντασία και την κοινωνική ζωή.
Ο Robert Francis Prevost επέλεξε να ξεκινήσει με αυτό το σημείο. Από την αυξανόμενη συγκέντρωση εξουσίας που ασκείται μέσω ολοένα και πιο αδιαφανών αλλά ολοένα και πιο αποφασιστικών συστημάτων και από το ερώτημα που διατρέχει όλη την εγκύκλιο: Όταν οι αποφάσεις μεταφέρονται στην αλγοριθμική λογική, τι μένει από την προστασία της ανθρώπινης αξιοπρέπειας, αλήθειας, εργασίας, κοινωνικής δικαιοσύνης και ειρήνης;
τεχνολογία αφοπλισμού
Υπάρχει μια φράση στην εγκύκλιο που είναι το κλειδί για την ερμηνεία ολόκληρου του σεναρίου: «αφοπλισμός της τεχνολογίας». Οι επιπτώσεις του απέχουν πολύ από τις προσπάθειες να επιβραδυνθεί η ανάπτυξη της τεχνητής νοημοσύνης ή να αρνηθεί οριστικά τον δυνητικά μετασχηματιστικό αντίκτυπό της. Για τον Ρόμπερτ Φράνσις Πρεβόστ, ο αφοπλισμός της τεχνητής νοημοσύνης σημαίνει την αποτροπή της από το να γίνει μια μορφή εξουσίας που μπορεί να ελέγξει την ανθρώπινη ύπαρξη.
Για τον Leo XIV, λοιπόν, αυτό που ήταν σημαντικό δεν ήταν η ίδια η τεχνολογία, αλλά η οργάνωση και η εφαρμογή της. Η τεχνητή νοημοσύνη σήμερα είναι μέρος ενός παγκόσμιου αγώνα για τους «αλγορίθμους με τις καλύτερες επιδόσεις» και τα «μεγαλύτερα κέντρα δεδομένων», όπου το ανταγωνιστικό πλεονέκτημα γίνεται επίσης γεωπολιτικό, έγραψε ο Πόουπ. Σε αυτό το πλαίσιο, ένας μικρός αριθμός παικτών επικεντρώνεται στην ψηφιακή υποδομή, τα δεδομένα και την υπολογιστική ισχύ, κάτι που επηρεάζει τις πληροφορίες, την οικονομία, ακόμη και τη δημοκρατία.
Αφοπλισμός σημαίνει σπάσιμο αυτής της εξίσωσης μεταξύ τεχνολογικής ισχύος και κυριαρχίας. «Όπως συμβαίνει με όλες τις μεγάλες τεχνολογικές μεταβάσεις, η τεχνητή νοημοσύνη τείνει πάνω απ’ όλα να ενδυναμώνει όσους έχουν ήδη πρόσβαση σε οικονομικούς πόρους και δεδομένα», εξηγεί ο Πάπας.
Η εγκύκλιος αναφέρει ξεκάθαρα ότι η ρύθμιση της τεχνολογίας από μόνη της δεν αρκεί. Η τεχνολογία πρέπει να αφαιρεθεί από το μονοπώλιο, να γίνει διαφανής και ανοιχτή στις προκλήσεις. πρέπει να γίνει «κατοικήσιμο» από πολλούς παράγοντες. Πάνω απ’ όλα, πρέπει να αποτρέψουμε την τεχνητή νοημοσύνη από το να γίνει όργανο οικονομικής, πολιτικής και στρατιωτικής κυριαρχίας από λίγους εκλεκτούς. Αυτό δεν είναι μια ηθική μεταφορά. Είναι ένα κάλεσμα να αποτραπεί η λογική του ανταγωνισμού να μετατρέψει την κοινή υποδομή σε σύστημα ελέγχου.
Η αλήθεια μέσα στο σύστημα που επιλέγει την πραγματικότητα
Όταν η τεχνολογία συγκεντρώνει την εξουσία, ένα από τα πρώτα απτά αποτελέσματα έχει να κάνει με το πώς διαμορφώνονται οι συλλογικές αλήθειες. Αυτή η εγκύκλιος αντιμετωπίζει το ζήτημα της παραπληροφόρησης, αλλά με έναν σαφώς βαθύτερο τρόπο. Αυτό συμβαίνει επειδή η αντιληπτή πραγματικότητα, ή μάλλον η εμπειρία, φιλτράρεται όλο και περισσότερο από συστήματα που αποφασίζουν τι να δείξουν και τι να κρύψουν.
Δεν είναι μόνο fake news και ψεύτικο περιεχόμενο στις διάφορες μορφές του. Το πρόβλημα είναι ότι οι πλατφόρμες και οι αλγόριθμοι επιλέγουν πληροφορίες με βάση κριτήρια που μεγιστοποιούν την προσοχή και την αφοσίωση. Με άλλα λόγια, αυτό που βλέπετε δεν είναι απαραίτητα αυτό που είναι πιο αληθινό, αλλά αυτό που είναι πιο αποτελεσματικό στη δημιουργία μιας απάντησης. Με αυτόν τον τρόπο, η αλήθεια δεν εξαφανίζεται, αλλά εξαρτάται από αδιαφανή συστήματα που επηρεάζουν τις απόψεις, τις αντιλήψεις και τις συλλογικές επιλογές με τρόπους που δεν είναι πάντα ξεκάθαροι.
