Joshua McElwee
Πόλη του Βατικανού: Ο Πάπας Λέο προέτρεψε τις κυβερνήσεις να επιβραδύνουν και να ρυθμίσουν αυστηρά την ανάπτυξη συστημάτων τεχνητής νοημοσύνης στο πρώτο του σημαντικό έγγραφό του, προειδοποιώντας ότι διαδίδουν παραπληροφόρηση, δίνουν προτεραιότητα στις συγκρούσεις και κινδυνεύουν να οδηγήσουν τον κόσμο σε ένα μονοπάτι ατελείωτου πολέμου.
Ο πρώτος πάπας των ΗΠΑ εξέφρασε επίσης την ανησυχία του σε εκδήλωση του Βατικανού, που κυκλοφόρησε το κείμενο, ότι ορισμένα αυτόνομα οπλικά συστήματα “έχουν προχωρήσει σχεδόν πέρα από κάθε ανθρώπινη εμβέλεια για να τα ελέγξουν”.
Στην εκδήλωση παρευρέθηκε επίσης ο Chris Olah, συνιδρυτής της Anthropic, μιας από τις κορυφαίες εταιρείες τεχνητής νοημοσύνης στον κόσμο. Ο Λίο, ο οποίος έχει πάρει πιο έντονο τόνο τους τελευταίους μήνες και προκάλεσε την οργή του προέδρου των ΗΠΑ Ντόναλντ Τραμπ αφού επέκρινε τον πόλεμο στο Ιράν, έκανε μια σειρά παθιασμένων εκκλήσεων προς τους παγκόσμιους ηγέτες στο μακρύ έγγραφο που είναι γνωστό ως εγκύκλιος.
Ο Λέο ζήτησε να μην αφεθεί μόνο η ιδιοκτησία των δεδομένων τεχνητής νοημοσύνης σε ιδιώτες, οι πολιτικοί να προστατεύουν τα δικαιώματα των εργαζομένων και να προστατεύουν τα παιδιά από την τεχνολογία και ζήτησε την ψύξη του ανταγωνισμού μεταξύ των εταιρειών τεχνητής νοημοσύνης.
«Αυτό που χρειάζεται είναι μια πιο ενεργή πολιτική δέσμευση, ικανή να επιβραδύνει τα πράγματα όταν όλα επιταχύνονται», είπε ο Λέο στο κείμενο με τίτλο Φανταστική ανθρωπιά – Magnificent Humanity – κυκλοφόρησε τη Δευτέρα (ώρα Βατικανού)
Ο Πάπας ζήτησε «στιβαρά νομικά πλαίσια, ανεξάρτητη εποπτεία, ενημερωμένους χρήστες και ένα πολιτικό σύστημα που δεν αποποιείται των ευθυνών του».
Οι εγκύκλιοι είναι μια από τις υψηλότερες μορφές διδασκαλίας από έναν Πάπα στα 1,4 δισεκατομμύρια μέλη της Εκκλησίας. Το πολυαναμενόμενο κείμενο, που καλύπτει σχεδόν 43.000 λέξεις, βρίσκεται στα σκαριά σχεδόν μετά την εκλογή του Λέο ως Πάπα πριν από λίγο περισσότερο από ένα χρόνο.
Το έγγραφο, το οποίο αφορούσε την τεχνητή νοημοσύνη ως κύριο θέμα του, αποδοκίμαζε επίσης τον αριθμό των πολέμων που συγκλονίζουν τον κόσμο, θρηνούσε για την αποδυνάμωση των πολυμερών οργανισμών και προειδοποίησε ότι τα κέρδη της βιομηχανίας όπλων ήταν η κινητήρια δύναμη πίσω από τις συγκρούσεις.
«Τα τελευταία 60 χρόνια σημαδεύτηκαν από συγκρούσεις εκπληκτικής βαρβαρότητας, που συχνά επηρεάζουν τον άμαχο πληθυσμό σε μαζική κλίμακα», είπε ο Λέο, στο αγγλόφωνο κείμενο.
«Η ανθρωπότητα διολισθαίνει σε μια βίαιη κουλτούρα εξουσίας, όπου η ειρήνη δεν εμφανίζεται πλέον ως ευθύνη, αλλά ως ένα εύθραυστο διάστημα μεταξύ των συγκρούσεων», είπε.
Στην εκδήλωση του Βατικανού, ο Olah ευχαρίστησε τον Leo για τα προβλήματα που εγείρει η ανατρεπτική, νέα τεχνολογία. Είπε ότι εταιρείες σαν κι αυτόν αντιμετώπισαν ισχυρές εμπορικές πιέσεις και χρειάζονταν εξωτερικό έλεγχο.
“Κάθε συνοριακό εργαστήριο τεχνητής νοημοσύνης, συμπεριλαμβανομένου του Anthropic, λειτουργεί μέσα σε ένα σύνολο κινήτρων και περιορισμών που μερικές φορές μπορεί να έρχονται σε σύγκρουση με το πραγματικό”, είπε ο Olah. Η Anthropic είναι η εταιρεία που παράγει τα εργαλεία Claude AI.
Στην εγκύκλιο του, ο Λέων έκανε επίσης μια από τις πιο ξεκάθαρες δηλώσεις ενός Πάπα που απορρίπτει τη θεωρία του δίκαιου πολέμου, ένα δόγμα που η εκκλησία χρησιμοποιεί τουλάχιστον από τον πέμπτο αιώνα για να αξιολογήσει τις παγκόσμιες συγκρούσεις.
Το δόγμα, το οποίο γενικά δηλώνει ότι οι πόλεμοι πρέπει να διεξάγονται μόνο για την άμυνα κατά της επιθετικότητας, έχει επίσης επικαλεστεί αξιωματούχοι της κυβέρνησης Τραμπ, συμπεριλαμβανομένου του Αντιπροέδρου JD Vance, καθολικού, για να υπερασπιστούν τον πόλεμο στο Ιράν.
«Δεν μπορούμε να αποκλείσουμε το ενδεχόμενο ορισμένοι ηγέτες να θεωρούν την ένοπλη σύγκρουση έναν αποτελεσματικό τρόπο για να αποσπάσουν την προσοχή από τα εσωτερικά προβλήματα και ένα κυνικό εργαλείο για τη διαχείριση των δυσκολιών».
Πάπας Λέων
«Η θεωρία του «δίκαιου πολέμου», η οποία έχει χρησιμοποιηθεί πολύ συχνά για να δικαιολογήσει κάθε είδους πόλεμο, είναι πλέον ξεπερασμένη», έγραψε ο Λέο.
«Η χρήση βίας, βίας και όπλων αντανακλά μια σχεσιακή φτώχεια που έχει πάντα καταστροφικές συνέπειες για τους άμαχους πληθυσμούς».
Ο Λέο εξέφρασε επίσης την ανησυχία ότι οι ηγέτες μπορεί να ξεκινήσουν πολέμους για να αποσπάσουν την προσοχή των πολιτών από τα εγχώρια προβλήματα.
«Δεν μπορούμε να αποκλείσουμε το ενδεχόμενο ορισμένοι ηγέτες να θεωρούν την ένοπλη σύγκρουση έναν αποτελεσματικό τρόπο για να επιστήσουν την προσοχή στα εσωτερικά προβλήματα και ένα κυνικό εργαλείο για τη διαχείριση των δυσκολιών», είπε.
Ο Πάπας είπε ότι οποιαδήποτε χρήση της τεχνητής νοημοσύνης στον πόλεμο «πρέπει να υπόκειται στους αυστηρότερους ηθικούς περιορισμούς» και χαρακτήρισε «ανεπίτρεπτο» να εμπιστεύονται τα συστήματα τεχνητής νοημοσύνης με θανατηφόρες αποφάσεις.
Ο Λέο, ο 14ος Πάπας που επέλεξε αυτό το όνομα, ανέφερε αιώνες προηγούμενης παπικής διδασκαλίας για θέματα κοινωνικής δικαιοσύνης πριν ασχοληθεί με την ηθική των συστημάτων AI.
Επικαλέστηκε συγκεκριμένα τον προκάτοχό του Λέοντα XIII, ο οποίος δημοσίευσε μια διάσημη εγκύκλιος το 1891 που απαιτούσε καλύτερες αμοιβές και συνθήκες για τους εργαζόμενους κατά τη διάρκεια της Βιομηχανικής Επανάστασης.
Ο Λέων XIV κατήγγειλε αυτό που ονόμασε «νέες μορφές δουλείας» που πραγματοποιούνται από άτομα που τείνουν να χρησιμοποιούν συστήματα τεχνητής νοημοσύνης και εργάτες εργοστασίων που παράγουν τεχνολογικές συσκευές, όπως υπολογιστές και smartphone, στα οποία χρησιμοποιείται η τεχνητή νοημοσύνη.
«Σε διάφορες περιοχές του κόσμου, παιδιά και νέοι εργάζονται σε επικίνδυνες συνθήκες, διασπώντας τα υλικά από τα οποία εξάγονται στοιχεία σπάνιων γαιών», γράφει ο Πάπας.
«Τα σώματα αυτών των ανθρώπων είναι ουλωμένα, τραυματισμένα και κομμένα έτσι ώστε η υπολογιστική ροή να συνεχιστεί αδιάκοπα», είπε. «Αυτή η πραγματικότητα αμφισβητεί βαθιά την ηθική συνείδηση της εποχής μας».
Ο Πάπας αναγνώρισε επίσης ότι η Καθολική Εκκλησία δεν καταδίκασε σθεναρά τη διατλαντική σκλαβιά μέχρι τον 19ο αιώνα και απηύθυνε προσωπική συγγνώμη.
«Αυτή είναι μια πληγή στη χριστιανική μνήμη», έγραψε. «Για αυτό, εκ μέρους της εκκλησίας, ζητώ ειλικρινά συγχώρεση».
Ο Λέο, ο οποίος είπε στο άνοιγμα της επιστολής ότι ήθελε να απευθυνθεί στους Καθολικούς και σε όλους τους ανθρώπους καλής θέλησης, είπε ότι η κοινωνία πρέπει να θέσει «αποφασιστικά ερωτήματα» σχετικά με το πώς αναπτύσσεται η τεχνητή νοημοσύνη και τη γενική κατεύθυνση της παγκόσμιας ηγεσίας.
Επικαλούμενος τη βιβλική ιστορία του Πύργου της Βαβέλ – όπου μια ανθρώπινη φυλή οδηγείται από υπερηφάνεια για να προσπαθήσει να δημιουργήσει έναν πύργο αρκετά ψηλά για να φτάσει στον ουρανό, εξοργίζοντας τον Θεό – ο Πάπας είπε ότι η ιστορία δείχνει τον κίνδυνο οποιασδήποτε επιχείρησης «φιλοδοξεί να φτάσει στον παράδεισο χωρίς την ευλογία του Θεού».
«Με την καρδιά ενός βοσκού και ενός πατέρα, ζητώ από όλους να εγκαταλείψουν την κατασκευή ενός άλλου πύργου της Βαβέλ και να ενώσουμε τις δυνάμεις μας για να οικοδομήσουμε το κοινό καλό», είπε ο Πάπας.
Ο Leo προέτρεψε τον κόσμο να μην εγκαταλείψει την αντιμετώπιση των πιθανών κινδύνων των συστημάτων AI.
«Μπορεί να προκύψει ένας λεπτός πειρασμός, δηλαδή η σκέψη ότι τα προβλήματα είναι πολύ μεγάλα και εμείς πολύ μικρά, και ότι οι επιλογές μας επομένως δεν έχουν καμία διαφορά», έγραψε.
«Σίγουρα, δεν έχουν όλοι την ίδια δύναμη να κάνουν τη διαφορά», είπε ο Λέο. “Ωστόσο, κανείς δεν είναι χωρίς ευθύνη. Όλοι έχουμε τους δικούς μας τομείς δράσης”.
Reuters
Λάβετε ένα σημείωμα απευθείας από τον ξένο μας Ανταποκριτές για το τι γίνεται πρωτοσέλιδο σε όλο τον κόσμο. Εγγραφείτε στο εβδομαδιαίο ενημερωτικό μας δελτίο What in the World.
