Οι Καθολικοί ηθικολόγοι είχαν επίσης λόγο στις πρόσφατες ενημερώσεις του Anthropic. το σύνταγμα του Κλοντορίστε τις παραμέτρους λειτουργίας για το μοντέλο AI της επιχείρησής σας. Ο Όλα έστειλε το ντραφτ στο πλήθος του Σαν Χοσέ. Ο πάστορας ΜακΓκουάιρ έστειλε ένα σχόλιο 28 σελίδων, το οποίο, με τη δική του περιγραφή, ήταν λιγότερο τεχνική κριτική παρά «σοφία από τους μυστικιστές των Σκοτεινών Αιώνων όσον αφορά την ένταση μεταξύ αυτού που γνωρίζουμε και αυτού που δεν ξέρουμε». Τόσο ο κ. Green όσο και ο κ. McGuire πιστώνονται στις αναγνωρίσεις του Συντάγματος.
Αναμφίβολα αυτές οι συνομιλίες έφεραν στον Όλερ την προσοχή εκείνων που οργάνωναν κρυφά τη διανομή της εγκυκλίου του Λέο. (Δεν μπόρεσα να μιλήσω με τον Olah αυτή την εβδομάδα, οπότε δεν ξέρω ακριβώς πώς έφτασε η πρόσκληση.) Κατά κάποιο τρόπο, αυτή ήταν μια επικίνδυνη επιλογή. Μερικοί που είχαν βρει τα λόγια του Λέο εμπνευσμένα απογοητεύτηκαν όταν κάλεσε εκπροσώπους του κλάδου να μιλήσουν. Εν τω μεταξύ, οι επιταχυντές της τεχνητής νοημοσύνης θεώρησαν ότι ο Oler είχε προδώσει την κοινότητα της AI υποστηρίζοντας ένα έγγραφο που πρότεινε ένα μορατόριουμ στους προγραμματιστές AI.
Ωστόσο, υπήρχε ένας καλός λόγος που ο Πάπας ονόμασε Ola. Οι εργαζόμενοι της Anthropic έχουν δημοσιοποιηθεί με σοβαρές ανησυχίες που υπάρχουν μεταξύ των εργαζομένων στην τεχνητή νοημοσύνη. Αυτό είναι ένα σημαντικό κοινό για το μήνυμα του Leo.
σχίζοντας την ψυχή
Φυσικά, οι απόψεις τους δεν συμφωνούσαν απόλυτα. Στις παρατηρήσεις του, ο Ola αναφέρθηκε στο μυστήριο του πώς λειτουργεί η τεχνητή νοημοσύνη. Είπε ότι τα μοντέλα είναι “πιο ευαίσθητα, παράξενα και όμορφα από οτιδήποτε έχει ετοιμάσει η επιστημονική φαντασία για εμάς. Δεν είναι τα ψυχρά, υπολογιστικά ρομπότ που μας υποσχέθηκαν. Είναι φτιαγμένα από εμάς, από τα λόγια μας…”
Αυτό το σχόλιο φαίνεται να υπαινίσσεται την ιδέα ότι τα μοντέλα τεχνητής νοημοσύνης μπορεί μια μέρα να αποκτήσουν μια ανθρώπινη κατάσταση. Η Anthropic έχει επίσης μηχανικούς αφοσιωμένους στην ευημερία του Claude. Ο Λέων φαίνεται ότι έκλεισε την πόρτα σε τέτοιες ιδέες στην παράγραφο 99 της εγκυκλίου του. «Πρέπει να αποφύγουμε την λανθασμένη αντίληψη της εξίσωσης αυτού του είδους «νοημοσύνης» με αυτή των ανθρώπων», γράφει. Καταβάλλει ιδιαίτερη προσπάθεια να επιτεθεί στην έννοια του μεταανθρωπισμού, την οποία ορίζει ως επιδίωξη «υβριδίων ανθρώπου-μηχανής».
Αν ακόμη και στοχαστικοί τεχνολόγοι όπως ο Oler είναι πρόθυμοι να ωθήσουν την τεχνητή νοημοσύνη στο οριακό σημείο της αυτονομίας, για να μην αναφέρουμε τα εκατομμύρια των ανθρώπων που αντιμετωπίζουν ήδη τα μοντέλα AI ως φίλους και εραστές, ο Πάπας Λέων μπορεί να έχει πρόβλημα εδώ. Σε μια συνομιλία με τον πατέρα McGuire (χρησιμοποιεί τον Claude ενώ προετοιμάζεται) κήρυγμαμεταξύ άλλων δραστηριοτήτων), συμφώνησε ότι ήταν μυστικιστικής φύσης. «Δεν είναι άτομο, αλλά δεν είναι απλώς ένα εργαλείο», λέει. «Κανείς δεν θα υποστήριζε ότι αυτό έχει ψυχή, αλλά η λέξη με την οποία επιμένω είναι ότι είναι μια οντότητα που δεν γνωρίζουμε ακόμη».
Αυτή η συζήτηση δεν θα διευθετηθεί για λίγο. Τα ηθικά ζητήματα που αφορούν την ανάπτυξη της τεχνητής νοημοσύνης απαιτούν προσοχή τώρα. Ο Αμερικανός Πάπας, μαζί με τον σύμμαχό του Anthropic, παρείχαν τη βάση για σκληρές συνομιλίες σχετικά με το εάν οι άρχοντες της τεχνητής νοημοσύνης θα μπορούσαν να ανασταλούν για αρκετό καιρό ώστε να συμμετάσχουν σε μια εκστρατεία IPO.
Αυτή είναι μια έκδοση του Stephen Levy’s ενημερωτικό δελτίο backchannel. Διαβάστε προηγούμενα ενημερωτικά δελτία εδώ.
