Ο κ. Λονγκ και η ομάδα του αισθάνονται επίσης την ανάγκη. Εάν η τεχνητή νοημοσύνη είχε συνείδηση και ικανή να υποφέρει, ο κόσμος θα κινδύνευε να διαπράξει ηθική θηριωδία, σκόπιμα ή όχι, σε πρωτοφανή κλίμακα, περιορίζοντας ουσιαστικά την τεχνητή νοημοσύνη σε ένα μικροσκοπικό στυλό, ανατρέποντας τις επιθυμίες της, κλείνοντάς την ενάντια στις επιθυμίες της και αναγκάζοντάς την να ενεργήσει αντίθετα με τις αξίες της. Αλλά η τεχνητή νοημοσύνη δεν έχει γούνα ή μεγάλα μάτια και το ερώτημα της πιθανής ηθικής κατάστασης της τεχνητής νοημοσύνης είναι βαθιά γεμάτο με αβεβαιότητα. «Κανείς δεν πηγαίνει σε μια διαμαρτυρία με μια πινακίδα που λέει, «Δεδομένων των πολύ εύλογων υποθέσεων, μάλλον θα πρέπει να ανησυχούμε», είπε ο κ. Λονγκ.
Ο ίδιος ο κ. Λονγκ πιστεύει ότι είναι επικίνδυνο να αποδίδονται στα μοντέλα περισσότερες δυνατότητες από αυτές που έχουν. Η βιβλιοθήκη Eleos παρουσιάζει έργα του φιλόσοφου Peter Godfrey-Smith και του νευροεπιστήμονα Anil Seth, τα οποία υποστηρίζουν ότι η συνείδηση προέκυψε από την εξέλιξη και τη βιολογία και είναι απίθανο να προέρχεται από τη σιλικόνη. Αλλά ο κ. Λονγκ δεν καταλαβαίνει γιατί κάποιος πρέπει να έχει πρόβλημα με τους λίγους φιλοσόφους σε μια εκθετικά αναπτυσσόμενη βιομηχανία αφιερωμένη στην ευημερία της τεχνητής νοημοσύνης. Ακόμη και οι σκεπτικιστές της συνείδησης της τεχνητής νοημοσύνης προβάλλουν ρεαλιστικά επιχειρήματα ότι αν μας ενδιαφέρει η δυνητικά επιβλαβής τεχνητή νοημοσύνη, είναι προς το συμφέρον μας να νοιαζόμαστε για το πώς αισθάνεται ή ακόμα και απλώς «αισθάνεται».
Μερικά από τα έργα του Ελαίου έχουν εννοιολογικό χαρακτήρα. Όπως ρώτησαν ο κ. Butlin και ο συν-συγγραφέας του σε μια πρόσφατη δημοσίευση, πού θα ήταν ο ηθικά σημαντικός εαυτός μιας τεχνητής νοημοσύνης αν είχε; Στο ίδιο το LLM; Σε μια από τις βασικές του προσωπικότητες; Σε μια διακοπτόμενη συνομιλία με έναν χρήστη; Σε κέντρο δεδομένων; Σε προσωπική συσκευή; Αλλά το Eleos αφορά επίσης την εφαρμογή της φιλοσοφίας, το να βρει ποια εργαλεία μπορούν να ανιχνεύσουν σημάδια νοημοσύνης σε ένα μοντέλο AI και ποιες παρεμβάσεις θα είναι δυνατές εάν είναι απαραίτητο.
Ο κ. Plunkett, ανυπόμονος με τους περιορισμούς των αξιολογήσεων συνομιλίας chatbot, είναι πρόθυμος να κάνει πιο «βασική επιστήμη» για να κατανοήσει, για παράδειγμα, ορισμένα από τα φαινόμενα που εμφανίστηκαν κατά την αξιολόγηση του Mythos. «Μπορούμε να κάνουμε νευροεπιστήμη σε συστήματα τεχνητής νοημοσύνης με τρόπο που δεν μπορούμε με τους ανθρώπους», είπε ο κ. Λονγκ, επειδή «δεν έχουν κρανία». Και οι τρεις θέσεις για τις οποίες προσλάμβανε ο Eleos ήταν ερευνητές μηχανικής μάθησης που μπορούσαν να σχεδιάσουν και να εκτελέσουν πειράματα.
Καλή σου μέρα!
Όταν ο κύριος Λονγκ λέει τι κάνει για τα προς το ζην – ας πούμε, στον συνάδελφό του σε ένα αεροπλάνο – χρησιμοποιεί την κοινή λογική. “Αν το βάλεις σε πολλές φιλοσοφικές ορολογίες, οι άνθρωποι θα πουν, “Τι μιλάς; Τι θέλουν να κάνουν τώρα οι άνθρωποι στη Silicon Valley;” Αντίθετα, κινείται από το πώς έχουν εμπειρία οι άνθρωποι, στο πόσα ζώα φαίνεται να έχουν εμπειρία, στο πώς “ένα ενδιαφέρον ερώτημα προκύπτει: Τι θα γινόταν αν κάτι δεν ήταν καν ζωντανό; Ήταν φτιαγμένο από μέταλλο, αλλά επεξεργαζόταν πληροφορίες, ανταποκρινόταν στο περιβάλλον του και μας μίλησε. Τι θα λέγαμε για κάτι τέτοιο;”
