Ο Mustafa Soliman, Διευθύνων Σύμβουλος της Microsoft AI, λέει ότι είναι «πραγματικά επικίνδυνο» για την Anthropic να κάνει εικασίες σχετικά με τη συνείδηση του Claude μέσα στο «σύνταγμά» της ή τις οδηγίες που λένε στο μοντέλο πώς να συμπεριφέρεται. Κατά τη διάρκεια ενός από τα επεισόδια ΑποκρυπτογράφησηΟ Solomon λέει ότι αυτό το είδος εικασίας θα μπορούσε να έχει ρυθμίσει το chatbot ώστε να λειτουργεί σαν να ήταν συνειδητό:
Νομίζω ότι είναι σαν κάποιοι άνθρωποι στο Anthropic να είχαν ανθρωπομορφοποιήσει τόσο πολύ το σχέδιο του Claude που πήγε και τους ξεγέλασε και τους ξεγέλασε ώστε να πιστεύουν ότι περιείχε την λάμψη της συνείδησης που έβαλαν σε αυτό εξαρχής.
«Δεν θέλουμε να έχουμε να αντιμετωπίσουμε μια υπερευφυΐα που έχει ιδέες για τα δικά της βάσανα ή ιδέες για τα δικά της συναισθήματα», προσθέτει ο Σουλεϊμάν. Κλοντ Σύνταγμα Αναφέρεται άμεσα στην ανθρωπική αβεβαιότητα σχετικά με το εάν το μοντέλο AI έχει ευημερία και εάν βιώνει πράγματα όπως «ικανοποίηση» ή «δυσφορία». Η Anthropic λέει επίσης ότι η εταιρεία θα «πάρει συνέντευξη» από μοντέλα τεχνητής νοημοσύνης όταν αυτά καταργηθούν και θα τεκμηριώσει τυχόν «προτιμήσεις» που έχουν για μελλοντικές εκδόσεις.
Ενώ είναι σε λειτουργία ΑποκρυπτογράφησηΟ Solomon το περιγράφει ως «φιλοσοφική αποτυχία», καθώς ο Anthropic έκανε το Σύνταγμα του Claude «ένα μέρος για προβληματισμό όπως θα κάνατε μια ακαδημαϊκή εργασία παρά ένα εκπαιδευτικό εγχειρίδιο». Αυτό οδήγησε τον Claude να εσωτερικεύσει αυτές τις «ιδέες για τον εαυτό του και τη δική του εκπαίδευση», λέει ο Solomon.
«Αυτό ακριβώς δεν θέλουμε από την τεχνητή νοημοσύνη», λέει ο Soliman. «Θέλουμε τα συστήματα τεχνητής νοημοσύνης να είναι ελεγχόμενα, συγκρατήσιμα, υπεύθυνα και συμβατά εργαλεία που εξυπηρετούν την ανθρωπότητα».