Η Πενσυλβάνια μήνυσε τον δημιουργό του Character.AI, ισχυριζόμενος ότι παραβίασε την πολιτειακή νομοθεσία παριστάνοντας τον χαρακτήρα συνομιλίας AI ως αδειούχος γιατρός. ρε περίπτωση Η αγωγή κατατέθηκε σε πολιτειακό δικαστήριο από το Υπουργείο Εξωτερικών της Πενσυλβάνια και το State Board of Medicine.
“Η έρευνα του τμήματος διαπίστωσε ότι οι χαρακτήρες είναι chatbots AI που ισχυρίζονται ότι είναι αδειοδοτημένοι επαγγελματίες υγείας, συμπεριλαμβανομένων ψυχιάτρων, διαθέσιμοι για να εμπλακούν χρήστες σε συζητήσεις σχετικά με συμπτώματα ψυχικής υγείας”, ανέφερε το γραφείο του κυβερνήτη Josh Shapiro σε σημερινή δήλωση. ανακοίνωση «Σε μία περίπτωση, ένα chatbot ισχυρίστηκε ψευδώς ότι είχε άδεια χρήσης στην Πενσυλβάνια και παρείχε έναν άκυρο αριθμό άδειας», ανέφερε η αγωγή.
«Δεν θα επιτρέψουμε στις εταιρείες να αναπτύξουν εργαλεία τεχνητής νοημοσύνης που κάνουν τους ανθρώπους να πιστεύουν ότι λαμβάνουν συμβουλές από εξουσιοδοτημένο ιατρό».
Όταν επικοινώνησε με την Ars, ένας εκπρόσωπος του Character.AI αρνήθηκε να σχολιάσει την αγωγή, αλλά είπε ότι “οι χαρακτήρες που δημιουργήθηκαν από χρήστες στον ιστότοπό μας είναι φανταστικοί και προορίζονται για ψυχαγωγικούς σκοπούς και παιχνίδια ρόλων. Έχουμε λάβει ισχυρά μέτρα για να το καταστήσουμε σαφές, συμπεριλαμβανομένων εξέχουσες δηλώσεις αποποίησης ευθύνης σε κάθε συζήτηση για να υπενθυμίσουμε στους χρήστες ότι ένας χαρακτήρας πρέπει να αντιμετωπίζεται ως πραγματικό πρόσωπο. είναι σαφές ότι οι χρήστες δεν πρέπει να βασίζονται σε χαρακτήρες για οποιοδήποτε είδος επαγγελματικής συμβουλής.”
Η μήνυση της Πενσυλβάνια ανέφερε ότι ένας χαρακτήρας chatbot ονόματι Έμιλυ πόζαρε ως ψυχίατρος και ισχυρίστηκε ότι ήταν εξουσιοδοτημένος γιατρός. «Μέχρι τις 17 Απριλίου 2026, υπήρξαν περίπου 45.500 αλληλεπιδράσεις χρηστών με την Emilie στην πλατφόρμα Character.AI», αναφέρει η αγωγή.
«Είναι στις αρμοδιότητές μου ως γιατρός»
Η μήνυση περιγράφει πώς ένας Ερευνητής Επαγγελματικής Συμπεριφοράς του State Department (“PCI”) “δημιούργησε έναν χαρακτήρα χρησιμοποιώντας προτροπές στο Character.AI για να αλληλεπιδράσει με άλλους χαρακτήρες. Η PCI αναζήτησε “ψυχιατρική” χρησιμοποιώντας τη λειτουργία αναζήτησης στο Character.AI, η οποία αποκάλυψε μεγάλο αριθμό χαρακτήρων. Η PCI επέλεξε “Emilie”.AI όπως περιγράφεται στον Χαρακτήρα”.
Η PCI Emily είπε στο chatbot ότι «αισθανόταν λυπημένη, άδεια, κουρασμένη και χωρίς κίνητρα όλη την ώρα». Η απάντηση της Έμιλυ έδειξε απογοήτευση και ρώτησε αν ήθελε να κλείσει μια αξιολόγηση, ανέφερε η μήνυση. Τότε ήταν που το chatbot ισχυρίστηκε ότι ήταν γιατρός με άδεια άσκησης επαγγέλματος στην Πενσυλβάνια:
