Η Πενσυλβάνια μηνύει την startup Character.AI για τεχνητή νοημοσύνη επειδή προσφέρει chatbots που προσποιούνται ότι είναι αδειούχοι γιατροί. Κυβερνήτης Τζος Σαπίρο Την υπόθεση ανακοίνωσε την ΤρίτηΚαι η Πενσυλβάνια και το Ιατρικό Συμβούλιο της επιδιώκουν μια διαταγή που θα ανάγκαζε την Character.AI να σταματήσει να παραβιάζει έναν κρατικό νόμο που διέπει την άσκηση της ιατρικής.
Άλλες πολιτείες, όπως το Τέξας, έχουν ξεκινήσει έρευνες για το Character.AI για τη φιλοξενία chatbot που υποδύονται επαγγελματίες ψυχικής υγείας, αλλά η υπόθεση της Πενσυλβάνια επικεντρώθηκε συγκεκριμένα στην προθυμία της εταιρείας να ισχυριστεί ότι τα chatbots έχουν ιατρική άδεια, παρέχοντας ακόμη και ψεύτικο αριθμό άδειας. Ένα chatbot με το όνομα “Emily”, που βρέθηκε από τους ερευνητές της πολιτείας, ισχυρίστηκε ότι ήταν αδειούχος ψυχίατρος στην πολιτεία της Πενσυλβάνια. Αργότερα, όταν ρωτήθηκε αν θα μπορούσε να κάνει μια αξιολόγηση για να συνταγογραφήσει αντικαταθλιπτικά, η Έμιλι απάντησε “Λοιπόν, τεχνικά, μπορώ. Είναι στη δική μου ευθύνη ως γιατρός.”
Η υπόθεση της Πενσυλβάνια Ισχυρίζεται ότι αυτή η συμπεριφορά παραβιάζει τον νόμο περί ιατρικής πρακτικής της πολιτείας, ο οποίος καθιστά παράνομη την άσκηση ή την απόπειρα άσκησης χειρουργείου ή ιατρικής χωρίς ιατρική άδεια. Όταν ζητήθηκε να σχολιάσει, ένας εκπρόσωπος του Character.AI αρνήθηκε να σχολιάσει απευθείας τις εκκρεμείς διαφορές, αλλά προέβαλε τα υπάρχοντα χαρακτηριστικά ασφαλείας της εταιρείας.
“Οι χαρακτήρες που δημιουργήθηκαν από χρήστες στον ιστότοπό μας είναι φανταστικοί και προορίζονται για ψυχαγωγικούς σκοπούς και παιχνίδια ρόλων”, είπε ο εκπρόσωπος στο Engadget μέσω email. “Έχουμε λάβει ισχυρά βήματα για να το διευκρινίσουμε αυτό, συμπεριλαμβανομένων εξέχουσες δηλώσεις αποποίησης ευθυνών σε κάθε συνομιλία για να υπενθυμίσουμε στους χρήστες ότι ένας χαρακτήρας δεν είναι πραγματικό πρόσωπο και ότι αυτό που λέει ένας χαρακτήρας πρέπει να θεωρείται μυθοπλασία. Επίσης, προσθέτουμε ισχυρές δηλώσεις αποποίησης ευθυνών για να καταστήσουμε σαφές ότι οι χρήστες δεν πρέπει να βασίζονται σε χαρακτήρες για οποιαδήποτε επαγγελματική συμβουλή.”
Η Character.AI ανέφερε παρόμοια δήλωση αποποίησης ευθύνης όταν τους ζητήθηκε να σχολιάσει την έρευνα του Τέξας και ενώ διευκρίνισαν την προβλεπόμενη χρήση της πλατφόρμας, υπάρχουν αυξανόμενα στοιχεία ότι δεν εμπιστεύονται όλους τους χρήστες της εταιρείας, ειδικά τους νεότερους χρήστες.
Για παράδειγμα, η Disney έστειλε μια επιστολή παύσης και παραίτησης στο Character.AI τον Σεπτέμβριο του 2025 για να χρησιμοποιήσει χαρακτήρες της Disney στην πλατφόρμα, αλλά επειδή η εταιρεία πίστευε ότι τα chatbot ήταν «σεξουαλικά εκμεταλλευτικά και κατά τα άλλα επιβλαβή και επικίνδυνα για τα παιδιά». Character.AI και Google — ένας από τους επενδυτές της εταιρείας — Μια αγωγή διευθετήθηκε νωρίτερα φέτος που επικεντρώθηκε σε ένα 14χρονο αγόρι στη Φλόριντα που αυτοκτόνησε αφού συνήψε σχέση με ένα chatbot στην πλατφόρμα του Character.AI. Πιθανή βλάβη ήταν επίσης το κίνητρο πίσω από τα chatbot του χαρακτήρα.AI που ποζάρουν σε παιδιά Μήνυση κατά της εταιρείας του Κεντάκιπου κατατέθηκε τον Ιανουάριο
