Η Γιούτα επιτρέπει σε ένα σύστημα τεχνητής νοημοσύνης να συνταγογραφεί ψυχιατρικά φάρμακα χωρίς γιατρό. Είναι μόλις η δεύτερη φορά που το κράτος -και το κράτος- αναθέτει αυτού του είδους την κλινική εξουσία στην τεχνητή νοημοσύνη. Οι κρατικοί αξιωματούχοι λένε ότι θα μπορούσε να μειώσει το κόστος και να μετριάσει τις ελλείψεις στην περίθαλψη, αλλά οι γιατροί προειδοποιούν ότι το σύστημα είναι απόκρυφο και επικίνδυνο και είναι απίθανο να επεκτείνει την περίθαλψη ψυχικής υγείας για όσους το χρειάζονται.
Το πιλοτικό πρόγραμμα ενός έτους, που ανακοινώθηκε την περασμένη εβδομάδα, θα επιτρέψει στο chatbot της Legion Health να ανανεώσει τις συνταγές για ορισμένα ψυχιατρικά φάρμακα, σε ορισμένες περιπτώσεις. Η startup του Σαν Φρανσίσκο υπόσχεται στους ασθενείς με έδρα τη Γιούτα «γρήγορες και απλές ανανεώσεις» με συνδρομή 19 $ το μήνα. Το πρόγραμμα ξεκινά κάποια στιγμή τον Απρίλιο, αν και η εταιρεία τρέχει μόνο λίστα αναμονής αυτή τη στιγμή.
Το chatbot με τεχνητή νοημοσύνη θα ανανεώσει τις συνταγές για ψυχιατρικά φάρμακα, σε ορισμένες περιπτώσεις.
Το πεδίο εφαρμογής του προγράμματος ήταν σκόπιμα περιορισμένο, περιορισμένο τόσο ως προς τα φάρμακα που καλύπτει όσο και ως προς τις προϋποθέσεις που πρέπει να πληρούν οι ασθενείς για να πληρούν τις προϋποθέσεις. Σύμφωνα με τη συμφωνία της Legion με το Γραφείο Πολιτικής Τεχνητής Νοημοσύνης της Γιούτα, το chatbot μπορεί να ανανεώσει μόνο 15 φάρμακα συντήρησης χαμηλού κινδύνου που έχουν ήδη συνταγογραφηθεί από γιατρό. Αυτές περιλαμβάνουν φλουοξετίνη (Prozac), σερτραλίνη (Zoloft), βουπροπιόνη (Wellbutrin), μιρταζαπίνη και υδροξυζίνη, η οποία χρησιμοποιείται συνήθως για τη θεραπεία του άγχους και της κατάθλιψης. Οι ασθενείς πρέπει επίσης να θεωρούνται σταθεροί: οποιοσδήποτε με πρόσφατη αλλαγή δόσης ή φαρμάκου ή εισαγωγή σε ψυχιατρικό νοσοκομείο τον περασμένο χρόνο αποκλείεται και οι ασθενείς πρέπει να επισκέπτονται τον πάροχο υγειονομικής περίθαλψης κάθε 10 πακέτα ή μετά από έξι μήνες, όποιο συμβεί πρώτο.
Το σύστημα δεν μπορεί να εκδίδει νέες συνταγές ή να χειρίζεται φάρμακα που απαιτούν στενή κλινική παρακολούθηση, συμπεριλαμβανομένων φαρμάκων που πρέπει να παρακολουθούνται με εξετάσεις αίματος. Οι ελεγχόμενες ουσίες απαγορεύονται επίσης, γεγονός που αποκλείει πολλά φάρμακα για τη ΔΕΠΥ. Εξαιρέστε τις βενζοδιαζεπίνες που χρησιμοποιούνται για το άγχος. αντιψυχωσικά, που χρησιμοποιούνται για καταστάσεις όπως η σχιζοφρένεια και η διπολική διαταραχή. Και το λίθιο – που θεωρείται ευρέως η χρυσή τυπική θεραπεία για τη διπολική διαταραχή – αφήνει πολλές πιο περίπλοκες ψυχιατρικές καταστάσεις εκτός πιλότου.
Για να χρησιμοποιήσουν το σύστημα, οι ασθενείς πρέπει να εγγραφούν, να επαληθεύσουν την ταυτότητά τους και να αποδείξουν ότι έχουν ήδη συνταγή, όπως μια φωτογραφία της ετικέτας ή το μπουκάλι του χαπιού. Στη συνέχεια ερωτώνται για τα συμπτώματά τους, καθώς και για τις παρενέργειες και την αποτελεσματικότητα του φαρμάκου. Τους κάνουν ερωτήσεις σχετικά με τις σκέψεις αυτοκτονίας, τον αυτοτραυματισμό, τις σοβαρές αντιδράσεις και την εγκυμοσύνη, προκειμένου να κερδίσουν κόκκινες σημαίες. Εάν οποιεσδήποτε απαντήσεις δεν εμπίπτουν στα κριτήρια χαμηλού κινδύνου του πιλοτικού προγράμματος, οι περιπτώσεις υποτίθεται ότι θα κλιμακωθούν σε έναν γιατρό πριν από την έκδοση οποιωνδήποτε ξαναγεμίσεων. Οι ασθενείς και οι φαρμακοποιοί μπορούν επίσης να ζητήσουν επανεξέταση από τον άνθρωπο.
«Με την ασφαλή αυτοματοποίηση της διαδικασίας ανανέωσης για φάρμακα συντήρησης, επιτρέπουμε στους ασθενείς να λαμβάνουν τη φροντίδα που χρειάζονται πιο γρήγορα και οικονομικά», δήλωσαν κρατικοί αξιωματούχοι ανακοινώνοντας τον πιλότο. Με την πάροδο του χρόνου, είπαν, το πρόγραμμα θα μπορούσε να ελευθερώσει τους παρόχους υγειονομικής περίθαλψης «να επικεντρώσουν το χρόνο τους στις ανάγκες πιο περίπλοκων και κρίσιμων ασθενών» και να βοηθήσει στην αντιμετώπιση μιας έλλειψης που έχει αφήσει 500.000 κατοίκους της Γιούταν χωρίς πρόσβαση σε φροντίδα ψυχικής υγείας. Ο Yash Patel, συνιδρυτής και Διευθύνων Σύμβουλος της Legion, έθεσε το πρόγραμμα με μεγαλύτερους όρους, αποκαλώντας το παγκόσμιο πρώτο που θα επεκτείνει δραματικά την πρόσβαση στην υγειονομική περίθαλψη και αντιπροσωπεύει «την αρχή για κάτι πολύ μεγαλύτερο από την ανασυσκευασία».
Οι ψυχίατροι είναι λιγότερο πεπεισμένοι. Ο Brent Kuse, ψυχίατρος και καθηγητής στο University of Utah School of Medicine, είπε: Ακρη Πιστεύει ότι «τα πλεονεκτήματα ενός συστήματος αναπλήρωσης που βασίζεται σε τεχνητή νοημοσύνη μπορεί να υπερεκτιμηθούν». Υποψιάζεται ότι το εργαλείο «δεν θα αυξήσει την πρόσβαση για όσους χρειάζονται περισσότερο φροντίδα». Ο ασθενής-στόχος πρέπει ήδη να συμμετέχει σε ένα σχέδιο θεραπείας με τον ψυχίατρό του για να χρησιμοποιήσει την υπηρεσία.
«Θα ήταν καλύτερα να υπήρχε περισσότερη διαφάνεια, περισσότερη επιστήμη και πιο αυστηρές δοκιμές προτού ζητηθεί από τους ανθρώπους να το χρησιμοποιήσουν».
Ο Kious επισημαίνει ότι η αυτοματοποίηση θα μπορούσε να συμβάλει σε αυτό που αποκαλεί «επιδημία υπερβολικής φαρμακευτικής αγωγής» στην ψυχιατρική, όπου ορισμένοι ασθενείς παραμένουν υπό φαρμακευτική αγωγή περισσότερο από όσο χρειάζεται. Ο John Toros, διευθυντής ψηφιακής ψυχιατρικής στο Beth Israel Deaconess Medical Center και καθηγητής ψυχιατρικής στην Ιατρική Σχολή του Χάρβαρντ, εξέφρασε σχετικές ανησυχίες, σημειώνοντας ότι μερικοί άνθρωποι ωφελούνται από τη μακροπρόθεσμη λήψη ψυχιατρικών φαρμάκων, ενώ άλλοι μπορεί να ωφεληθούν από τη μείωση ή τη διακοπή τους. «Απαιτεί πιο ενεργή διαχείριση, αλλαγές και προσεκτική μελέτη», είπε. Αυτό είναι δύσκολο να γίνει εάν αναθέτετε σε εξωτερικούς συνεργάτες τη συμπλήρωση check-in chatbot.
Η μεγαλύτερη ανησυχία είναι αν ένα chatbot μπορεί να αυτοματοποιήσει με ασφάλεια ακόμη και τα πιο συνηθισμένα μέρη της ψυχιατρικής περίθαλψης. Η συνταγογράφηση φαρμάκων περιλαμβάνει περισσότερα από τον έλεγχο για αλληλεπιδράσεις φαρμάκων, είπε ο Toros και αναρωτήθηκε εάν οποιοδήποτε σύστημα τεχνητής νοημοσύνης σήμερα «μπορεί να κατανοήσει το μοναδικό πλαίσιο και τους παράγοντες που εμπίπτουν στο φαρμακευτικό πλάνο ενός ατόμου». Ο Caiuss έκανε μια παρόμοια παρατήρηση: “Αυτό είναι κάτι που θα μπορούσε να είναι ασφαλές κατ’ αρχήν, αλλά όλα εξαρτώνται από τις λεπτομέρειες.” Αυτές οι ανησυχίες εντείνονται από το πόσο νέα είναι αυτά τα συστήματα και πόσο αδιαφανή είναι για τους ξένους. «Είναι λίγο σαν αλχημεία αυτή τη στιγμή», είπε. «Θα ήταν καλύτερα να υπήρχε περισσότερη διαφάνεια, περισσότερη επιστήμη και πιο αυστηρές δοκιμές προτού ζητηθεί από τους ανθρώπους να το χρησιμοποιήσουν».
Υπάρχουν επίσης πιο πιεστικές ανησυχίες για την ασφάλεια. Ένα chatbot μπορεί να χάσει κάτι κατά τη διάρκεια μιας εξέτασης: μπορεί να μην κάνει τις σωστές ερωτήσεις, ένας ασθενής μπορεί να μην αναγνωρίσει μια παρενέργεια ή μπορεί να απαντήσει ανακριβώς, είπε ο Kious. Κάποιοι μπορεί απλώς να πουν στο σύστημα αυτό που θέλει να ακούσει για να επιταχύνουν τη διαδικασία φροντίδας. Τόνισε ότι αυτό δεν περιορίζεται στα chatbots. Μεγάλο μέρος της ψυχιατρικής βασίζεται στην αυτοαναφορά. Αλλά οι άνθρωποι γιατροί έχουν συνήθως πρόσβαση και σε άλλες πληροφορίες, είπε, προσθέτοντας ότι όταν βλέπει ασθενείς, προσέχει όχι μόνο τι λένε, αλλά και τι δεν λένε και πώς παρουσιάζονται. Ενώ οι ασθενείς μπορούν επίσης να παραπλανήσουν τους ανθρώπινους παρόχους, ο Kious είπε ότι ένα σύστημα chatbot θα μπορούσε να διευκολύνει τους ασθενείς να τροποποιήσουν τις απαντήσεις τους μέχρι να λάβουν το επιθυμητό αποτέλεσμα.
Υπάρχουν επίσης πιο φανεροί κίνδυνοι ασφάλειας, οι οποίοι θα είναι οικείοι σε όποιον παρακολουθεί την απόδοση των chatbots στον πραγματικό κόσμο, είπε ο Toros. Το chatbot της Legion είναι το δεύτερο πείραμα της Γιούτα στη συνταγογράφηση τεχνητής νοημοσύνης, που εντάσσεται σε ένα ευρύτερο πιλοτικό πρόγραμμα που εστιάζεται στην πρωτοβάθμια φροντίδα με το Doctronic που ξεκίνησε τον περασμένο Δεκέμβριο. Μέσα σε λίγες εβδομάδες από τη μετάδοση της κυκλοφορίας, οι ερευνητές ασφαλείας κατάφεραν να κάνουν το σύστημα της Doctronic να διαδώσει θεωρίες συνωμοσίας εμβολίων, να εκδώσει οδηγίες για το μαγείρεμα της μεθαμφεταμίνης και να τριπλασιάσει τη δόση οπιοειδών ενός ασθενούς. Οι κρατικοί αξιωματούχοι λένε ότι το πιο εστιασμένο πρόγραμμα με τη Λεγεώνα έχει σχεδιαστεί ειδικά για να στοχεύει στις «ελλείψεις ψυχικής υγείας» του κράτους.
Το σώμα λέει ότι ο πιλότος λειτουργούσε κάτω από σφιχτά προστατευτικά κιγκλιδώματα. Εκτός από αυτό που αποκαλεί «συντηρητικές πύλες επιλεξιμότητας», η συμφωνία της με τη Γιούτα απαιτεί να υποβάλλει λεπτομερείς μηνιαίες αναφορές και να εξετάζει προσεκτικά τις πρώτες 1.250 αιτήσεις από ανθρώπους γιατρούς, με περιοδική δειγματοληψία περίπου 5 έως 10 τοις εκατό των αιτήσεων μετά από αυτό.
είπε ο συνιδρυτής και πρόεδρος της Legion, Άρθουρ ΜακΓουότερς Ακρη «Κίνδυνοι υπάρχουν σε οποιοδήποτε μοντέλο απομακρυσμένης φροντίδας, είτε με τεχνητή νοημοσύνη είτε εξ ολοκλήρου ανθρωποκεντρικά», τόνισε, προσθέτοντας ότι «η ροή εργασίας της εταιρείας δεν βασίζεται σε μια ενιαία αυτοαναφερόμενη απάντηση για το ξεκλείδωμα της θεραπείας». Οι βασικές διασφαλίσεις περιλαμβάνουν στενούς δοκιμαστικούς περιορισμούς στα φάρμακα και την καταλληλότητα των ασθενών, ενσωματωμένες σε τεχνητή νοημοσύνη οθόνες ασφαλείας, δέσμευση φαρμακοποιού και δυνατότητα κλιμάκωσης σε γιατρό, είπε. «Θεωρούμε ότι αυτό είναι κρίσιμο για την επέκταση της πρόσβασης στους εκατοντάδες χιλιάδες ανθρώπους στη Γιούτα που ζουν σε περιοχές με ελλείψεις ψυχικής υγείας, καθώς και ως ένα σημαντικό έδαφος απόδειξης για την τεχνητή νοημοσύνη στην ιατρική».
Η MacWaters δεν σχολίασε τις περιπτώσεις πρόσθετης χρήσης, τα φάρμακα ή τις επεκτάσεις σε άλλες πολιτείες, αλλά είπε ότι η εταιρεία είναι «ενθουσιασμένη για το τι επιφυλάσσει το μέλλον». Ούτε έδωσε χρονοδιάγραμμα για τα σχέδια επέκτασης της Legion, αν και τόσο η MacWaters όσο και η Legion έχουν επισημάνει δημόσια ευρύτερες φιλοδοξίες εκτός της Γιούτα: ο ιστότοπος αναπλήρωσης της Legion λέει ότι η υπηρεσία θα είναι διαθέσιμη “σε όλη τη χώρα το 2026” και η MacWaters πρότεινε ότι “θα είναι σε κάθε πολιτεία πολύ γρήγορα”.
Για τους ψυχιάτρους με τους οποίους μίλησα, όλα αυτά φάνηκαν να εγείρουν ένα αρκετά βασικό ερώτημα: Ποιο πρόβλημα λύνει πραγματικά το Σώμα; Οι εγκεκριμένοι ασθενείς συχνά δεν χρειάζονται καν ένα ραντεβού για να ξαναγεμίσουν, είπε ο Kuse, εξηγώντας ότι οι περισσότεροι ψυχίατροι πιθανότατα θα ήταν «με χαρά να ξαναγεμίσουν τις συνταγές δωρεάν και χωρίς ραντεβού», εκτός εάν ανησυχούν για τον ασθενή ή το φάρμακο ενέχει πολύ μεγάλο κίνδυνο. Αυτές είναι ακριβώς οι περιπτώσεις που εμποδίζεται να αντιμετωπίσει η AI της Legion.
«Προσωπικά θα το απέφευγα προς το παρόν», είπε ο Τόρος, προσθέτοντας ότι εάν βρείτε ένα καλό σχέδιο θεραπείας που λειτουργεί για εσάς, είναι καλύτερο να μείνετε με αυτόν τον γιατρό.
Σύνδεσμος πηγής: www.theverge.com