Ένα πρόγραμμα αναπλήρωσης συνταγών που ξεκίνησε αθόρυβα στη Γιούτα νωρίτερα φέτος έχει πυροδοτήσει μια μεγάλη ιατρική συζήτηση: Είναι η τεχνητή νοημοσύνη έτοιμη να αναλάβει καθήκοντα που μέχρι τώρα εκτελούνταν μόνο από γιατρούς;
Το πρόγραμμα επιτρέπει στους κατοίκους της Γιούτα να παραλείπουν το ιατρείο και να ξαναγεμίζουν συνταγές online μέσω ενός chatbot τεχνητής νοημοσύνης που ονομάζεται Doctronic. Είναι ένα φαινομενικά απλό βήμα που στοχεύει να κάνει την υγειονομική περίθαλψη πιο προσιτή στους ασθενείς και τους συνταγογράφους.
Αλλά ήταν επίσης ένα ορόσημο που έπληξε το προηγούμενο που σήμανε κώδωνα κινδύνου για γιατρούς, δικηγόρους και ειδικούς στη δημόσια υγεία. Το πιλοτικό πρόγραμμα εξέθεσε μια σειρά ερωτημάτων σχετικά με τον ρόλο της τεχνητής νοημοσύνης στην ιατρική, συμπεριλαμβανομένου του τρόπου ρύθμισης, του εάν οι γιατροί θα πρέπει να μπορούν να ασκήσουν βέτο και τι είδους μέτρα ασφαλείας χρειάζονται για την προστασία των ασθενών.
Σχετικές ιστορίες | Τι είναι η τεχνητή νοημοσύνη πράκτορα; Γιατί το επόμενο κύμα τεχνητής νοημοσύνης θα είναι διαφορετικό
Επίμαχο: Οι κρατικοί και ομοσπονδιακοί νόμοι περιορίζουν τη συνταγογράφηση σε εξουσιοδοτημένους επαγγελματίες υγείας. Οι υποστηρικτές λένε ότι οι νόμοι, οι οποίοι προστατεύουν την αμερικανική ιατρική για περισσότερα από 100 χρόνια, θα πρέπει να ενημερωθούν για να ενσωματώσουν chatbot τεχνητής νοημοσύνης και άλλες νέες τεχνολογίες.
«Είτε θέλουμε να το ονομάσουμε έτσι είτε όχι, έχουμε ξεπεράσει ένα όριο όσον αφορά την έκδοση ιατρικών αδειών σε μη ανθρώπινους οργανισμούς», δήλωσε ο Δρ Έρικ Μπρέσμαν από το Πανεπιστήμιο της Πενσυλβάνια.
Σύμφωνα με την ισχύουσα νομοθεσία, η τεχνητή νοημοσύνη δεν μπορεί να ασκήσει ιατρική
Ο Bressman και άλλοι ειδικοί λένε ότι δεν είναι αντίθετοι στη συνταγογράφηση τεχνητής νοημοσύνης. Ωστόσο, λένε ότι θα πρέπει να πληροί αυστηρά πρότυπα παρόμοια με εκείνα των ανθρώπων γιατρών, οι οποίοι υποβάλλονται σε χρόνια δοκιμών και εκπαίδευσης προτού λάβουν άδεια για να ασκήσουν ιατρική.
Στη Γιούτα, η Doctronic μπόρεσε να ξεκινήσει χάρη σε ένα «ρυθμιστικό sandbox» που επιτρέπει στους κρατικούς αξιωματούχους να εξαιρούν τις εταιρείες τεχνητής νοημοσύνης που προσφέρουν πολλά υποσχόμενη τεχνολογία από νομικούς περιορισμούς.
Σχετικές ιστορίες | Η τεχνητή νοημοσύνη θα μπορούσε να παραβιάσει τις κυβερνητικές και εταιρικές άμυνες σε μήνες, όχι σε χρόνια
Το συμπλήρωμα εποπτεύεται επί του παρόντος από μια επιτροπή πέντε ειδικών τεχνητής νοημοσύνης, κανένας από τους οποίους δεν είναι γιατρός, οι οποίοι λένε ότι έχουν εφαρμόσει πολλές διασφαλίσεις. Για παράδειγμα, στην αρχική φάση του έργου, οι γιατροί εξετάζουν όλες τις εντολές αναπλήρωσης της Doctronic. Η εταιρεία αναμένει να μεταβεί σύντομα σε πλήρως αυτοματοποιημένες ανανεώσεις.
Ο επικεφαλής του συμβουλίου ιατρικών αδειών της πολιτείας είπε ότι ο ίδιος και οι συνάδελφοί του έμαθαν για το πρόγραμμα όταν άρχισαν τα δελτία ειδήσεων τον Ιανουάριο. Σε επιστολή προς την πολιτεία τον Μάρτιο, 11 μέλη του διοικητικού συμβουλίου ζήτησαν τον τερματισμό του προγράμματος, αναφέροντας πιθανές παρενέργειες ή αλληλεπιδράσεις φαρμάκων από τα φάρμακα που ανανεώνονται αυτόματα.
“Βασικά μας είπαν: “Ναι, αυτό συμβαίνει. Όχι, δεν έχετε λόγο σε αυτό”, είπε ο Δρ Άλαν Σμιθ, ένας οικογενειακός γιατρός που προεδρεύει της επιτροπής, αλλά είπε ότι μίλησε μόνο για τον εαυτό του.
Περιπλέκοντας την κατάσταση είναι ότι η ιατρική τεχνολογία παραδοσιακά ρυθμίζεται σε ομοσπονδιακό επίπεδο, ενώ οι επαγγελματίες του ιατρικού τομέα ελέγχονται από πολιτείες.
Τα στελέχη της Doctronic θεωρούν ότι η τεχνητή νοημοσύνη τους αποτελεί μέρος της κρατικά ρυθμιζόμενης πρακτικής της ιατρικής. Αλλά η ομοσπονδιακή Υπηρεσία Τροφίμων και Φαρμάκων θα πρέπει να επιβλέπει την τεχνητή νοημοσύνη που επηρεάζει άμεσα την υγειονομική περίθαλψη ή τη λήψη αποφάσεων, και ορισμένοι ειδικοί πιστεύουν ότι η Doctronic έχει ξεπεράσει αυτό το όριο.
Ορισμένα κράτη ανοίγουν το δρόμο για την τεχνητή νοημοσύνη στην υγειονομική περίθαλψη
Σε συνεντεύξεις, τα στελέχη της Doctronic δεν είπαν αν είχαν ζητήσει την έγκριση του FDA.
«Στόχος μας είναι πραγματικά απλώς να εξυπηρετήσουμε ασθενείς που χρειάζονται υγειονομική περίθαλψη», δήλωσε ο Δρ Άνταμ Οσκοβιτς, ο οποίος συνίδρυσε την εταιρεία με επιχειρηματίες της βιομηχανίας τεχνολογίας. «Προσπαθούμε να μην εμβαθύνουμε σε ρυθμιστικά προβλήματα».
Σχετικές ιστορίες | Οι περισσότεροι υπάλληλοι γραφείου λένε «παρακαλώ» και «ευχαριστώ» στην τεχνητή νοημοσύνη — και οι ειδικοί λένε ότι μπορεί να έχει σημασία
Στη Γιούτα, οι κάτοικοι μπορούν να επισκεφτούν τον ιστότοπο Doctronic που δημιουργήθηκε για το συμπληρωματικό πρόγραμμα. Μετά την επιβεβαίωση της ταυτότητας, το chatbot AI ρωτά τον χρήστη για τις συνταγές και το ιατρικό ιστορικό του και επαληθεύει ότι έχει έγκυρη συνταγή πατώντας στην εθνική βάση δεδομένων φαρμακείων. Εάν δεν υπάρχουν προβλήματα, το AI μπορεί να ενημερώσει τη συνταγή και να τη στείλει στο τοπικό φαρμακείο. Εάν το αίτημα απαιτεί περισσότερη προσοχή, το chatbot θα μεταφέρει τον ασθενή σε γιατρό που εργάζεται για την υπηρεσία τηλεϊατρικής Doctronic.
Ο Oskowitz οραματίζεται ένα μέλλον στο οποίο πολλές ιατρικές εργασίες ρουτίνας, συμπεριλαμβανομένης της παραγγελίας εξετάσεων και της ανάλυσης αποτελεσμάτων, θα μπορούσαν να μεταφερθούν στο Doctronic, επιτρέποντας στους γιατρούς να διαχειρίζονται χιλιάδες περισσότερους ασθενείς από ό,τι μπορούν σήμερα.
Άλλες πολιτείες έχουν επίσης παραιτηθεί από τους κανόνες τεχνητής νοημοσύνης, συμπεριλαμβανομένων του Τέξας και του Ουαϊόμινγκ.
Εν τω μεταξύ, νομοθέτες στην Αϊόβα, το Αϊντάχο και αλλού έχουν εισαγάγει νομοθεσία για την επίσημη άδεια χρήσης ιατρικών υπηρεσιών που λειτουργούν με τεχνητή νοημοσύνη. Πολλά από τα νομοσχέδια βασίζονται στο πρότυπο του μη κερδοσκοπικού Ινστιτούτου Cicero, μιας δεξαμενής σκέψης υπέρ της τεχνητής νοημοσύνης που ιδρύθηκε από τον Joe Lonsdale, συνιδρυτή της εταιρείας λογισμικού τεχνητής νοημοσύνης Palantir.
Η αντίσταση στην ιατρική τεχνητή νοημοσύνη πηγάζει σε μεγάλο βαθμό από οικονομικές ανησυχίες μεταξύ των γιατρών και άλλων εργαζομένων στον τομέα της υγείας, δήλωσε ο διευθυντής πολιτικής υγείας του Κικέρωνα.
“Όποιος πάει πρώτος θα πάρει το τόξο λόγω των οικονομικών διακυβεύσεων, των ανησυχιών για το εργατικό δυναμικό και του αντίκτυπου που έχει αυτό στην απασχόληση”, δήλωσε ο Adam Meyer του Κικέρωνα.
Οι γιατροί ανακαλύπτουν πιθανούς κινδύνους στα ανταλλακτικά συνταγών τεχνητής νοημοσύνης
Ο πρόεδρος του Ιατρικού Συμβουλίου Σμιθ είπε ότι ο κίνδυνος για τους ασθενείς ήταν πραγματικός. Σημείωσε ότι η λίστα με τα 190 επαναγεμιζόμενα φάρμακα της Doctronic περιλαμβάνει αραιωτικά αίματος, τα οποία μπορεί να γίνουν επικίνδυνα εάν ένας ασθενής αναπτύξει έλκος στομάχου ή άλλες καταστάσεις που προκαλούν εσωτερική αιμορραγία.
«Πολλές φορές, όταν βλέπω ανθρώπους έξι μήνες αργότερα, βλέπω μια αλλαγή στο ιατρικό ιστορικό ή την κατάστασή τους», είπε ο Smith. «Ακριβώς επειδή κάτι είχε συνταγογραφηθεί πριν δεν σημαίνει ότι είναι κατάλληλο τώρα».
Ο Αμερικανικός Ιατρικός Σύλλογος εξέφρασε παρόμοιες ανησυχίες, προειδοποιώντας ότι «οι ανανεώσεις συνταγών δεν είναι έλεγχοι ρουτίνας».
Ο Ζακ Μπόιντ, ο οποίος ηγείται του Γραφείου Τεχνητής Νοημοσύνης της Γιούτα, είπε ότι η Doctronic ήταν μέχρι στιγμής πολύ προσεκτική, συχνά ανεβάζοντας τις μη αμφιλεγόμενες αποφάσεις στους γιατρούς. Αρκετά φάρμακα έχουν αφαιρεθεί από τη λίστα των φαρμάκων που είναι κατάλληλα για συμπλήρωμα λόγω ανησυχιών για την ασφάλεια, συμπεριλαμβανομένου ενός φαρμάκου που θεραπεύει τους ακανόνιστους καρδιακούς παλμούς.
Η Γιούτα έδωσε στη δημοσιότητα ορισμένα προκαταρκτικά δεδομένα από το πρόγραμμα και η Doctronic σχεδιάζει να δημοσιεύσει μια μελέτη που έχει αξιολογηθεί από ομοτίμους αργότερα αυτό το έτος. Η μόνη τρέχουσα δημοσίευση σχετικά με την τεχνολογία του είναι ένα έγγραφο γραμμένο από επιστήμονες της εταιρείας που δεν έχει αναθεωρηθεί ανεξάρτητα.
Η μελέτη εξέτασε εάν η Doctronic μπορούσε να διαγνώσει σωστά ιατρικές παθήσεις με βάση τα αρχεία 500 επισκέψεων τηλεϊατρικής. Στη μελέτη, οι διαγνώσεις του Doctronic ταίριαζαν με αυτές των ανθρώπων γιατρών στο 80% των περιπτώσεων.
Η FDA υιοθετεί μια προσέγγιση με τα χέρια
Ο Bressman είπε ότι η Γιούτα θα πρέπει να απαιτεί εκ των προτέρων δεδομένα αναπλήρωσης συνταγών, αντί μετά την έναρξη λειτουργίας του Doctronic.
«Στο μεγαλύτερο μέρος τους, αποδέχονται ειλικρινά τη δέσμευση της εταιρείας και πιστεύουν ότι είναι στο ύψος των καθηκόντων τους», είπε.
Ο Bressman είπε ότι οι τρέχουσες προσεγγίσεις για την τεχνητή νοημοσύνη αντικατοπτρίζουν τυχαία πρότυπα περίθαλψης στις αρχές του 20ου αιώνα, όταν οι ιατρικές σχολές, τα ιατρικά συμβούλια και άλλες αρχές συμφώνησαν σε εθνικά κριτήρια αναφοράς κατάρτισης και αδειοδότησης.
Η εθνική ιατρική τεχνική καθοδήγηση συνήθως προέρχεται από τον FDA, αλλά ο οργανισμός είπε ότι σχεδιάζει να υιοθετήσει μια μεταβατική προσέγγιση, τουλάχιστον υπό την τρέχουσα διοίκηση.
Ένας εκπρόσωπος του FDA είπε ότι ο οργανισμός δεν έχει εξουσιοδοτήσει κανένα chatbot AI, αλλά «έχει δεσμευτεί να ενθαρρύνει την ιατρική καινοτομία και να βοηθήσει να φέρει πολλά υποσχόμενες νέες τεχνολογίες στους ασθενείς, ενώ βάζει την ασφάλεια στο επίκεντρο κάθε απόφασης».
Προς το παρόν, η Doctronic και άλλες εταιρείες ενδέχεται να χρησιμοποιούν διαφορετικές ρυθμιστικές προσεγγίσεις για να επεκταθούν σε όλες τις πολιτείες.
«Οι εταιρείες μπορεί να ωφεληθούν βραχυπρόθεσμα επεκτείνοντας τα επιχειρηματικά τους μοντέλα και επιτρέποντας στην τεχνολογία να υπερισχύσει των αποδεικτικών στοιχείων», δήλωσε ο Daniel Aaron από τη Νομική Σχολή του Πανεπιστημίου της Γιούτα. «Αλλά μακροπρόθεσμα, νομίζω ότι θα μπορούσαν να υπονομεύσουν την εμπιστοσύνη του κοινού και να πυροδοτήσουν αντιδράσεις».
