Την περασμένη άνοιξη μας τηλεφώνησε ένας παλιός φίλος. Η ιστορία ήταν γνωστή: δύο γιατροί, μια μαγνητική τομογραφία, ένα διαδικτυακό εργαλείο τεχνητής νοημοσύνης, στοίβες από δοκίμια — και μια ενοχλητική ερώτηση. “Όλα μου λένε κάτι διαφορετικό. Το AI λέει ότι μπορεί να χρειαστώ χειρουργική επέμβαση. Τι πρέπει να κάνω;”
Πιστεύουμε ότι οποιοσδήποτε έχει μια βασική απάντηση σε αυτό το πολύ απλό αίνιγμα: “Τι είναι πιο σημαντικό για εσάς;”
Έγινε μια μεγάλη παύση.
Αυτό το διάλειμμα είναι μια από τις πιο σημαντικές στιγμές στη σύγχρονη υγειονομική περίθαλψη – και είναι ακριβώς το ερώτημα που η τεχνητή νοημοσύνη δεν μπορεί να λύσει.
Στην καριέρα μας ως κλινικοί γιατροί και ερευνητές, έχουμε διαπιστώσει ξεκάθαρα και επανειλημμένα ότι τα ιατρικά στοιχεία δεν δείχνουν μια ενιαία «σωστή» απάντηση για πολλές κοινές παθήσεις. Η βιολογία είναι συχνά κοντά. Αυτό που καθορίζει την επιτυχία ενός αποτελέσματος είναι αν η επιλογή είναι κατάλληλη για το άτομο που την κάνει.
Μερικοί ασθενείς με πόνο στην πλάτη θέλουν να επιστρέψουν σε σωματικά απαιτητικές δραστηριότητες το συντομότερο δυνατό, ακόμα κι αν αυτό σημαίνει χειρουργική επέμβαση. Άλλοι θέλουν να αποφύγουν τη χειρουργική επέμβαση σχεδόν με οποιοδήποτε κόστος, ακόμα κι αν ο χρόνος ανάρρωσης είναι μεγαλύτερος. Οι σαρώσεις μπορεί να φαίνονται το ίδιο. Όχι η ζωή πίσω από τη σάρωση.
Αυτή η εικόνα γίνεται εξαιρετικά σημαντική καθώς η τεχνητή νοημοσύνη προχωρά βαθύτερα στις καθημερινές αποφάσεις για την υγεία.
Στην έρευνά μας σχετικά με την τεχνητή νοημοσύνη και τη λήψη κλινικών αποφάσεων, μελετήσαμε τι συμβαίνει όταν τα συστήματα εκπαιδεύονται για τη βελτιστοποίηση των ιατρικών αποτελεσμάτων αλλά είναι τυφλά για τις ανθρώπινες αξίες. Σε απλά αγγλικά, η σημερινή τεχνητή νοημοσύνη είναι πολύ καλή στο να σας λέει τι λειτουργεί συνήθως για άτομα σαν εσάς με παρόμοια δημογραφικά στοιχεία και ιατρικό ιστορικό. Είναι πολύ λιγότερο ικανό να καταλάβει τι προσπαθείτε να προστατέψετε, να αποφύγετε ή να δώσετε προτεραιότητα.
Αυτό είναι σημαντικό γιατί μερικές από τις πιο κοινές και ακριβότερες ιατρικές αποφάσεις δεν είναι εντελώς βιολογικές. Πρέπει ένας άνδρας με καρκίνο του προστάτη χαμηλού κινδύνου να επιλέξει χειρουργική επέμβαση, ακτινοβολία ή προσεκτική παρατήρηση; Πρέπει ένα άτομο με κολπική μαρμαρυγή να υποβληθεί σε επέμβαση ή να διαχειριστεί την πάθηση με φαρμακευτική αγωγή; Πρέπει ένας ασθενής με χρόνιο πόνο στο γόνατο ή στην πλάτη να χειρουργηθεί τώρα ή να δοκιμάσει φυσικοθεραπεία για μερικούς μήνες για να δει εάν μπορεί να αποφευχθεί η επέμβαση;
Σε αυτές τις περιπτώσεις, οι θεραπευτικές διαφορές μεταξύ των εναλλακτικών λύσεων είναι συχνά μικρές ή αβέβαιες. Η μεγαλύτερη διαφορά που κάνει είναι αν η θεραπεία ευθυγραμμίζεται με τους στόχους του ασθενούς: ανοχή στον κίνδυνο, επιθυμία για ανάκαμψη, ικανότητα συμμόρφωσης σε μακροχρόνια θεραπεία ή τι είδους τρόπο ζωής θέλει να ζήσει.
Τα συστήματα AI μπορούν να υπολογίσουν τις πιθανότητες. Δεν μπορούν να προσδιορίσουν τι σημαίνουν αυτές οι δυνατότητες για ένα συγκεκριμένο άτομο.
Σε ορισμένες περιπτώσεις, η τεχνητή νοημοσύνη μπορεί να γνωρίζει περισσότερα φάρμακα από οποιονδήποτε προσωπικό γιατρό. Μπορεί να συνθέσει εκατομμύρια επιστημονικές εργασίες, κλινικές μελέτες και αρχεία ασθενών σε δευτερόλεπτα. Ωστόσο, γνωρίζει πολύ λιγότερα για το άτομο που κάθεται δίπλα του. Η τεχνητή νοημοσύνη δεν γνωρίζει τους στόχους, τους φόβους, τις υποχρεώσεις, την ανοχή κινδύνου ή τον προσωπικό ορισμό του καλού αποτελέσματος του ασθενούς. Και επειδή γνωρίζει πολύ λίγα για τον ασθενή ή τον γιατρό, γνωρίζει ακόμη λιγότερα για τη συνομιλία μεταξύ τους – το μέρος όπου οι πληροφορίες, οι αξίες και οι πεποιθήσεις ενώνονται για να πάρουν τη σωστή απόφαση για ένα συγκεκριμένο άτομο.
Η ιστορία ενός δεύτερου ασθενούς φέρνει αυτό το σπίτι. Ένας συνταξιούχος δάσκαλος παραπέμφθηκε αφού ένας έλεγχος συμπτωμάτων με βάση την τεχνητή νοημοσύνη εντόπισε ανωμαλίες στον καρδιακό ρυθμό και «ευνόησε» μια επεμβατική διαδικασία. Ο ασθενής μπήκε πανικόβλητος, σίγουρος ότι υπήρχε σωστός δρόμος. Καθώς μιλούσαμε, έγινε σαφές ότι το πιο σημαντικό πράγμα ήταν να αποφύγουμε μια μακρά ανάκαμψη και να είμαστε αρκετά υγιείς για να ταξιδέψουμε για να δούμε τα εγγόνια.
Η φαρμακευτική αγωγή και η παρακολούθηση – λιγότερο δραματική, αλλά υποστηριζόμενη από στοιχεία – ταιριάζουν καλύτερα σε αυτούς τους στόχους. Το AI δεν έκανε λάθος. Δεν ξέρω τι ακριβώς έχει σημασία.
Αυτό το τυφλό σημείο δεν είναι ασήμαντο. Περίπου το ένα τέταρτο των δαπανών για την υγειονομική περίθαλψη των ΗΠΑ καθορίζεται από αποφάσεις όπου οι προτιμήσεις των ασθενών επηρεάζουν σημαντικά τα αποτελέσματα. Όταν αυτές οι επιλογές αγνοούνται – από ανθρώπους ή αλγόριθμους – η φροντίδα πάει στραβά. Αυτό μπορεί να σημαίνει περιττές διαδικασίες, κακή τήρηση, τύψεις και αυξημένο κόστος χωρίς βελτίωση της υγείας.
Τι πρέπει λοιπόν να κάνουν οι καταναλωτές όταν μια εφαρμογή, μια πύλη ή ένα «έξυπνο» εργαλείο προτείνει μια πορεία δράσης;
Ξεκινήστε με τρεις ερωτήσεις.
Πρώτον: “Το καλύτερο για ποιον;” Εάν ένα εργαλείο λέει ότι μια επιλογή είναι η καλύτερη, ρωτήστε αν είναι η καλύτερη κατά μέσο όρο – ή η καλύτερη για κάποιον με τις προτεραιότητές σας.
Δεύτερον: “Τι δεν ξέρει αυτό το σύστημα για μένα;”
Το AI μπορεί να δει τιμές εργαστηρίου και αποτελέσματα απεικόνισης. Δεν μπορεί να δει τη δουλειά σας, τις οικογενειακές σας ευθύνες, τους φόβους σας ή τι προσπαθείτε να πάρετε πίσω.
Τρίτον: “Κι αν περιμένω ή επιλέξω διαφορετικά;”
Πολλές σημαντικές ιατρικές αποφάσεις δεν είναι επείγουσες. Όταν οι επιλογές είναι κοντά, το να αφιερώνετε χρόνο για προβληματισμό είναι συχνά μέρος της καλής φροντίδας.
Η τεχνητή νοημοσύνη γίνεται ισχυρός συνεργάτης στην ιατρική. Μπορεί να βοηθήσει στην εξήγηση εναλλακτικών, επιφανειακών στοιχείων και στη μείωση της σύγχυσης. Αλλά θα πρέπει να ενημερώνει τις αποφάσεις των ανθρώπων και όχι να τις αντικαθιστά.
Το AI γνωρίζει περισσότερα φάρμακα από οποιονδήποτε γιατρό.
Γνωρίζει πολύ λίγα για κάθε ασθενή.
Και ξέρει τουλάχιστον για τη μεταξύ τους συνομιλία.
Η πιο σημαντική μεταβλητή στην υγειονομική σας περίθαλψη δεν βρίσκεται σε κανέναν αλγόριθμο. είσαι εσύ.
Ο James N. Weinstein είναι χειρουργός και πρώην διευθύνων σύμβουλος της Dartmouth Health. Είναι κλινικός καθηγητής στο Kellogg School of Management του Northwestern University και παγκόσμιος επικεφαλής του Health Futures στη Microsoft, που αναπτύσσει συστήματα AI. Ο Ogan Gurrell είναι γιατρός και επίκουρος καθηγητής στο Πανεπιστήμιο του Τέξας στο Arlington, όπου ερευνά την τεχνητή νοημοσύνη, την αιτιώδη συναγωγή και τη λήψη αποφάσεων από τον ασθενή.
