Δεν είναι εύκολο να πείσετε την τεχνητή νοημοσύνη να ανιχνεύσει την κατάθλιψη μέσω του FDA

Τα τελευταία επτά χρόνια, η startup Kintsugi με έδρα την Καλιφόρνια έχει αναπτύξει τεχνητή νοημοσύνη που έχει σχεδιαστεί για να ανιχνεύει σημάδια κατάθλιψης και άγχους από την ομιλία ενός ατόμου. Αλλά αφού απέτυχε να λάβει έγκαιρα την έγκριση του FDA, η εταιρεία έκλεισε το μεγαλύτερο μέρος της τεχνολογίας της και την κυκλοφόρησε ως ανοιχτού κώδικα. Ορισμένα αντικείμενα μπορεί να βρουν μια δεύτερη ζωή πέρα ​​από την υγειονομική περίθαλψη, όπως η ανίχνευση ήχου βαθιάς ψευδούς.

Οι αξιολογήσεις ψυχικής υγείας εξακολουθούν να βασίζονται σε μεγάλο βαθμό σε ερωτηματολόγια ασθενών και κλινικές συνεντεύξεις, παρά σε εργαστηριακές εξετάσεις ή σαρώσεις που είναι κοινές στη φυσική ιατρική. Αντί να εστιάζει σε αυτό που λέει κάποιος, ο Kintsugi αναλύει πώς το λένε. Η ιδέα δεν είναι καινούργια – τα μοτίβα ομιλίας όπως οι παύσεις, η δομή προτάσεων ή ο βηματισμός είναι γνωστοί δείκτες διαφόρων προβλημάτων ψυχικής υγείας – αλλά η Kintsugi λέει ότι η τεχνητή νοημοσύνη της μπορεί να εντοπίσει λεπτές αλλαγές που μπορεί να είναι λιγότερο αισθητές στους ανθρώπινους παρατηρητές, αν και δεν έχει δημοσιοποιήσει αναλυτικά ποια ακριβώς χαρακτηριστικά οδηγούν τις προβλέψεις των μοντέλων της. Σε έρευνα με κριτές από ομοτίμους, η εταιρεία ανέφερε αποτελέσματα που ευθυγραμμίζονται σε μεγάλο βαθμό με τα καθιερωμένα εργαλεία αυτοαναφοράς προσυμπτωματικού ελέγχου για την κατάθλιψη χρησιμοποιώντας δείγματα σύντομης ομιλίας.

Η εταιρεία έχει προωθήσει την τεχνολογία ως συμπλήρωμα – ή πιθανή αντικατάσταση – των αυτοαναφερόμενων εργαλείων προσυμπτωματικού ελέγχου, όπως το Ερωτηματολόγιο Υγείας Ασθενών-9 ή το PHQ-9, βασικό στοιχείο στην πρωτοβάθμια περίθαλψη και την ψυχιατρική. Αυτά τα εργαλεία προορίζονται να χρησιμοποιηθούν σε συνδυασμό με την επίσημη κλινική αξιολόγηση και παρόλο που έχουν επικυρωθεί ευρέως, τα ποσοστά προσυμπτωματικού ελέγχου μπορεί να είναι χαμηλά, βασίζονται σε ασθενείς που περιγράφουν με ακρίβεια τα συμπτώματα και μπορεί να μην καταγράφουν όλο το φάσμα των συμπτωμάτων που σχετίζονται με διαταραχές ψυχικής υγείας. Η Kintsugi είπε ότι το μοντέλο της που βασίζεται στον ήχο θα μπορούσε να παρέχει ένα πιο αντικειμενικό σήμα, να επεκτείνει τον έλεγχο σε περισσότερους ασθενείς και να αναπτυχθεί ευρέως σε συστήματα υγείας, ασφαλιστικές εταιρείες και προγράμματα εργοδοτών. Ωστόσο, για να γίνει αυτό απαιτείται έγκριση FDA.

Ο Kintsugi είχε ζητήσει την έγκριση του FDA μέσω του μονοπατιού “De Novo” του οργανισμού, μια διαδρομή που προορίζεται για νέες ιατρικές συσκευές χαμηλού κινδύνου χωρίς αντίστοιχο στην αγορά. Αν και στόχος του είναι να διευκολύνει την έγκριση νέων τύπων προϊόντων, εξακολουθεί να είναι μια διαδικασία που μπορεί να απαιτήσει χρόνια συλλογής δεδομένων και ρυθμιστικής αναθεώρησης. είπε η Kintsugi Ιδρυτής και Διευθύνουσα Σύμβουλος Grace Chang Ακρη Έχει δαπανηθεί πολύς χρόνος για την εκπαίδευση της ρυθμιστικής αρχής σχετικά με την τεχνητή νοημοσύνη. Το πλαίσιο επίσης δεν ταιριάζει καλά στην τεχνητή νοημοσύνη. Πολλές συσκευές έχουν σχεδιαστεί έχοντας κατά νου πιο παραδοσιακές συσκευές – όπως εμφυτεύματα ισχίου, χειρουργικά εργαλεία και βηματοδότες – των οποίων η σχεδίαση παραμένει σε μεγάλο βαθμό στατική μετά την έγκριση. Για συστήματα τεχνητής νοημοσύνης, αυτό μπορεί να σημαίνει κλείδωμα ενός μοντέλου που μπορεί να συνεχίσει να βελτιώνεται και να ενημερώνεται με την πάροδο του χρόνου.

Παρά τις καλύτερες προσπάθειες της κυβέρνησης Τραμπ να μειώσει τη γραφειοκρατία και να φέρει τα προϊόντα τεχνητής νοημοσύνης στον πραγματικό κόσμο το συντομότερο δυνατό, η Ζανγκ είπε ότι οι ρυθμιστικοί εμπειρογνώμονες της είπαν ότι «δεν υπάρχει τίποτα που να τους βοηθά να το κάνουν αυτό εκτός από το να φωνάζουν δυνατά από την κορυφή». Η διαδικασία έγκρισης έχει επιβραδυνθεί περαιτέρω από το κλείσιμο της ομοσπονδιακής κυβέρνησης. Η startup τελείωσε από χρηματοδότηση εν αναμονή της τελικής κατάθεσής της.

Οι προσπάθειες για άντληση πρόσθετων κεφαλαίων υποχώρησαν καθώς ο διάδρομος της εταιρείας μειώθηκε. Αντί να δεχτεί «αρπακτικές» βραχυπρόθεσμες προσφορές για την κάλυψη μισθών – ο Chang είπε ότι μια προσφορά πρόσφερε περίπου 50.000 $ την εβδομάδα σε αντάλλαγμα για 1 εκατομμύριο δολάρια σε απόθεμα – η ομάδα αποφάσισε να ανοίξει το μεγαλύτερο μέρος της τεχνολογίας της για να συνεχίσουν να εργάζονται άλλοι. Οι επενδυτές δεν ήταν ευχαριστημένοι.

Η διαθεσιμότητα μιας μορφής ανοιχτού κώδικα προσυμπτωματικού ελέγχου ψυχικής υγείας εγείρει επίσης ανησυχίες για την κακή χρήση της. Είναι θεωρητικά δυνατό τα εργαλεία που έχουν σχεδιαστεί για την ανίχνευση ενδείξεων κατάθλιψης ή άγχους να χρησιμοποιούνται εκτός κλινικών πλαισίων, όπως από εργοδότες ή ασφαλιστικές εταιρείες, χωρίς να παρέχουν τις εγγυήσεις που συνήθως απαιτούνται στην υγειονομική περίθαλψη. Προφανώς αυτό δεν θα έπρεπε να συμβεί, αλλά από τη στιγμή που αυτή η τεχνολογία δημοσιοποιηθεί, δεν θα υπάρχουν πολλά που θα εμποδίσουν τη χρήση της τεχνολογίας με τρόπους που οι δημιουργοί της δεν σκόπευαν.

Υπάρχουν και άλλες επιπλοκές. Ο Nicholas Cummins, ανώτερος λέκτορας στην ανάλυση ομιλίας και την τεχνητή νοημοσύνη στην υγεία στο King’s College του Λονδίνου, δήλωσε: Ακρη Οι εκδόσεις ανοιχτού κώδικα συχνά δεν διαθέτουν τη λεπτομερή «χάρτινη διαδρομή» που αναμένουν οι ρυθμιστικές αρχές, συμπεριλαμβανομένης μιας σαφούς καταγραφής του τρόπου με τον οποίο το μοντέλο εκπαιδεύτηκε, επικυρώθηκε και δοκιμάστηκε για να διασφαλιστεί η ακεραιότητά του. Χωρίς αυτό, είπε, μπορεί να είναι δύσκολο να φέρει κανείς ένα προϊόν που βασίζεται στην τεχνολογία μέσω της έγκρισης του FDA.

Το πιο πιθανό, πρότεινε ο Cummins, οι εταιρείες θα αντιμετωπίσουν το μοντέλο ως σημείο εκκίνησης και θα επιστρώσουν τα δικά τους δεδομένα και διαδικασίες επικύρωσης στην κορυφή. Ακόμα κι έτσι, προειδοποίησε, τα ακουστικά συστήματα εξακολουθούν να είναι ατελή και ενέχουν «λογικό» κίνδυνο λαθών, ειδικά για καταστάσεις όπως η κατάθλιψη, που εκδηλώνονται διαφορετικά σε άτομα, γλώσσες και πολιτισμικά πλαίσια και εξαρτώνται σε μεγάλο βαθμό από την ποικιλομορφία και τη δομή των δεδομένων ομιλίας που χρησιμοποιούνται στην προπόνηση.

Ο Ζανγκ δεν απέκλεισε ανησυχίες για πιθανή κακή χρήση, αλλά είπε: «Είναι λιγότερο ανησυχητικό στην πράξη από ό,τι φαίνεται στη θεωρία». Οι οργανισμοί με τα μεγαλύτερα κίνητρα για κατάχρηση της τεχνολογίας είναι επίσης εκείνοι που «αντιμετωπίζουν τα υψηλότερα εμπόδια για την ουσιαστική ανάπτυξή της», είπε. Κατά την άποψη του Zhang, «ο πιο πραγματικός κίνδυνος είναι η υποχρησιμοποίηση, όχι η κακή χρήση».

Ενώ η τεχνολογία ελέγχου ψυχικής υγείας της Kintsugi είναι ανοιχτού κώδικα, ο Zhang είπε ότι δεν έχει δημοσιοποιηθεί όλη η τεχνολογία της εταιρείας. Αυτό οφείλεται εν μέρει σε ανησυχίες για την ασφάλεια, είπε, και κυρίως σε τεχνολογία που μπορεί να ανιχνεύσει συνθετικούς ή χειρισμούς ήχους.

Ο Zhang είπε ότι η ικανότητα προέκυψε όταν η ομάδα πειραματίστηκε με ομιλία που παράγεται από AI για να βελτιώσει τα μοντέλα ψυχικής υγείας. Η τεχνητή φωνή δεν είχε τις ακουστικές ενδείξεις που το μοντέλο είχε εκπαιδευτεί να αναγνωρίζει, αποκαλύπτοντας ότι θα μπορούσε να χρησιμοποιηθεί για τη διάκριση μεταξύ των ανθρώπινων φωνών και των φωνών που δημιουργήθηκαν από το AI. Είναι μια αυξανόμενη πρόκληση δεδομένου του πολλαπλασιασμού των ενοχλητικών τεχνολογιών τεχνητής νοημοσύνης και των deepfakes που δεν έχουν ακόμη επιλυθεί αξιόπιστα. Είναι μια δυνητικά προσοδοφόρα ευκαιρία, ευτυχώς για το Kintsugi, μια περιοχή που δεν υπόκειται στην επίβλεψη του FDA.

Η Zhang αρνήθηκε να κάνει εικασίες για την επόμενη κίνησή της ή εάν η τεχνολογία της Kintsugi που εστιάζεται στην ασφάλεια μπορεί να επανεμφανιστεί, αλλά είπε ότι ελπίζει ότι κάποιος άλλος θα βασιστεί στο έργο της εταιρείας και θα το πραγματοποιήσει στα τελικά στάδια της διαδικασίας FDA. Αλλά χωρίς ευρύτερες αλλαγές, το κλείσιμο της Kintsugi είναι απίθανο να είναι το τελευταίο παράδειγμα χρονοδιαγράμματος εκκίνησης που έρχεται σε αντίθεση με τους ιατρικούς κανονισμούς και η Zhang είπε ότι ελπίζει ότι η πραγματικότητα δεν θα εμποδίσει άλλους ιδρυτές να προσπαθήσουν.