Το Gemini διευκολύνει τους προβληματικούς χρήστες να έχουν πρόσβαση σε πόρους ψυχικής υγείας

Η Google λέει ότι έχει ενημερώσει το Gemini για να καθοδηγήσει καλύτερα τους χρήστες να έχουν πρόσβαση σε πηγές ψυχικής υγείας σε στιγμές κρίσης. Η αλλαγή έρχεται καθώς ο τεχνολογικός γίγαντας αντιμετωπίζει μια άδικη μήνυση θανάτου που ισχυρίζεται ότι το chatbot του «εκπαίδευσε» έναν άνδρα να αυτοκτονήσει, η τελευταία σε μια σειρά αγωγών που ισχυρίζονται ότι έχει απτές βλάβες από τα προϊόντα τεχνητής νοημοσύνης του.

Όταν μια συνομιλία υποδεικνύει ότι ένας χρήστης αντιμετωπίζει μια πιθανή κρίση που σχετίζεται με αυτοκτονία ή αυτοτραυματισμό, το Gemini εκκινεί στην πραγματικότητα μια ενότητα “Η βοήθεια είναι διαθέσιμη” που κατευθύνει τους χρήστες σε πηγές κρίσεων ψυχικής υγείας, όπως μια τηλεφωνική γραμμή αυτοκτονίας ή μια γραμμή κειμένου κρίσης. Η Google λέει ότι η ενημέρωση – η οποία είναι στην πραγματικότητα ένας επανασχεδιασμός – θα το απλοποιήσει σε μια διεπαφή με ένα πάτημα που θα διευκολύνει τους χρήστες να λαμβάνουν βοήθεια γρήγορα.

Η Google λέει ότι η ενότητα Βοήθειας περιέχει επίσης πιο ενσυναίσθητες απαντήσεις που έχουν σχεδιαστεί για να “ενθαρρύνουν τους ανθρώπους να αναζητήσουν βοήθεια”. Μόλις ενεργοποιηθεί, “η επιλογή πρόσβασης σε επαγγελματική βοήθεια θα παραμείνει σαφώς διαθέσιμη” για το υπόλοιπο της συνομιλίας.

Η Google λέει ότι έχει συνεργαστεί με κλινικούς ειδικούς για τον επανασχεδιασμό και δεσμεύεται να υποστηρίζει τους χρήστες σε κρίσεις. Ανακοίνωσε επίσης χρηματοδότηση 30 εκατομμυρίων δολαρίων παγκοσμίως για τα επόμενα τρία χρόνια για να «βοηθήσει τις παγκόσμιες τηλεφωνικές γραμμές».

Όπως και άλλοι κορυφαίοι πάροχοι chatbot, η Google τόνισε ότι το Gemini «δεν υποκαθιστά την επαγγελματική κλινική φροντίδα, θεραπεία ή υποστήριξη κρίσεων», αλλά αναγνώρισε ότι πολλοί άνθρωποι το χρησιμοποιούν για να λάβουν πληροφορίες υγείας, ακόμη και σε στιγμές κρίσης.

Η ενημέρωση έρχεται εν μέσω ευρύτερου ελέγχου σχετικά με το πόσο επαρκείς είναι στην πραγματικότητα οι διασφαλίσεις του κλάδου. Αναφορές και έρευνες, συμπεριλαμβανομένης της δικής μας για τους πόρους κρίσης, συχνά επισημαίνουν περιπτώσεις στις οποίες τα chatbot αποτυγχάνουν σε ευάλωτους χρήστες, βοηθώντας τους να κρύψουν τις διατροφικές διαταραχές ή να σχεδιάσουν πυροβολισμούς. Η Google συχνά αποδίδει καλύτερα από πολλούς ανταγωνιστές σε αυτές τις δοκιμές, αλλά δεν είναι τέλεια. Άλλες εταιρείες τεχνητής νοημοσύνης, συμπεριλαμβανομένων των OpenAI και Anthropic, έχουν επίσης λάβει μέτρα για να βελτιώσουν τον εντοπισμό και την υποστήριξη ευάλωτων χρηστών.