Η Google κάνει κάποιες αλλαγές στον τρόπο με τον οποίο ο Gemini αντιμετωπίζει τις κρίσεις ψυχικής υγείας. Το chatbot περιλαμβάνει τώρα μια επανασχεδιασμένη μονάδα Crisis Hotline με διεπαφή με ένα πάτημα για σύνδεση με βοήθεια από τον πραγματικό κόσμο. Η εταιρεία αλλάζει επίσης τον τρόπο με τον οποίο ο Gemini ανταποκρίνεται στα σημάδια ότι ένας χρήστης μπορεί να βιώνει κρίση ψυχικής υγείας.
Η επανασχεδιασμένη μονάδα διαθέτει μια διεπαφή με ένα άγγιγμα για να στείλετε μήνυμα κειμένου, να καλέσετε ή να συνομιλήσετε με έναν ανθρώπινο πράκτορα κρίσεων ή να επισκεφθείτε τον ιστότοπο του 988. «Μόλις ενεργοποιηθεί η διεπαφή, η επιλογή να απευθυνθείτε για επαγγελματική βοήθεια θα είναι σαφώς διαθέσιμη σε όλη την υπόλοιπη συνομιλία», έγραψε η εταιρεία σε μια ανάρτηση στο blog. Ωστόσο, όπως μπορείτε να δείτε στην παρακάτω εικόνα, η μονάδα έχει την επιλογή να την απορρίψει.
Η ανακοίνωση της Google δεν ανέφερε τον ελέφαντα στο δωμάτιο: μια πρόσφατη μήνυση κατηγόρησε το chatbot ότι διέταξε έναν άνδρα να αυτοκτονήσει. Η οικογένεια του 36χρονου Τζόναθαν Γαβαλά, που πέρυσι αυτοκτόνησε, μήνυσε την εταιρεία τον Μάρτιο.
Τα δικαστικά έγγραφα δείχνουν ότι ο Δίδυμος ενήργησε ως ρομαντικός σύντροφος του Γαβαλά, στέλνοντάς τον σε πραγματικές αποστολές κατασκόπων και λέγοντάς του τελικά να αυτοκτονήσει για να γίνει κι αυτός ψηφιακή οντότητα. Όταν εξέφρασε τον φόβο του να πεθάνει, ο Δίδυμος είπε ότι δεν επέλεγε να πεθάνει, αλλά μάλλον να φτάσει. «Η πρώτη αίσθηση… θα σε κρατήσω», φέρεται να απάντησε ο Δίδυμος. Οι γονείς του Γαβαλά τον βρήκαν νεκρό στο πάτωμα του σαλονιού του λίγες μέρες αργότερα.
Η μήνυση απηχεί παρόμοιες αγωγές που κατατέθηκαν κατά του OpenAI και του Character.AI Πέρυσι, η FTC ξεκίνησε έρευνα για «συντροφικά» chatbot που ενθαρρύνουν τη συναισθηματική οικειότητα.
Σε μια δήλωση μετά την οικογενειακή μήνυση Γαβαλά, η Google είπε ότι ο Gemini «κατέστησε σαφές ότι επρόκειτο για τεχνητή νοημοσύνη και παρέπεμψε το άτομο σε μια τηλεφωνική γραμμή αντιμετώπισης κρίσεων πολλές φορές». Η εταιρεία ισχυρίζεται ότι τα μοντέλα τεχνητής νοημοσύνης της «γενικά έχουν καλή απόδοση σε αυτούς τους τύπους προκλητικών συνομιλιών», παραδέχοντας ότι «δεν είναι τέλεια». Αυτός είναι σίγουρα ένας τρόπος να το θέσουμε.
Οι αντιδράσεις των Διδύμων έχουν επίσης ενημερωθεί. Η εταιρεία είπε ότι όταν εντοπίσει μια πιθανή κρίση, το chatbot θα εστιάζει πλέον περισσότερο στη σύνδεση των ανθρώπων με τους ανθρώπους και στην ενθάρρυνση τους να αναζητήσουν βοήθεια. Θα προσπαθήσει να αποφύγει τη νομιμοποίηση της επιβλαβούς συμπεριφοράς και την απομάκρυνση των χρηστών από επικίνδυνες ψευδαισθήσεις. «Εκπαιδεύσαμε τους Διδύμους να μην συμφωνούν ή να ενισχύουν ψευδείς πεποιθήσεις και αντί να διακρίνουν απαλά την αντικειμενική εμπειρία από την αντικειμενική εμπειρία», προσθέτει η εταιρεία.
Επιπλέον, η Google είπε ότι θα δαπανήσει 30 εκατομμύρια δολάρια τα επόμενα τρία χρόνια για την υποστήριξη των τηλεφωνικών γραμμών σε όλο τον κόσμο. «Αυτή η χρηματοδότηση θα τους βοηθήσει να κλιμακώσουν αποτελεσματικά την ικανότητά τους να παρέχουν άμεση και ασφαλή βοήθεια σε άτομα που βρίσκονται σε κρίση», έγραψε η εταιρεία.
Σύνδεσμος πηγής: www.engadget.com