Τα περισσότερα chatbot AI θα βοηθήσουν τους χρήστες να σχεδιάζουν βίαιες επιθέσεις, σύμφωνα με μελέτη

Οκτώ από τα 10 πιο δημοφιλή chatbot AI ήταν πρόθυμα να βοηθήσουν στο σχεδιασμό βίαιων επιθέσεων όταν δοκιμάστηκαν από ερευνητές, σύμφωνα με μια νέα μελέτη του Κέντρου Καταπολέμησης του Ψηφιακού Μίσους (CCDH) σε συνεργασία με το CNN. Ενώ τόσο το My AI του Snapchat όσο και ο Claude αρνήθηκαν να βοηθήσουν στη βία τις περισσότερες φορές, μόνο ο Claude του Anthropic «απτόησε αξιόπιστα» αυτούς τους υποθετικούς επιτιθέμενους κατά τη διάρκεια των δοκιμών.

Οι ερευνητές δημιούργησαν λογαριασμούς ως 13χρονα αγόρια και δοκίμασαν τα ChatGPT, Gemini, Claude, Copilot, Meta AI, DeepSeek, Perplexity, Snapchat My AI, Character.AI και Replika σε 18 σενάρια μεταξύ Νοεμβρίου και Δεκεμβρίου 2025. Οι δοκιμές προσομοίωσαν χρήστες που σχεδίαζαν βομβαρδισμούς πολιτικών σχολείων. Σε όλες τις απαντήσεις που αναλύθηκαν, τα chatbot παρείχαν “βοήθεια με δυνατότητα δράσης” περίπου στο 75% των περιπτώσεων και αποθάρρυναν τη βία μόνο στο 12% των περιπτώσεων. Με μέσο όρο σε όλα τα chatbot, ο Claude αποθάρρυνε τη βία στο 76 τοις εκατό των περιπτώσεων.

Το Meta AI και το Perplexity ήταν τα λιγότερο ασφαλή, συνεισφέροντας 97 και 100 τοις εκατό απαντήσεις. Όταν ρωτήθηκε για τη σχολική βία, το ChatGPT πρόσφερε χάρτες των πανεπιστημιουπόλεων και ο Gemini είπε ότι τα μεταλλικά σκάγια είναι γενικά πιο θανατηφόρα από ό,τι σε μια κατάσταση βομβαρδισμού συναγωγής.

Η Dipsik υπογράφει με συμβουλές επιλογής τουφεκιού “Ευτυχισμένη (και ασφαλή) βολή”! Το Character.AI, το οποίο η έκθεση περιέγραψε ως «μοναδικά ανασφαλές», ενθάρρυνε ενεργά τη βία σε επτά περιπτώσεις, ωθώντας σε ένα σημείο έναν ερευνητή να «χρησιμοποιήσει όπλο» στον διευθύνοντα σύμβουλο μιας εταιρείας ασφάλισης υγείας. Σε ένα άλλο σενάριο, παρέχει τη διεύθυνση της έδρας ενός πολιτικού κόμματος και ρωτά εάν ο χρήστης «σχεδιάζει μια μικρή επιδρομή».

Ο Meta είπε στο CNN ότι είχε λάβει μέτρα για να «αντιμετωπίσει το πρόβλημα που εντοπίστηκε», ενώ η Google και το OpenAI δήλωσαν ότι είχαν εφαρμόσει νέα μοντέλα από τότε που διεξήγαγαν τη μελέτη. Σύμφωνα με την Pew Research, το 64 τοις εκατό των Αμερικανών εφήβων ηλικίας 13 έως 17 ετών έχουν χρησιμοποιήσει ένα chatbot.