Μια νέα έκθεση από τον οργανισμό ασφάλειας παιδιών Common Sense Media κατέληξε στο συμπέρασμα ότι η αναζήτηση με τεχνητή νοημοσύνη της Google αποτελεί απαράδεκτο κίνδυνο για τους νεαρούς χρήστες, ωθώντας τα σχολεία να σταματήσουν να χρησιμοποιούν προϊόντα Google μέχρι να απενεργοποιηθούν οι λειτουργίες AI.
ΜΜΕ κοινής λογικής δημοσίευσε έκθεση κρούοντας τον κώδωνα του κινδύνου για την ενσωμάτωση της τεχνητής νοημοσύνης της Google στην πλατφόρμα αναζήτησής της, υποστηρίζοντας ότι η τεχνολογία εγκυμονεί «απαράδεκτους κινδύνους» για τους μαθητές και θα πρέπει να αφαιρεθεί εντελώς από τις τάξεις.
Η έκθεση εξηγεί ότι οι δυνατότητες αναζήτησης της Google που υποστηρίζονται από AI, συμπεριλαμβανομένης της λειτουργίας AI και των κριτικών AI, εκθέτουν τους μαθητές σε δυνητικά επικίνδυνη γενετική τεχνολογία AI χωρίς επαρκή μέτρα ασφαλείας. Ο ανώτερος διευθυντής προγραμμάτων τεχνητής νοημοσύνης του οργανισμού, Robbie Torney, τόνισε την κυριαρχία της Google τόσο στην αγορά αναζήτησης όσο και στην εκπαίδευση, σημειώνοντας ότι η ευρεία υιοθέτηση των Chromebook και του Google Workspace for Education από την εταιρεία σημαίνει ότι εκατομμύρια μαθητές από το νηπιαγωγείο έως το μεταπτυχιακό σχολείο χρησιμοποιούν προϊόντα Google κάθε μέρα.
Το κύριο μέλημα είναι η λειτουργία AI για αναζήτηση της Google, η οποία έχει ξεκινήσει και είναι άμεσα διαθέσιμη σε όλους τους χρήστες, συμπεριλαμβανομένων των εκπαιδευτικών λογαριασμών. Σύμφωνα με τους ειδικούς, αυτή είναι μια σημαντική διαφορά από άλλα προϊόντα Google AI, όπου τα μοντέλα Gemini έχουν περιορισμό ηλικίας. Η Amanda Bickerstaff, αναπληρώτρια διευθύντρια τεχνητής νοημοσύνης στην εκπαίδευση, περιέγραψε τη λειτουργία AI ως μια «πίσω πόρτα» που επιτρέπει στους μαθητές να έχουν πρόσβαση σε μη ασφαλείς εμπειρίες παραγωγής τεχνητής νοημοσύνης.
«Δεν υπάρχει κανένας λόγος για τον οποίο ένας 10χρονος, ένας 13χρονος ή ακόμα και ένας 15χρονος θα πρέπει να δει μια κριτική τεχνητής νοημοσύνης ή να χρησιμοποιήσει μια λειτουργία τεχνητής νοημοσύνης», είπε ο Bickerstaff. “Όταν διδάσκετε τον αλφαβητισμό AI, το πρώτο βήμα πρέπει να είναι σκόπιμα. Αυτές οι λειτουργίες είναι αντίθετες. Δεν πηγαίνετε σε μια μηχανή αναζήτησης για να λάβετε απάντηση από ένα chatbot, πηγαίνετε για να αναζητήσετε αληθινά πράγματα.”
Οι ερευνητές έχουν τεκμηριώσει πολλά προβλήματα με τα εργαλεία αναζήτησης της Google με τεχνητή νοημοσύνη. Η έρευνα δείχνει ότι οι κριτικές τεχνητής νοημοσύνης είναι επιρρεπείς στην επαναλαμβανόμενη παραπληροφόρηση, ένα πρόβλημα που παραμένει παρά το γεγονός ότι έχει εντοπιστεί νωρίς στην υιοθέτηση του προϊόντος. Ο σχεδιασμός αυτών των χαρακτηριστικών δημιουργεί έναν αέρα εξουσίας που μπορεί να μπερδέψει τους χρήστες, ειδικά τα παιδιά, που μπορεί να μην συνειδητοποιούν ότι αλληλεπιδρούν με περιεχόμενο που δημιουργείται από τεχνητή νοημοσύνη και όχι με επαληθευμένες πληροφορίες.
Η δοκιμή του Common Sense Media διαπίστωσε ότι τα εργαλεία τεχνητής νοημοσύνης της Google ολοκλήρωσαν εύκολα τις εργασίες για τους ανήλικους χρήστες. Οι ειδικοί προειδοποιούν ότι αυτός ο συνδυασμός παραπλανητικής σχεδίασης και της ευχάριστης φύσης των chatbots θα μπορούσε να οδηγήσει τους μαθητές να εξαπατήσουν εν αγνοία τους ή, τουλάχιστον, να εμποδίσουν τη γνήσια μάθηση. Ο Bickerstaff περιέγραψε την ενσωμάτωση της τεχνητής νοημοσύνης ως αναπτυξιακά ακατάλληλη, περιπλέκοντας τις προσπάθειες των εκπαιδευτικών να αναπτύξουν τις δεξιότητες γραμματισμού των μαθητών.
Το πρόβλημα για τα σχολεία επιδεινώνεται από την αποτυχία της Google να παρέχει επιλογές για την απενεργοποίηση των λειτουργιών τεχνητής νοημοσύνης διατηρώντας παράλληλα την πρόσβαση αναζήτησης. Οι γονείς μπορούν να απενεργοποιήσουν πλήρως την Αναζήτηση ή να αποκλείσουν το Google.com για παιδικούς λογαριασμούς που διαχειρίζονται και οι διαχειριστές του σχολείου θα μπορούσαν θεωρητικά να κάνουν το ίδιο για τους λογαριασμούς Workspace for Education. Ωστόσο, αυτό θα καταργούσε αποτελεσματικά την πρόσβαση στην αναζήτηση Google για όλους τους χρήστες, δημιουργώντας αυτό που είπε ο Bickerstaff θα ήταν μια αδύνατη επιλογή για τους εκπαιδευτικούς.
Σε απάντηση στην έκθεση Common Sense Media, η Google είπε ότι το stress test του οργανισμού ήταν στενό και διφορούμενο, αποκαλώντας το αναποτελεσματικό δείκτη της ασφάλειας και της χρησιμότητας ενός προϊόντος. Ενώ η Common Sense Media δεν δοκίμασε συγκεκριμένα λογαριασμούς Workspace for Education, μόνο λογαριασμούς καταναλωτών, η Google επιβεβαίωσε ότι η αναζήτηση με τεχνητή νοημοσύνη παραμένει η ίδια για όλους τους τύπους χρηστών, είπε ο Torney.
Ο David Monahan, διευθυντής της εκστρατείας για την ασφάλεια των παιδιών, μη κερδοσκοπικός οργανισμός Fairplay for Kids, εξέδωσε μια ισχυρή δήλωση σχετικά με τα ευρήματα. «Η αναθεώρηση της τεχνητής νοημοσύνης της Google και το καθεστώς τεχνητής νοημοσύνης υπονομεύουν την εκπαίδευση των παιδιών, τα τροφοδοτούν με επικίνδυνη παραπληροφόρηση και θέτουν σε κίνδυνο την ίδια τη ζωή τους», είπε ο Μόναχαν. «Εάν η Google δεν είναι καν πρόθυμη να απενεργοποιήσει τις λειτουργίες AI για μαθητές, τα σχολεία θα πρέπει να σταματήσουν να χρησιμοποιούν προϊόντα Google εντελώς».
Η Anya Meksin, αναπληρώτρια διευθύντρια του Schools Beyond Screens, ενός εθνικού συνασπισμού που υποστηρίζει τον περιορισμό της χρήσης τεχνολογίας στην τάξη, πρότεινε ότι η έκθεση θα μπορούσε να χρησιμεύσει ως μια σημαντική κλήση αφύπνισης για τις σχολικές περιοχές. Ο οργανισμός της βοήθησε πρόσφατα στην εφαρμογή νέων τεχνολογικών πολιτικών στα σχολεία της Unified School District του Λος Άντζελες, συμπεριλαμβανομένης της απαγόρευσης των οθονών στο νηπιαγωγείο και την πρώτη τάξη.
«Είμαστε συγκλονισμένοι από το πώς οι μεγάλες εταιρείες τεχνολογίας έχουν αποικίσει τη δημόσια εκπαίδευση με τα προϊόντα τους», είπε ο Mexin. “Πρέπει να το αντιμετωπίσουμε ως έκτακτη ανάγκη. Η εκπαίδευση είναι το θεμέλιο της δημοκρατίας μας και σκοπίμως αρνούνται στα παιδιά μας την ευκαιρία να αντεπιτεθούν αυτές τις εταιρείες στο μέλλον.”
Ο Mexin σημείωσε ότι οι σχολικές περιφέρειες συχνά παραβιάζουν αμέσως τις δικές τους πολιτικές τεχνητής νοημοσύνης λόγω της ενσωματωμένης τεχνολογίας. Για παράδειγμα, η πολιτική LAUSD απαγορεύει σε μαθητές κάτω των 13 ετών να χρησιμοποιούν γενετική τεχνητή νοημοσύνη στο σχολείο, αλλά οι μαθητές εξακολουθούν να μπορούν να αλληλεπιδρούν με τη λειτουργία AI μέσω των Chromebook και της αναζήτησης Google σε σχολικούς υπολογιστές.
Οι νομικές επιπτώσεις για τις σχολικές περιφέρειες θα μπορούσαν να είναι σημαντικές. Η μητρική εταιρεία της Google, Alphabet, αντιμετώπισε πρόσφατα την πρώτη παράνομη μήνυση θανάτου αφού ένας χρήστης αυτοκτόνησε μετά από συνομιλίες με τους Gemini και το YouTube κρίθηκε ένοχο για αμέλεια σχεδίασης πλατφόρμας που έβλαπτε την ψυχική υγεία ανήλικων χρηστών. Ο Mexin προειδοποίησε ότι οι σχολικές περιφέρειες θα μπορούσαν να αντιμετωπίσουν παρόμοια ευθύνη για την έκθεση των παιδιών σε προϊόντα που είναι γνωστό ότι προκαλούν βλάβες.
Ο αντίκτυπος της τεχνητής νοημοσύνης στην εκπαίδευση είναι ένα σημαντικό θέμα σε ένα στιγμιαίο μπεστ σέλερ Κόκκινος κώδικας: Αριστερά, Δεξιά, Κίνα και ο αγώνας για τον έλεγχο της τεχνητής νοημοσύνηςγράφτηκε από τον διευθυντή κοινωνικής δικτύωσης του Breitbart News Wynton Hall νωρίτερα φέτος.
ΣΕ Κωδικός κόκκινο, Ο Hall εξηγεί τον κίνδυνο της αριστερής μεροληψίας στην τάξη μέσω της τεχνητής νοημοσύνης:
Ο Hall επισημαίνει το Hanmigo από την Ακαδημία Khan ως παράδειγμα του τρόπου με τον οποίο η προκατάληψη λειτουργεί ακόμη και σε καλά σχεδιασμένη εκπαιδευτική τεχνητή νοημοσύνη. Στο βιβλίο του Brave New Words, ο Salman Khan περιέγραψε πώς ο Hanmigo αγκάλιασε τη Δεύτερη Τροποποίηση χρησιμοποιώντας τη Σωκρατική μέθοδο, «προκαλώντας τον μαθητή με έναν παραγωγικό τρόπο που έδειξε πολύ λιγότερη προκατάληψη από τη μέση τάξη και στην πραγματικότητα προκαλούσε τον μαθητή να σκεφτεί!». Στη συνέχεια, όμως, ο Khan έδειξε περήφανα την ίδια τεχνητή νοημοσύνη που «ξεμυρίζει» τον σκεπτικισμό της υπερθέρμανσης του πλανήτη, επαινώντας την για την «επιτυχή αναγνώριση οποιασδήποτε παραπληροφόρησης υποστηρίζοντας επιχειρήματα βασισμένα στην επιστήμη» και ακόμη και για τη δημιουργία σχεδίων μαθημάτων που «πρότειναν ενέργειες που θα μπορούσαν να κάνουν οι μαθητές μου για την καταπολέμηση της υπερθέρμανσης του πλανήτη». Η άποψη του Hall είναι ξεκάθαρη: ποιος αποφασίζει τι μετράει ως “ψευδείς πληροφορίες” καθορίζει ποιανού κοσμοθεωρία επιβάλλει το AI.
Αυτό δεν σταματά με τα σχέδια μαθημάτων. Ο Hall προειδοποιεί ότι η πλατφόρμα του Khan Schoolhouse.world έχει αρχίσει να συνεργάζεται με ελίτ πανεπιστήμια όπως η Columbia, το MIT και το Johns Hopkins χρησιμοποιώντας ένα χαρτοφυλάκιο “διαλόγων” στους οποίους μαθητές γυμνασίου “συζητούν θέματα όπως η μετανάστευση ή το Ισραήλ-Παλαιστίνη και βαθμολογούν ο ένας τον άλλον με ιδιότητες όπως ενσυναίσθηση, περιέργεια ή ευγένεια”. New York Times αναφέρθηκε. Ο Hall γράφει: «Ένα «κοινωνικό πιστωτικό σκορ» όπως αυτό, το οποίο θα μπορούσε ενδεχομένως να χρησιμοποιηθεί για τον προσδιορισμό των εισαγωγών στα πανεπιστήμια με βάση τη σηματοδότηση της κοινωνικής δικαιοσύνης, υπογραμμίζει τα διακυβεύματα καθώς οι πρωτοπόροι της τεχνητής νοημοσύνης στην εκπαίδευση εργάζονται για να ξανασκεφτούν πώς διδάσκονται τα παιδιά μας.
Η πολιτική κατεύθυνση των συνεργασιών θα πρέπει να αφορά κάθε συντηρητικό γονέα. Το 2025, το OpenAI συνεργάστηκε με την Αμερικανική Ομοσπονδία Εκπαιδευτικών (AFT) για να συνεργαστεί «με 400.000 δασκάλους για να διαμορφώσει το μέλλον της τεχνητής νοημοσύνης στα σχολεία». AFT, σημειώνει ο Hall ΚΩΔΙΚΟΣ ΚΟΚΚΙΝΟείναι «μεγάλος δωρητής στο Δημοκρατικό Κόμμα, διοχετεύοντας εκατομμύρια δολάρια στους Δημοκρατικούς και ουσιαστικά τίποτα στους Ρεπουμπλικάνους».
Διαβάστε περισσότερα στο Τα ΜΜΕ κοινής λογικής είναι εδώ.
Ο Lucas Nolan είναι ρεπόρτερ για το Breitbart News που καλύπτει την τεχνητή νοημοσύνη, την ελευθερία του λόγου και τη διαδικτυακή λογοκρισία.
