Το UN Women εξέδωσε μια κριτική προειδοποίηση ότι η ταχεία παγκόσμια εξάπλωση της τεχνητής νοημοσύνης αυξάνει σημαντικά τον κίνδυνο διακρίσεων και ψηφιακής βίας κατά των γυναικών, καλώντας για άμεση δράση για την αντιμετώπιση των προκαταλήψεων φύλου που είναι εγγενείς στα συστήματα τεχνητής νοημοσύνης.
ΕΙΚΟΝΑ: Διαδηλωτής παρακολουθεί συγκέντρωση για την Παγκόσμια Ημέρα της Γυναίκας. Φωτογραφία: Christina Sille/Reuters
Βασικά Σημεία
- Το UN Women προειδοποιεί ότι η τεχνητή νοημοσύνη αυξάνει τον κίνδυνο διακρίσεων και βίας μεταξύ των γυναικών, με την έρευνα να δείχνει σημαντική μεροληψία φύλου στα συστήματα τεχνητής νοημοσύνης και στα μεγάλα γλωσσικά μοντέλα.
- Μια ανάλυση από το Stanford Social Innovation Review διαπίστωσε ότι το 44 τοις εκατό των 133 συστημάτων τεχνητής νοημοσύνης εμφάνιζαν μεροληψία φύλου και μια μελέτη της UNESCO διαπίστωσε ότι το 20 τοις εκατό των απαντήσεων LLM ήταν σεξιστικές ή μισογυνικές.
- Οι ειδικοί σημειώνουν ότι η τεχνητή νοημοσύνη αντικατοπτρίζει τις υπάρχουσες κοινωνικές προκαταλήψεις συνδέοντας τις γυναίκες με το «σπίτι» και την «οικογένεια» και τους άνδρες με «επιχειρήσεις» και «καριέρα», υπογραμμίζοντας την πρόκληση της ανάπτυξης της τεχνητής νοημοσύνης πέρα από αυτές τις προκαταλήψεις.
- Η τεχνητή νοημοσύνη αυξάνει την ψηφιακή βία κατά των γυναικών: Τα Deepfakes και η μη συναινετική κοινοποίηση προσωπικών εικόνων στοχεύουν δυσανάλογα τις γυναίκες και τα κορίτσια.
- Λίγες εθνικές στρατηγικές τεχνητής νοημοσύνης αφορούν το φύλο και ακόμη λιγότερες περιλαμβάνουν ουσιαστικές διατάξεις που αφορούν το φύλο για τον εντοπισμό στερεοτύπων και τη βελτίωση της εκπροσώπησης.
Η τεχνητή νοημοσύνη (AI) αλλάζει την πραγματικότητα για δισεκατομμύρια ανθρώπους σε όλο τον κόσμο – από το τι κάνουμε μέχρι το πώς το κάνουμε.
Ωστόσο, η UN Women προειδοποίησε, επικαλούμενη πολυάριθμες μελέτες, ότι η επανάσταση της τεχνητής νοημοσύνης θέτει τις γυναίκες σε μεγαλύτερο κίνδυνο διακρίσεων και βίας.
Σε ένα δελτίο μέσων ενημέρωσης, ανέφερε μια ανάλυση από το Stanford Social Innovation Review που εδρεύει στις ΗΠΑ, η οποία διαπίστωσε ότι το 44 τοις εκατό των 133 συστημάτων τεχνητής νοημοσύνης εμφάνιζαν προκατάληψη φύλου.
Το UN Women είναι η οντότητα των Ηνωμένων Εθνών αφιερωμένη στην ισότητα των φύλων και την ενδυνάμωση.
Η τεχνητή νοημοσύνη αντανακλά κοινωνικές προκαταλήψεις
Μια άλλη μελέτη του Εκπαιδευτικού, Επιστημονικού και Πολιτιστικού Οργανισμού των Ηνωμένων Εθνών (UNESCO) που αναφέρεται από τον οργανισμό διαπίστωσε ότι το 20 τοις εκατό των απαντήσεων σε μεγάλα γλωσσικά μοντέλα (LLM) εμφάνιζαν σεξιστικές και μισογυνιστικές συμπεριφορές.
«Βρέθηκε ότι τα μοντέλα συσχετίζουν τις γυναίκες με όρους όπως «σπίτι», «οικογένεια» και «παιδιά» και τους άνδρες με «επιχειρήσεις», «στέλεχος» και «καριέρα».
«Για να είμαι ειλικρινής, το θέμα δεν είναι ότι οι προπτυχιακοί διδάσκονται ορισμένες σεξιστικές δηλώσεις.
«Αποτελούν αντανάκλαση των υφιστάμενων προκαταλήψεων και προκαταλήψεων στην κοινωνία.
«Θα δείχνει έναν γιατρό ως άνδρα και μια νοσοκόμα ως γυναίκα, και αυτό προέρχεται από τη γενική αντίληψη των γυναικών ως φροντιστών», λέει ο Jibu Elias, Ινδός επικεφαλής του Mozilla Foundation, ενός μη κερδοσκοπικού οργανισμού με έδρα τις ΗΠΑ που προωθεί ένα προσβάσιμο και χωρίς αποκλεισμούς Διαδίκτυο.
«Η μεγάλη πρόκληση εδώ είναι πώς η τεχνητή νοημοσύνη γνωρίζει πραγματικά ότι η κοινωνία εξελίσσεται», προσθέτει.
Η προειδοποίηση των Ηνωμένων Εθνών για τις Γυναίκες έρχεται καθώς η παγκόσμια κοινότητα προετοιμάζεται για τον Παγκόσμιο Διάλογο του ΟΗΕ για τη Διακυβέρνηση της Τεχνητής Νοημοσύνης, που έχει προγραμματιστεί για τις 6-7 Ιουλίου, και την Παγκόσμια Σύνοδο Κορυφής του AI for Good στη Γενεύη της Ελβετίας, από τις 7 έως τις 10 Ιουλίου.
Εξαίρεση στον σχεδιασμό και την ανάπτυξη AI
Σύμφωνα με τον Osama Manzar, ιδρυτή και διευθυντή του Digital Empowerment Foundation, το ψηφιακό οικοσύστημα έχει μειονεκτήσει ιστορικά τις γυναίκες και η τεχνητή νοημοσύνη προσθέτει ένα άλλο επίπεδο σε αυτό το μειονέκτημα.
«Το πραγματικό ερώτημα δεν πρέπει να είναι αν οι γυναίκες χρησιμοποιούν τεχνητή νοημοσύνη, αλλά εάν οι γυναίκες θεωρούνται σωστές στα επίπεδα σχεδιασμού, ανάπτυξης, υλοποίησης και υλοποίησης», λέει.
Όσον αφορά τις προκαταλήψεις που αντικατοπτρίζονται από αυτήν την τεχνολογία, σημειώνει ότι η τεχνητή νοημοσύνη βασίζεται σε μεγάλα σύνολα δεδομένων και ότι εάν τα δεδομένα δεν συλλεχθούν, δεν αποθηκευτούν και δεν χρησιμοποιηθούν πρώτα ηθικά, το LLM θα ενισχύσει μόνο αυτές τις προκαταλήψεις.
Επειδή το UN Women θεωρεί την ασφάλεια ως βασικό συστατικό στο ίδιο το στάδιο του σχεδιασμού, στη μελέτη 138 χωρών, μόνο 24 χώρες ανέφεραν ζητήματα φύλου στην εθνική τους στρατηγική τεχνητής νοημοσύνης.
Επιπλέον, μόνο 18 από αυτές περιελάμβαναν ουσιαστικές διατάξεις για το φύλο που θα μπορούσαν να βοηθήσουν την τεχνητή νοημοσύνη να εντοπίσει στερεότυπα, να αυξήσει την εκπροσώπηση και να βελτιώσει την προσβασιμότητα σε κλίμακα.
Ο ρόλος της τεχνητής νοημοσύνης στην ψηφιακή βία
Οι συστάσεις υπογραμμίζουν επίσης τον ρόλο της τεχνητής νοημοσύνης στην αύξηση της ψηφιακής βίας κατά των γυναικών.
Οι προηγούμενες εκθέσεις της οργάνωσης διαπίστωσαν ότι σχεδόν μία στις τέσσερις γυναίκες υπερασπιστές των ανθρωπίνων δικαιωμάτων, ακτιβίστριες και δημοσιογράφοι που συμμετείχαν στην έρευνα είχε βιώσει διαδικτυακή βία με τη βοήθεια τεχνητής νοημοσύνης και το 12% είπε ότι είχε βιώσει μη συναινετική κοινή χρήση προσωπικών εικόνων.
“Η τεχνητή νοημοσύνη κάνει τα πράγματα χειρότερα. “Τα Deepfakes είναι από τα πιο ορατά παραδείγματα κατάχρησης τεχνητής νοημοσύνης που στοχεύουν δυσανάλογα γυναίκες και κορίτσια”, ανέφερε στις συστάσεις του η UN Women.
Το έξι τοις εκατό των γυναικών έχουν πέσει θύματα βαθιάς ψεύτισης ή χειραγώγησης εικόνων και βίντεο και περισσότερες από μία στις τέσσερις έχουν λάβει ανεπιθύμητες σεξουαλικές προόδους μέσω ψηφιακών μηνυμάτων.
Σύμφωνα με τους ειδικούς, πριν μιλήσουμε για χρήστες, είναι σημαντικό να γνωρίζουμε ποιος δημιουργεί την τεχνολογία.
«Από τις ομάδες ανάπτυξης μέχρι τα ερευνητικά εργαστήρια και μετά τους φορείς προτύπων, η εκπροσώπηση των γυναικών είναι χαμηλή και κάθε τεχνολογία είναι αντανάκλαση του δημιουργού της», λέει ο Elias.