Πώς μπορούμε να διασφαλίσουμε ότι η τεχνολογία που έχει σχεδιαστεί για να μας βοηθά να κλιμακώνουμε δεν κλιμακώνει τις προκαταλήψεις μας; Ευχαριστώ φρέσκια έρευνα από Stanford Human-Cented AI Research Institute, Οι ερωτήσεις έγιναν πιο επείγουσες, οι απαντήσεις πιο περίπλοκες και δυσάρεστες. Οι ερευνητές διαπίστωσαν ότι τα ευρέως χρησιμοποιούμενα εργαλεία προσυμπτωματικού ελέγχου απέρριπταν συστηματικά υποψηφίους με μοτίβα σαφώς συσχετισμένα με τη φυλή.
Θεωρητικά, τα εργαλεία ελέγχου τεχνητής νοημοσύνης επιτρέπουν στους υπεύθυνους προσλήψεων να αφιερώνουν λιγότερο χρόνο για να λάβουν επίμονες αποφάσεις και περισσότερο χρόνο για να γνωρίσουν τους ανθρώπους στη διάθεσή τους. Αλλά στην πραγματικότητα, όπως δείχνει μια μελέτη του Πανεπιστημίου του Στάνφορντ, ο καθορισμός και η λήθη των εργαλείων που έχουν σχεδιαστεί για τη λήψη αποφάσεων εκ μέρους των υπαλλήλων προσλήψεων μπορεί να οδηγήσει σε συστηματικές προκαταλήψεις και τελικά να μειώσει την ποιότητα των αποτελεσμάτων των προσλήψεων.
Η αύξηση της ακρίβειας στην κορυφή της διοχέτευσης απαιτεί κάτι που εξακολουθούν να λείπουν από πολλές λύσεις στρατολόγησης τεχνητής νοημοσύνης. Είναι ένα δομημένο πλαίσιο αξιολόγησης που αξιολογεί όλους τους υποψηφίους με βάση τα ίδια κριτήρια που σχετίζονται με την εργασία. Χωρίς αυτό το θεμέλιο, οι υπεύθυνοι ελέγχου τεχνητής νοημοσύνης θα μάθουν μόνο τις ασυνέπειες και τις προκαταλήψεις που ενσωματώθηκαν στις προηγούμενες αποφάσεις πρόσληψης και θα τις αναπαράγουν πιο γρήγορα.
Οι απαντήσεις της βιομηχανίας σε αυτή την πρόκληση κυμαίνονται από αντιδραστικές έως παραλυτικές. Κάποιοι συμπεραίνουν ότι εάν ένα εργαλείο δημιουργεί μεροληψία, η λύση είναι να το εγκαταλείψουμε εντελώς. Άλλοι, συγκλονισμένοι από την εισροή εφαρμογών και την αυξανόμενη πίεση για την παροχή καλύτερων αποτελεσμάτων προσλήψεων γρηγορότερα, συνεχίζουν να τοποθετούν νέα εργαλεία τεχνητής νοημοσύνης πάνω από υπάρχοντα συστήματα χωρίς να κατανοούν πλήρως πώς τα συστήματα λαμβάνουν αποφάσεις ή πώς πρέπει να διαχειρίζονται.
Σε συνομιλίες με CHRO, το ερώτημα δεν είναι πλέον για το αν η τεχνητή νοημοσύνη ανήκει στη στρατολόγηση, αλλά για το πώς να αναπτύξετε την τεχνητή νοημοσύνη με ασφάλεια και αποτελεσματικότητα. Το μεγαλύτερο μέλημά τους είναι η οικοδόμηση ευφράδειας και διακυβέρνησης AI. Γνωρίζουν ότι η τεχνητή νοημοσύνη μεταμορφώνει το τοπίο των προσλήψεων και γνωρίζουν πολύ καλά ότι οι ομάδες τους δεν είναι καλά προετοιμασμένες για το αναπόφευκτο κύμα της ενεργοποίησης της τεχνητής νοημοσύνης. Πριν βασιστείτε στο AI. Για να επηρεάσουν σημαντικές αποφάσεις όπως οι προσλήψεις και οι προαγωγές, θέλουν να δουν τη λογοδοσία να ενσωματώνεται στη διαδικασία.
Εδώ είναι μια δυσάρεστη πραγματικότητα. Η ανθρώπινη κρίση είναι και το αντίδοτο στην προκατάληψη και η πηγή της προκατάληψης. Στην καλύτερη περίπτωση, η τεχνητή νοημοσύνη μπορεί να αποκαλύψει μοτίβα που οι άνθρωποι συνήθως παραβλέπουν. Αυτό μπορεί να αποκαλύψει ότι οι εργαζόμενοι με υψηλές επιδόσεις προέρχονται από οργανισμούς λιγότερο κύρους, έχουν ασυνήθιστα μονοπάτια σταδιοδρομίας ή έχουν μεταβιβάσιμες δεξιότητες που υποτιμήθηκαν από τις παραδοσιακές μεθόδους επιλογής. Μπορεί να αμφισβητήσει μακροχρόνιες υποθέσεις σχετικά με το πώς φαίνεται στην πραγματικότητα η επιτυχία σε έναν οργανισμό και να διευρύνει τη δεξαμενή των υποψηφίων που θεωρούνται κατάλληλοι.
Ωστόσο, η τεχνητή νοημοσύνη δεν είναι εγγενώς αντικειμενική. Τα ψευδή δεδομένα, ο κακός σχεδιασμός ή η αδύναμη επίβλεψη μπορούν εύκολα να ενισχύσουν τα τυφλά σημεία και να φιλτράρουν σιωπηλά εξαιρετικούς υποψήφιους μέσα από έναν αόρατο λαβύρινθο αυθαίρετων φίλτρων που ενισχύουν τις χειρότερες προκαταλήψεις μας. Αλλά με τα σωστά δεδομένα, σχεδιασμό, εκπαίδευση και πλαίσιο λογοδοσίας, η τεχνητή νοημοσύνη μπορεί να συμπληρώσει την ανθρώπινη κρίση και να βοηθήσει τους υπεύθυνους προσλήψεων να ποσοτικοποιήσουν τα τυφλά σημεία και να λάβουν δίκαιες αποφάσεις που οδηγούν σε καλύτερα αποτελέσματα.
Η υπεύθυνη τεχνητή νοημοσύνη είναι θεμελιώδης για τη βιωσιμότητα των εργαλείων στρατολόγησης τεχνητής νοημοσύνης, επειδή παρέχει στους οργανισμούς τη γνώση, την υποδομή και τις δυνατότητες να προχωρήσουν με αξιοπιστία και συνάφεια στο σημερινό τοπίο προσλήψεων. Αλλά ο κλάδος μας εξακολουθεί να παλεύει να καταλάβει πώς μοιάζει στην πραγματικότητα η υπεύθυνη τεχνητή νοημοσύνη.
Ως κάποιος που πέρασε την καριέρα μου ρωτώντας ποιος γίνεται αντιληπτός σε όλο τον κύκλο ζωής του ταλέντου, σκέφτομαι την υπεύθυνη τεχνητή νοημοσύνη μέσω τριών αλληλένδετων επιπέδων: πώς σχεδιάζουμε, πώς το χρησιμοποιούμε και πώς αξιολογούμε συνεχώς την προκατάληψη.
αρχή, Η συστημική προκατάληψη δεν εμφανίζεται απλώς από το πουθενά. Είναι ενσωματωμένο στα δεδομένα που χρησιμοποιούνται για να διδάξουν αυτά τα συστήματα τεχνητής νοημοσύνης πώς μοιάζουν οι κατάλληλοι υποψήφιοι. Εάν τα δεδομένα εκπαίδευσής του αντικατοπτρίζουν δεκαετίες ιστορικά αποκλειστικής απασχόλησης, το μοντέλο θα μάθει τον αποκλεισμό. Η αυστηρή παρακολούθηση κατά το στάδιο του σχεδιασμού δεν είναι προαιρετική. Είναι βασικό. Εάν δεν ελέγχετε τι έρχεται, δεν μπορείτε να εκπλαγείτε από αυτό που βγαίνει.
Δεύτερον, οι επαγγελματίες ταλέντων που χρησιμοποιούν τεχνητή νοημοσύνη χρειάζονται μια σαφή κατανόηση κάθε εργαλείου στη στοίβα, των δεδομένων που χρησιμοποιεί και των αποφάσεων που λαμβάνονται σε κάθε στάδιο. Όταν οι ηγέτες ανθρώπινου δυναμικού δεν μπορούν να εξηγήσουν στους υποψηφίους γιατί κατατάσσονται ή φιλτράρονται, το σύστημα γίνεται μαύρο κουτί και το μαύρο κουτί υπονομεύει την εμπιστοσύνη και ενθαρρύνει τον εφησυχασμό. Χρειάζεστε μια ομάδα ανθρώπων που δεν μπορούν απλώς να αποδεχτούν την έξοδο της τεχνητής νοημοσύνης, αλλά να την εξετάσουν. Αυτό σημαίνει επένδυση στην εκπαίδευση που δημιουργεί την ευχέρεια χρήσης αυτών των εργαλείων κριτικά και αναγνώρισης πότε κάτι πάει στραβά.
Τέλος, ακόμη και με δεδομένα που έχουν επισημανθεί από ειδικούς, σαφή πρότυπα που έχουν εκπαιδευτεί σε μοντέλα και χρήστες που κατανοούν και τηρούν τις βέλτιστες πρακτικές, η προκατάληψη μπορεί να εισχωρήσει με την πάροδο του χρόνου. Υπεύθυνη ανάπτυξη σημαίνει δημιουργία βρόχων ανατροφοδότησης που αποκαλύπτουν ανόμοια αποτελέσματα σε πραγματικό χρόνο, εκτελώντας τακτικούς ανεξάρτητους ελέγχους τρίτων και αντιμετωπίζοντας τη δικαιοσύνη ως βιοτικό επίπεδο και όχι ως πιστοποίηση εφάπαξ.
Η έρευνα του Στάνφορντ είναι δώρο αν την αντιμετωπίζεις ως δώρο. Μας δίνει μια γλώσσα για προβλήματα που συμβαίνουν αθόρυβα και μας δίνει μια επείγουσα ανάγκη που δεν υπήρχε χθες. Η απάντησή μας δεν είναι να σηκώσουμε τα χέρια μας και να κατηγορήσουμε τους αλγόριθμους. Πρέπει να ξεκινήσουμε κατανοώντας πώς έχει κατασκευαστεί, εκπαιδευτεί, αναπτυχθεί και εμπιστευτεί χωρίς αμφιβολία, και πώς μπορούμε ως κλάδος να αλλάξουμε κατεύθυνση.
Η πιο ισχυρή υπόσχεση της τεχνητής νοημοσύνης στη στρατολόγηση είναι η ενίσχυση της ανθρώπινης κρίσης. Αλλά αυτό θα συμβεί μόνο εάν οι οργανισμοί είναι έτοιμοι να εφαρμόσουν την ίδια φροντίδα, υπευθυνότητα και κριτική σκέψη στην τεχνητή νοημοσύνη που περιμένουν από τους ανθρώπους που λαμβάνουν αποφάσεις πρόσληψης. Άλλωστε, το φταίξιμο δεν ανήκε ποτέ στον αλγόριθμο. Ήταν πάντα δικό μας.
