Χρόνια μετά την κυκλοφορία της καταναλωτικής τεχνητής νοημοσύνης, οι εταιρείες σπεύδουν να δημιουργήσουν δομές διακυβέρνησης, συμπεριλαμβανομένου του διορισμού επικεφαλής στελεχών τεχνητής νοημοσύνης, της κατάρτισης πολιτικών και της επισημοποίησης των διαδικασιών εποπτείας. Ο στόχος είναι να διασφαλιστεί ότι οι αναπτύξεις τεχνητής νοημοσύνης προσφέρουν μετρήσιμη αξία, ελαχιστοποιώντας παράλληλα τους λειτουργικούς, νομικούς κινδύνους και τους κινδύνους φήμης. Αλλά στον αγώνα τους να δημιουργήσουν ένα νέο πλαίσιο, οι οργανισμοί παραβλέπουν κάτι θεμελιώδες: την κατάσταση των δεδομένων τους.
Οι περισσότερες εταιρείες συλλέγουν δεδομένα συναλλαγών, λειτουργιών και πελατών εδώ και δεκαετίες. Στην εποχή της τεχνητής νοημοσύνης, ο τρόπος με τον οποίο διαχειριζόμαστε τα υπάρχοντα δεδομένα θα καθορίσει εάν τα συστήματα τεχνητής νοημοσύνης αποφέρουν σημαντικά οφέλη ή ενισχύουν τις υπάρχουσες αδυναμίες.
Βάση δεδομένων για διακυβέρνηση AI
Οι δημόσιες συζητήσεις σχετικά με τη χρήση δεδομένων από την τεχνητή νοημοσύνη έχουν επικεντρωθεί σε μεγάλο βαθμό στους προγραμματιστές μοντέλων που σκάβουν το ανοιχτό διαδίκτυο. μέσα κοινωνικής δικτύωσης, βιβλίο και δημοσιογραφίαγια την εκπαίδευση παραγωγικών συστημάτων AI. Αυτές οι πρακτικές έχουν πυροδοτήσει αντιδράσεις για λόγους απορρήτου και πνευματικών δικαιωμάτων και έχουν εκθέσει ανεπίλυτα ζητήματα σχετικά με: Τι είναι η δίκαιη χρήση; Στην ψηφιακή εποχή.
Λιγότερη προσοχή δίνεται στον τρόπο με τον οποίο οι ίδιες οι εταιρείες χρησιμοποιούν τα δεδομένα. Έκθεση δείκτη AI 2025 του Πανεπιστημίου Χάρβαρντ Βρήκαμε ότι το 88% των οργανισμών έχουν εφαρμόσει κάποια μορφή τεχνητής νοημοσύνης. Αυτές οι εταιρείες τροφοδοτούν εσωτερικά δεδομένα σε μοντέλα τεχνητής νοημοσύνης για τον εξορθολογισμό των λειτουργιών και τη δημιουργία πληροφοριών. Ωστόσο, πολλά από αυτά τα δεδομένα δεν συλλέχθηκαν έχοντας κατά νου την εφαρμογή της τεχνητής νοημοσύνης. Από άποψη διακυβέρνησης, τα εταιρικά δεδομένα είναι συχνά ελλιπή, φέρουν ασυνεπή επισήμανση, κακώς τεκμηριωμένα και ελάχιστα προστατευμένα για προσωπικά και ευαίσθητα δεδομένα.
Αυτό δημιουργεί ένα δομικό κενό. Ενώ οι εταιρείες επενδύουν στη διακυβέρνηση της τεχνητής νοημοσύνης, πολλές αγνοούν τα θεμέλια δεδομένων από τα οποία εξαρτώνται αυτά τα συστήματα. Με βάση την εμπειρία μας από την παροχή συμβουλών σε οργανισμούς σχετικά με υπεύθυνα προγράμματα τεχνητής νοημοσύνης και διαχείρισης δεδομένων, το συμπέρασμα είναι σαφές. Η διακυβέρνηση AI ξεκινά με τη διακυβέρνηση δεδομένων.
Κίνδυνοι κακής διαχείρισης δεδομένων
Ο κίνδυνος είναι αναπόφευκτος όταν τα συστήματα τεχνητής νοημοσύνης είναι χτισμένα σε αδύναμα θεμέλια δεδομένων. Ας ξεκινήσουμε με την αξιοπιστία. Όταν τα συστήματα AI τροφοδοτούνται με ελλιπή ή μη αντιπροσωπευτικά δεδομένα, παράγουν ελαττωματικά αποτελέσματα. Ανάπτυξη Starbucks Εργαλεία απογραφής που υποστηρίζονται από AI δείχνει αυτό το σημείο. Σχεδιασμένο για να αυτοματοποιεί τις μετρήσεις και την αναπλήρωση των αποθεμάτων, το σύστημα τροφοδοτήθηκε με ανακριβή δεδομένα. Αυτό είχε ως αποτέλεσμα τη σπατάλη αποθεμάτων και ελλείψεις προϊόντων, με αποτέλεσμα να μειωθούν οι πωλήσεις. Αντί να αυξήσει την αποτελεσματικότητα, αυτό το σύστημα εισήγαγε νέο κόστος.
Η μεροληψία ενέχει έναν δεύτερο, πιο περίπλοκο κίνδυνο. Τα μοντέλα τεχνητής νοημοσύνης που έχουν εκπαιδευτεί σε σύνολα δεδομένων που ευνοούν ορισμένες ομάδες θα παράγουν μεροληπτικά αποτελέσματα. Μια μελέτη Nature του 2025 για γλωσσικά μοντέλα μεγάλης κλίμακας που εκπαιδεύτηκαν σε δεδομένα του τμήματος επειγόντων περιστατικών διαπίστωσε ότι τα εργαλεία ήταν πιθανό: Προτείνετε επεμβατική ιατρική θεραπεία Στοχεύστε τους Black, τους LBGTQ+ και τους μη στεγασμένους ασθενείς περισσότερο από άλλες ομάδες, αναπαράγοντας τις προκαταλήψεις που είναι ενσωματωμένες στα δεδομένα εκπαίδευσης. Παρόμοιες ανησυχίες προκύπτουν στους τομείς της απασχόλησης, του δανεισμού, της ασφάλισης και της επιβολής του νόμου, όπου τα μεροληπτικά δεδομένα μπορούν να επηρεάσουν άμεσα την πρόσβαση σε θέσεις εργασίας, πιστώσεις και δημόσιες υπηρεσίες. Για τις επιχειρήσεις, η ανάπτυξη εργαλείων τεχνητής νοημοσύνης που παράγουν μεροληπτικά αποτελέσματα έχει νομικές, οικονομικές επιπτώσεις και επιπτώσεις στη φήμη που είναι δύσκολο και δαπανηρό να αντιστραφούν.
Η κακή διαχείριση δεδομένων υπονομεύει επίσης τη διαφάνεια και τη λογοδοσία. Όταν τα δεδομένα εκπαίδευσης, οι διαδικασίες επικύρωσης και η απόδοση του μοντέλου δεν είναι καλά τεκμηριωμένα, οι οργανισμοί συσσωρεύουν «χρέος τεκμηρίωσης». Αυτό το χρέος περιορίζει τη δυνατότητα να εξηγηθεί πώς λαμβάνονται οι αποφάσεις και έχει συνέπειες για τη συμμόρφωση με τους κανονισμούς, τις έρευνες συμβάντων και τους ελέγχους.
Οι κίνδυνοι είναι ακόμη μεγαλύτεροι. Η επαναχρησιμοποίηση δεδομένων χωρίς σαφή νομική βάση ενδέχεται να παραβιάζει τους νόμους περί προστασίας δεδομένων. Οι αδύναμοι έλεγχοι προέλευσης δεδομένων αυξάνουν την πιθανότητα τυχαίας χρήσης προστατευμένης πνευματικής ιδιοκτησίας. Μεροληπτικά ή ελλιπή σύνολα δεδομένων μπορεί να έχουν επιπτώσεις στα ανθρώπινα δικαιώματα, ειδικά όταν τα αυτοματοποιημένα συστήματα επηρεάζουν την απασχόληση, την υγειονομική περίθαλψη, την οικονομική πρόσβαση και τη στέγαση.
Αυτοί οι κίνδυνοι δεν είναι μεμονωμένοι στη μη συμμόρφωση. Αντίθετα, αυτές είναι δομικές συνέπειες της αντιμετώπισης της διακυβέρνησης δεδομένων ως δευτερεύουσας σημασίας σε σχέση με την υιοθέτηση της τεχνητής νοημοσύνης.
Ενεργοποιήστε τα δεδομένα σας με AI
Σε αντίθεση με την ανάπτυξη μοντέλων, η οποία συνήθως βασίζεται σε εξωτερικούς προμηθευτές, η διακυβέρνηση δεδομένων βρίσκεται σταθερά στον έλεγχο ενός οργανισμού. Οι εταιρείες που θέλουν να αντλήσουν αξία από την τεχνητή νοημοσύνη πρέπει να ξεκινήσουν από εκεί.
Το πρώτο βήμα είναι η δημιουργία ενός ολοκληρωμένου καταλόγου δεδομένων. Οι οργανισμοί πρέπει να τεκμηριώνουν με σαφήνεια ποια δεδομένα διατηρούν, από πού προέρχονται αυτά τα δεδομένα και τη νομική βάση για τη χρήση τους. Αυτό περιλαμβάνει τον προσδιορισμό των πρόσθετων αξιολογήσεων, συμπεριλαμβανομένου του απορρήτου, των νομικών και σχετικών με τους κινδύνους, που απαιτούνται πριν τα δεδομένα μπορούν να επαναχρησιμοποιηθούν για τεχνητή νοημοσύνη. Ένα καλά εκτελεσμένο απόθεμα όχι μόνο υποστηρίζει τη συμμόρφωση, αλλά επιτρέπει επίσης την ταχεία και αξιόπιστη ανάπτυξη συστημάτων AI μειώνοντας την αβεβαιότητα σχετικά με την ποιότητα των δεδομένων και την έκθεση σε κινδύνους.
Στη συνέχεια, οι οργανισμοί πρέπει να θεσπίσουν πολιτικές ταξινόμησης δεδομένων. Τα στοιχεία ενεργητικού πρέπει να ταξινομούνται σύμφωνα με την ευαισθησία, την αξία και τις ρυθμιστικές υποχρεώσεις. Ο στόχος είναι η προστασία της εμπιστευτικότητας, της ακεραιότητας και της διαθεσιμότητας των δεδομένων που χρησιμοποιούνται σε συστήματα τεχνητής νοημοσύνης, διασφαλίζοντας ταυτόχρονα ότι πληρούνται τόσο οι νομικές απαιτήσεις όσο και τα λειτουργικά πρότυπα. Η ανάπτυξη μιας τέτοιας πολιτικής απαιτεί την απάντηση σε πολλές φαινομενικά απλές αλλά συχνά παραβλέπονται ερωτήσεις. «Τι δεδομένα διατηρούμε;» Πόσο ευαίσθητο είναι; Ποιοι κανόνες ισχύουν για τη χρήση του;
Τρίτον, οι ρόλοι και οι ευθύνες πρέπει να καθοριστούν με σαφήνεια. Η αποτελεσματική διακυβέρνηση δεδομένων εξαρτάται από τη λογοδοσία. Οι κάτοχοι δεδομένων είναι υπεύθυνοι για την ακρίβεια και την ταξινόμηση, οι υπεύθυνοι επεξεργασίας δεδομένων είναι υπεύθυνοι για την ασφαλή αποθήκευση και χειρισμό και οι χρήστες δεδομένων είναι υπεύθυνοι για την κατάλληλη εφαρμογή. Η καθιέρωση αυτών των ρόλων παρέχει στους οργανισμούς προστασία κατά τη μεταφορά δεδομένων σε συστήματα τεχνητής νοημοσύνης.
Τα υφιστάμενα πρότυπα και νομοθεσία παρέχουν πρακτική καθοδήγηση. του έδρασα Καθορίστε βασικές απαιτήσεις για την ποιότητα και τη διακυβέρνηση των δεδομένων για συστήματα τεχνητής νοημοσύνης. διεθνή πρότυπα όπως ISO42001 καθορίζοντας κατευθυντήριες γραμμές σχετικά με δεδομένα για εφαρμογές τεχνητής νοημοσύνης· ISO27001 και ISO38500 Καθορίστε ευρείες απαιτήσεις διακυβέρνησης δεδομένων. Ακόμη και σε λιγότερο ρυθμιζόμενες αγορές, αυτά τα πλαίσια παρέχουν ένα πρακτικό σημείο εκκίνησης για την οικοδόμηση ωριμότητας εσωτερικής διακυβέρνησης.
Η προετοιμασία δεδομένων είναι προετοιμασία τεχνητής νοημοσύνης
Εκτός από το να ρωτήσουν εάν ο οργανισμός τους είναι έτοιμος για τεχνητή νοημοσύνη, οι ηγέτες των επιχειρήσεων θα πρέπει επίσης να εξετάσουν εάν τα δεδομένα τους είναι έτοιμα. Τα συστήματα AI δεν μπορούν να αντισταθμίσουν μια αδύναμη βάση δεδομένων. Χωρίς συνεπή, καλά διαχειριζόμενα δεδομένα, οι οργανισμοί κινδυνεύουν να αυξήσουν την αναποτελεσματικότητα, να δημιουργήσουν νέο χρέος και να επενδύσουν σε εργαλεία που αποτυγχάνουν να αποφέρουν οφέλη.
Οι υπεύθυνοι χάραξης πολιτικής, οι ειδικοί και οι επιχειρήσεις συνεχίζουν να συζητούν για το πού πρέπει να βρίσκεται η ευθύνη για τη διακυβέρνηση της τεχνητής νοημοσύνης. Ωστόσο, δεν υπάρχει σαφήνεια σχετικά με το ζήτημα της ποιότητας των εσωτερικών δεδομένων. Η ευθύνη ανήκει στον οργανισμό. Οι εταιρείες που αντιμετωπίζουν τη διακυβέρνηση δεδομένων ως προϋπόθεση είναι σε καλύτερη θέση να μετατρέψουν τις επενδύσεις τους σε τεχνητή νοημοσύνη σε ανταγωνιστικό πλεονέκτημα και να υπερασπιστούν τις αποφάσεις τους όταν έρθει ο έλεγχος.
Αμέλια Γουίλιαμς Είναι Ανώτερος Υπεύθυνος Έρευνας Αντίκτυπου στην Τριμερή Έρευνα, με εξειδίκευση στην επιστημονική επικοινωνία στο σημείο αναφοράς αναδυόμενων τεχνολογιών, περιβαλλοντικών θεμάτων, δεοντολογίας και πολιτικής. Το Τριμερές υποστηρίζει την ανάπτυξη και την υλοποίηση ερευνητικών έργων παράλληλα με τη συμμετοχή της πολιτικής, των μέσων ενημέρωσης και της βιομηχανίας.
