Στην εποχή της AI, οι παραδοσιακές προσεγγίσεις για την προμήθεια λογισμικού δεν είναι πλέον κατάλληλες για το σκοπό. Ενώ συνήθως θεωρείται ως μια εμπορική λειτουργία για την εξασφάλιση του καλύτερου λογισμικού στην καλύτερη τιμή, οι ομάδες προμηθειών λαμβάνουν τώρα αποφάσεις σχετικά με εξαιρετικά πολύπλοκα τεχνικά συστήματα που μπορούν να διαμορφώσουν τη δομή διακυβέρνησης ενός οργανισμού, τη ρυθμιστική έκθεση, την ασφάλεια και τη λειτουργική ανθεκτικότητα.
Οι επιχειρήσεις αλληλεπιδρούν με την τεχνητή νοημοσύνη με διάφορους τρόπους, από αυτόνομο λογισμικό έως λειτουργικότητα ενσωματωμένη σε υπάρχουσες πλατφόρμες. Ανεξάρτητα από το πώς εισάγεται η τεχνητή νοημοσύνη σε μια επιχείρηση, η παρουσία της εγείρει άμεσα ζητήματα διακυβέρνησης. Σε ποιον ανήκει τα δεδομένα; Πώς εκπαιδεύτηκε το σύστημα; Ποιος ευθύνεται για τα λάθη; Οι περισσότερες ομάδες προμηθειών δεν διαθέτουν την τεχνική τεχνογνωσία για να αναλύσουν αυτήν την πολυπλοκότητα και τα συστήματα ελέγχου πριν λάβουν αποφάσεις αγοράς, δημιουργώντας εξαρχής κινδύνους διακυβέρνησης.
Αυτές οι πολυπλοκότητες επιδεινώνονται περαιτέρω από την ασυμμετρία ισχύος μεταξύ των ομάδων προμηθειών και των προμηθευτών τεχνητής νοημοσύνης. Μερικοί κορυφαίοι πάροχοι τεχνητής νοημοσύνης μπορούν να ορίσουν όρους χρήσης και να εφαρμόσουν αλλαγές από πάνω προς τα κάτω χωρίς να διαπραγματεύονται με πελάτες. Τα στελέχη που πιέζουν τους οργανισμούς τους να υιοθετήσουν την τεχνητή νοημοσύνη απλώς εντείνουν αυτήν την πίεση, αφήνοντας τους επαγγελματίες προμηθειών που λειτουργούν απαρχαιωμένες διαδικασίες χωρίς το όφελος της ειδικής εκπαίδευσης και καθοδήγησης για την τεχνητή νοημοσύνη.
Μαζί, αυτοί οι παράγοντες έχουν δημιουργήσει ένα νέο σύνορο διακυβέρνησης. Οι προμήθειες έχουν μετατραπεί από εμπορική λειτουργία σε μια από τις πιο σημαντικές και λιγότερο ώριμες λειτουργίες.Στοιχεία της εταιρικής διακυβέρνησης AI.
Νέοι κίνδυνοι στις προμήθειες τεχνητής νοημοσύνης
Σε αντίθεση με τις παραδοσιακές προμήθειες λογισμικού, οι προμήθειες τεχνητής νοημοσύνης εισάγουν κινδύνους διακυβέρνησης που συνεχίζουν να εξελίσσονται ακόμη και μετά την υπογραφή της σύμβασης. Η εφοδιαστική αλυσίδα της τεχνητής νοημοσύνης εκτείνεται σε μοντέλα, παρόχους υποδομής, API και επίπεδα εφαρμογών, καθιστώντας δύσκολο τον εντοπισμό του υπεύθυνου όταν κάτι πάει στραβά. Ακόμα κι αν οι ευθύνες καθορίζονται κατά τη στιγμή της προμήθειας, οι κυλιόμενες ενημερώσεις και οι εκδόσεις χαρακτηριστικών μπορούν να περιπλέξουν τη δομή της ευθύνης και να εισαγάγουν νέους κινδύνους μετά την υπογραφή της σύμβασης.
Ο ρυθμός των τεχνολογικών και κανονιστικών αλλαγών συντομεύει επίσης τους κύκλους προμηθειών και αναθεώρησης των συμβάσεων. Το πλεονέκτημα είναι η ευελιξία λόγω σύντομων κύκλων. Το μειονέκτημα είναι ότι δημιουργεί συνεχείς απαιτήσεις προμηθειών και διακυβέρνησης τις οποίες οι οργανισμοί πρέπει να διαχειρίζονται σε συνεχή βάση.
Αυτές οι προκλήσεις επιδεινώνονται περαιτέρω από τη συγκέντρωση της αγοράς. OpenAI, Anthropic και Google μαζί 88% της χρήσης LLM για επιχειρήσειςΩς αποτέλεσμα, οι αγοραστές εκτίθενται σε αλλαγές από πάνω προς τα κάτω στην τιμολόγηση, τα χαρακτηριστικά του προϊόντος και τους όρους και τις προϋποθέσεις. Επιπλέον, η φύση της τεχνητής νοημοσύνης διευκολύνει το «κλείδωμα» σε μεμονωμένους παρόχους, καθώς τα μοντέλα βελτιώνονται μέσω της αλληλεπίδρασης με τα δεδομένα των χρηστών και τις ροές εργασίας. Επομένως, η εναλλαγή παρόχων μπορεί να είναι λειτουργικά ενοχλητική, δαπανηρή και τεχνικά δύσκολη.
Η διαχείριση δεδομένων είναι ένα από τα πιο σημαντικά Υποεκτιμημένοι τομείς κινδύνου Στις προμήθειες AI. Σημαντικές ερωτήσεις δέουσας επιμέλειας σχετικά με τη συλλογή δεδομένων, την αποθήκευση και την εκπαίδευση μοντέλων συχνά παραμένουν αναπάντητα τη στιγμή της σύμβασης. Ως αποτέλεσμα, οι οργανισμοί ενδέχεται να εκθέσουν ακούσια ευαίσθητες πληροφορίες, ιδιόκτητα επιχειρηματικά δεδομένα ή αρχεία πελατών σε εξωτερικές διαδικασίες εκπαίδευσης μοντέλων.
Η τεχνητή νοημοσύνη συνοδεύεται επίσης από κινδύνους πνευματικής ιδιοκτησίας. Τα μοντέλα που έχουν εκπαιδευτεί σε δεδομένα που συλλέγονται από τον ιστό μπορούν να παράγουν αποτελέσματα που περιέχουν υλικό που προστατεύεται από πνευματικά δικαιώματα ή μη εξουσιοδοτημένο, εκθέτοντας τον οργανισμό σας σε μεταγενέστερους νομικούς κινδύνους και κινδύνους φήμης. Άλλα ζητήματα πνευματικής ιδιοκτησίας, όπως η ιδιοκτησία του προϊόντος και των μεταδεδομένων της τεχνητής νοημοσύνης, πρέπει να αντιμετωπίζονται προληπτικά κατά τη διάρκεια της προμήθειας.
Το Agentic AI είναι το επόμενο σύνορο στον κίνδυνο προμηθειών. Επειδή αυτά τα συστήματα μπορούν να διασχίσουν ανεξάρτητα πολλαπλές πλατφόρμες και σύνολα δεδομένων, εγκυμονούν θεμελιωδώς τάξεις μεγέθους κινδύνου. Οι πωλητές αυξάνονται Εξαλείψτε τους βασικούς κινδύνους που σχετίζονται με την τεχνητή νοημοσύνη Η Agent AI θα αποκλειστεί από τη ρήτρα ευθύνης εντός της σύμβασης, θέτοντας τον αγοραστή σε κίνδυνο. Καθώς οι πράκτορες τεχνητής νοημοσύνης αυξάνονται σε πολυπλοκότητα και δημοτικότητα, όλες αυτές οι ανησυχίες – υπευθυνότητα, λογοδοσία, εξαρτήσεις και διαχείριση δεδομένων – πρέπει να αντιμετωπίζονται και να επαναδιαπραγματεύονται συνεχώς.
Τέσσερις πυλώνες υπεύθυνης προμήθειας τεχνητής νοημοσύνης
Επειδή η αγορά τεχνητής νοημοσύνης συνοδεύεται από μοναδικούς κινδύνους που δεν σχετίζονται με το παραδοσιακό λογισμικό, οι οργανισμοί χρειάζονται ένα πλαίσιο προμηθειών σχεδιασμένο ειδικά για την τεχνητή νοημοσύνη. Με βάση την εμπειρία μας από τις εταιρείες συμβούλων σχετικά με την υπεύθυνη υιοθέτηση τεχνητής νοημοσύνης, συνιστούμε τη δημιουργία ενός τέτοιου πλαισίου σε τέσσερις πυλώνες:
Πρώτα, πρέπει να βελτιώσετε τις δεξιότητες της ομάδας σας. Οι ομάδες προμηθειών πρέπει να έχουν γνώσεις σχετικά με τις δυνατότητες, την ασφάλεια και τη συμμόρφωση με την τεχνητή νοημοσύνη. Αυτό δεν σημαίνει ότι όλο το προσωπικό προμηθειών πρέπει να γίνει τεχνικός εμπειρογνώμονας, αλλά χρειάζεται καλή κατανόηση για την αξιολόγηση του αντίκτυπου στη διακυβέρνηση.
Οι οργανισμοί πρέπει να το υποστηρίξουν μέσω προγραμμάτων πιστοποίησης, διαλειτουργικών μοντέλων προμηθειών και στενής συνεργασίας μεταξύ των ομάδων προμηθειών, νομικών, συμμόρφωσης, ασφάλειας στον κυβερνοχώρο και τεχνολογίας. Εκτεταμένη εκπαίδευση εργαζομένων σχετικά με την υπεύθυνη χρήση της τεχνητής νοημοσύνης Αυτό είναι επίσης σημαντικό, ειδικά καθώς οι εργαζόμενοι αναπτύσσουν όλο και περισσότερο εργαλεία AI μόνοι τους.
Αναδυόμενο μοντέλο αφοσίωσης προμηθευτών όπου επαγγελματίες προμηθειών συνεργάζονται με εταιρείες πωλητών τεχνητής νοημοσύνης μπροστινός μηχανικός ανάπτυξης Προσαρμόστε τα εργαλεία στις επιχειρησιακές σας ανάγκες και αποκτήστε βαθύτερη κατανόηση των τεχνικών στοιχείων. Ενώ αυτή η προσέγγιση βελτιώνει τα αποτελέσματα, οι οργανισμοί πρέπει επίσης να επενδύσουν χρόνο στη διαχείριση εσωτερικής αλλαγής, στις αναθεωρήσεις διακυβέρνησης και στο σχεδιασμό διαδικασιών.
Δεύτερον, προσαρμόστε τη διαδικασία προμήθειας στον τύπο του συστήματος AI που αποκτάτε. Οι ομάδες προμηθειών αντιμετωπίζουν μια ποικιλία προϊόντων τεχνητής νοημοσύνης, συμπεριλαμβανομένων εργαλείων με τεχνητή νοημοσύνη, δυνατοτήτων με δυνατότητα τεχνητής νοημοσύνης και βασικών μοντέλων. Κάθε κατηγορία συνοδεύεται από νέους κινδύνους διακυβέρνησης, συμμόρφωσης και λειτουργικούς κινδύνους που απαιτούν προσαρμοσμένες προσεγγίσεις προμηθειών.
Για προϊόντα που λειτουργούν με τεχνητή νοημοσύνη, οι ομάδες προμηθειών θα πρέπει να επικεντρωθούν στην καταλληλότητα των περιπτώσεων χρήσης, την κυριαρχία δεδομένων και τις ρυθμίσεις φιλοξενίας. Ας δούμε ένα κακό παράδειγμα. Ημέρα εργασίας Σύστημα παρακολούθησης αιτούντων που τροφοδοτείται από AIπροβλήθηκε ως εργαλείο έτοιμο προς χρήση για ομάδες ανθρώπινου δυναμικού. Ωστόσο, το προϊόν παραβίασε τις ηλικιακές διακρίσεις στη νομοθεσία για την απασχόληση παρέχοντας προνομιακή μεταχείριση σε αιτούντες κάτω των 40 ετών. Οι οργανισμοί που εφάρμοσαν αυτό το εργαλείο χωρίς τη δέουσα επιμέλεια στις προμήθειες αντιμετώπισαν χρεώσεις συμμόρφωσης με το εργατικό δίκαιο.
Όταν οι πωλητές εισάγουν δυνατότητες τεχνητής νοημοσύνης σε υπάρχοντα προϊόντα λογισμικού, οι ομάδες προμηθειών πρέπει να επαναδιαπραγματεύονται συμβάσεις που δεν διαθέτουν ειδικές ρήτρες για την τεχνητή νοημοσύνη. Αυτή είναι μια ολοένα και πιο κοινή κατάσταση που εγκυμονεί περίπλοκους κινδύνους διακυβέρνησης και συμμόρφωσης. Για παράδειγμα, όταν Το GitHub ενημέρωσε τις απαιτήσεις εκπαίδευσης στις αρχές του 2026οργανισμοί που χρησιμοποιούν συνδρομές χαμηλότερης βαθμίδας ανακάλυψαν ότι τα προσωπικά τους δεδομένα χρησιμοποιούνταν για την εκπαίδευση μοντέλων τεχνητής νοημοσύνης. Αυτή η κατάσταση θέτει σε κίνδυνο το απόρρητο, την προστασία δεδομένων και τους ελέγχους ασφαλείας ενός οργανισμού.
Κατά την προμήθεια ενός θεμελιώδους μοντέλου ή πλατφόρμας, οι οργανισμοί θα πρέπει να επικεντρώνονται στις τεχνικές δυνατότητες και τις στρατηγικές επιπτώσεις. Για παράδειγμα, το NHS του Ηνωμένου Βασιλείου αντιμετώπισε πρόσφατα κριτική σχετικά με τις διαδικασίες προμηθειών του, όπως: Παραχωρεί στην αμερικανική εταιρεία Palantir πρόσβαση σε προσωπικά αναγνωρίσιμα δεδομένα ασθενών Ανάπτυξη μιας ομοσπονδιακής πλατφόρμας δεδομένων. Η πλατφόρμα στοχεύει να φέρει την τεχνητή νοημοσύνη σε ολόκληρο το αρχείο ασθενών για να βελτιώσει την αποτελεσματικότητα. Ωστόσο, αυτή η προσέγγιση στις προμήθειες έχει υπονομεύσει την εμπιστοσύνη του κοινού στο NHS και τις υπηρεσίες του.
Τρίτον, οι προμήθειες τεχνητής νοημοσύνης πρέπει να καθοδηγούνται από καθιερωμένα πλαίσια διακυβέρνησης, πρότυπα και αναδυόμενες ρυθμιστικές απαιτήσεις. Ακόμη και σε δικαιοδοσίες όπου η ρύθμιση της τεχνητής νοημοσύνης δεν είναι ανεπτυγμένη, η συνεργασία με το ευρύτερο ρυθμιστικό καθεστώς μπορεί να βοηθήσει τους οργανισμούς να αποδείξουν ότι η χρήση της τεχνητής νοημοσύνης είναι ασφαλής, υπεύθυνη και αξιόπιστη. Δημιουργεί επίσης αξιόπιστα στοιχεία ότι οι υποχρεώσεις διακυβέρνησης εξετάστηκαν πριν από την εφαρμογή.
πρότυπα όπως ISO42001 Σύστημα διαχείρισης AI και ISO 23894 Η Διαχείριση Κινδύνων για την Τεχνητή Νοημοσύνη βοηθά τους οργανισμούς να καθιερώσουν τεκμηριωμένες διαδικασίες διακυβέρνησης και να δημιουργήσουν ένα ελεγχόμενο ίχνος αποδεικτικών στοιχείων από την αρχή. Ένας άλλος μηχανισμός είναι IEEE Πρότυπα και αξιολόγηση συμμόρφωσης και Έκθεση Προμηθευτή Διακυβέρνησης IAPP AIτο οποίο μπορεί να υποστηρίξει περαιτέρω τη δέουσα επιμέλεια για τις προμήθειες.
Τέλος, οι προμήθειες πρέπει να ενσωματωθούν σε συνεχείς διαδικασίες διακυβέρνησης AI. Όταν οι οργανισμοί αγοράζουν συστήματα AI, κάνουν επιλογές διακυβέρνησης σχετικά με την κυριαρχία δεδομένων, την ευθύνη, τη συμμόρφωση με τους κανονισμούς και τις μακροπρόθεσμες εξαρτήσεις προμηθευτών. Αυτές οι επιλογές θα απαιτήσουν συνεχή αναθεώρηση από τα ενδιαφερόμενα μέρη της διακυβέρνησης καθώς τα μοντέλα εξελίσσονται, οι κανονισμοί αλλάζουν και οι προμηθευτές ενημερώνουν τους όρους προϊόντων και υπηρεσιών τους.
Ως εκ τούτου, οι οργανισμοί θα πρέπει να ενσωματώσουν τις προμήθειες απευθείας στις ευρύτερες δομές διακυβέρνησης της τεχνητής νοημοσύνης μέσω τακτικών ελέγχων, ελέγχων συμμόρφωσης, αξιολογήσεων απόδοσης και διαλειτουργικών διαδικασιών παρακολούθησης. Οι οργανισμοί θα πρέπει να επιδιώκουν συντομότερους κύκλους συμβάσεων και προμηθειών όπου είναι δυνατόν για να αποφύγουν τις μακροπρόθεσμες συμβάσεις ενόψει της ταχέως μεταβαλλόμενης τεχνολογίας.
Η διακυβέρνηση της τεχνητής νοημοσύνης ξεκινά με τις προμήθειες
Για πολλούς οργανισμούς, οι προμήθειες παραμένουν μια από τις λιγότερο ώριμες πτυχές της διακυβέρνησης της τεχνητής νοημοσύνης. Ωστόσο, οι αποφάσεις προμηθειών καθορίζουν τώρα πώς γίνεται η διαχείριση των δεδομένων, πού βρίσκεται η λογοδοσία, ποιοι προμηθευτές έχουν επιρροή στις λειτουργίες και πώς οι οργανισμοί παραμένουν ανθεκτικοί καθώς εξελίσσονται τα συστήματα AI.
Καθώς η υιοθέτηση της τεχνητής νοημοσύνης επιταχύνεται, οι προμήθειες δεν μπορούν πλέον να λειτουργούν ως καθαρά εμπορική λειτουργία. Κάθε σύμβαση τεχνητής νοημοσύνης περιλαμβάνει πλέον αποφάσεις σχετικά με τη διακυβέρνηση, τον κίνδυνο, τη συμμόρφωση, την ασφάλεια και τις στρατηγικές εξαρτήσεις. Αυτός θα είναι ο μηχανισμός διακυβέρνησης που θα διαδραματίσει ρόλο στον καθορισμό του εάν τα εταιρικά συστήματα τεχνητής νοημοσύνης αναπτύσσονται υπεύθυνα, συμμορφούμενα και αποτελεσματικά.
Αμέλια Γουίλιαμς Είναι Ανώτερος Υπεύθυνος Έρευνας Αντίκτυπου στην Τριμερή Έρευνα, με εξειδίκευση στην επιστημονική επικοινωνία στο σημείο αναφοράς αναδυόμενων τεχνολογιών, περιβαλλοντικών θεμάτων, δεοντολογίας και πολιτικής. Το Τριμερές υποστηρίζει την ανάπτυξη και την υλοποίηση ερευνητικών έργων παράλληλα με τη συμμετοχή της πολιτικής, των μέσων ενημέρωσης και της βιομηχανίας.
