Οι υπουργοί κλήθηκαν να ενισχύσουν τις εξουσίες της ρυθμιστικής αρχής της πόλης για την προστασία των καταναλωτών από πιθανούς κινδύνους τεχνητής νοημοσύνης, σύμφωνα με μια σημαντική επισκόπηση.
Η Επιθεώρηση Mills της Αρχής Χρηματοοικονομικής Συμπεριφοράς (FCA), η οποία εξέτασε τον τρόπο με τον οποίο η τεχνητή νοημοσύνη θα μεταμορφώσει τις χρηματοπιστωτικές υπηρεσίες από το 2030, διαπίστωσε ότι οι εταιρείες έχουν ήδη αρχίσει να μετατοπίζονται από τις ανθρωποκεντρικές δραστηριότητες σε υπηρεσίες με δυνατότητα τεχνητής νοημοσύνης για καθημερινούς καταναλωτές.
Διαπίστωσε ότι η κίνηση θα μπορούσε να υποστηρίξει τους πελάτες και να κάνει τις οικονομικές συμβουλές πιο προσιτές σε νοικοκυριά χαμηλού εισοδήματος, αλλά αυξάνει επίσης τον κίνδυνο απάτης, απειλών στον κυβερνοχώρο και βλάβης στους καταναλωτές.
«Η τεχνητή νοημοσύνη είναι πιθανό να γίνει καθοριστική δύναμη στις λιανικές χρηματοοικονομικές υπηρεσίες, αλλάζοντας τον τρόπο λειτουργίας των εταιρειών, τον τρόπο με τον οποίο οι καταναλωτές λαμβάνουν οικονομικές αποφάσεις και πώς λειτουργούν οι αγορές», ανέφερε η FCA. «Ενώ η τεχνητή νοημοσύνη έχει τη δυνατότητα να βελτιώσει την πρόσβαση, την εξατομίκευση και την αποτελεσματικότητα, μπορεί επίσης να αυξήσει τους κινδύνους που σχετίζονται με την απάτη, την ασφάλεια στον κυβερνοχώρο, τη βλάβη των καταναλωτών και τη συγκέντρωση της αγοράς».
Η έκθεση, με επικεφαλής τον συν-διευθύνοντα σύμβουλο της FCA, Sheldon Mills, κάνει μια σειρά από συστάσεις, μεταξύ των οποίων να υιοθετήσει ο εποπτικός φορέας το δικό του μοντέλο με δυνατότητα AI για την επίβλεψη των εταιρειών και να ζητήσει από την κυβέρνηση να επεκτείνει τις υπάρχουσες εξουσίες της.
Αυτό θα μπορούσε να σημαίνει ότι θα επεκτείνει την εξουσία του σε «κρίσιμα τρίτα μέρη», όπως εταιρείες τεχνητής νοημοσύνης και παρόχους υπηρεσιών cloud, καθώς και «άμεσες εξουσίες» να ρυθμίζει τις εταιρείες τεχνολογίας για την αποτροπή ψηφιακών μονοπωλίων, την αύξηση του ανταγωνισμού και την προστασία των καταναλωτών.
Ο Mills είπε στους Financial Times ότι οι ρυθμιστικές αρχές πρέπει να υιοθετήσουν την τεχνητή νοημοσύνη στο εσωτερικό για να συμβαδίζουν με την ταχύτητα, το ρυθμό και την κλίμακα των αλλαγών, «παρακολούθηση, ανίχνευση και αντιμετώπιση κινδύνων». «Είναι ένας αγώνας εξοπλισμών», είπε.
«Η τεχνητή νοημοσύνη θα μεταμορφώσει τις χρηματοπιστωτικές υπηρεσίες μέχρι το 2030», είπε σε μια δήλωση. “Αυτό δημιουργεί σημαντικές ευκαιρίες για τους καταναλωτές, τις επιχειρήσεις και την ευρύτερη οικονομία. Αυτή η έκθεση παρουσιάζει έναν οδικό χάρτη για το πώς οι ρυθμιστικές αρχές του κλάδου και η κυβέρνηση μπορούν να προετοιμαστούν για την επόμενη φάση της αλλαγής που βασίζεται στην τεχνητή νοημοσύνη στον κορυφαίο παγκοσμίως τομέα χρηματοοικονομικών υπηρεσιών.”
Η αναθεώρηση ανακοινώθηκε τον Ιανουάριο ως μέρος μιας προσπάθειας να κατανοηθεί πώς η τεχνητή νοημοσύνη θα μπορούσε να εξελιχθεί στο μέλλον, πώς αυτές οι εξελίξεις θα μπορούσαν να επηρεάσουν τους καταναλωτές, τις αγορές και τις εταιρείες και πώς οι οικονομικές ρυθμιστικές αρχές μπορεί να χρειαστεί να εξελιχθούν ως απάντηση.
Η FCA διαπίστωσε ότι το ένα πέμπτο του πληθυσμού του Ηνωμένου Βασιλείου, που αντιστοιχεί σε 11 εκατομμύρια ανθρώπους, είναι πρόθυμοι να χρησιμοποιήσουν την τεχνητή νοημοσύνη για να λάβουν οικονομικές αποφάσεις, συμπεριλαμβανομένης της αποταμίευσης και του δανεισμού. Αυτό συμβαίνει παρά το γεγονός ότι τα μοντέλα AI δεν ελέγχονται από τις οικονομικές ρυθμιστικές αρχές και ότι οι καταναλωτές δεν θα λάβουν αποζημίωση εάν χάσουν χρήματα.
μετά την προώθηση του ενημερωτικού δελτίου
Στην έκθεση Mills, η FCA συνιστά περαιτέρω επανεξέταση εντός έξι μηνών, εξετάζοντας την πιθανή βλάβη που αντιμετωπίζουν οι καταναλωτές που χρησιμοποιούν τεχνητή νοημοσύνη για τη διαχείριση των προσωπικών τους οικονομικών. Είπε επίσης ότι η αναθεώρηση θα πρέπει να εξετάσει τον κίνδυνο που ενέχουν οι εταιρείες που παρέχουν μη ελεγχόμενες χρηματοοικονομικές υπηρεσίες χρησιμοποιώντας τεχνολογία τεχνητής νοημοσύνης, δεδομένου ότι οι καθημερινές τους δραστηριότητες συνήθως δεν εμπίπτουν στις αρμοδιότητες και τις εξουσίες της ρυθμιστικής αρχής.
Η ανασκόπηση έρχεται εν μέσω αυξανόμενης συζήτησης σχετικά με τη χρήση του ισχυρού μοντέλου τεχνητής νοημοσύνης της Anthropic. Η αμερικανική εταιρεία τεχνολογίας είπε ότι το μοντέλο, γνωστό ως Mythos, αποτελεί σοβαρή δυνητική απειλή για την ασφάλεια στον κυβερνοχώρο οποιουδήποτε οργανισμού και έχει αρχίσει να εκλογικεύει τη χρήση του σε αξιόπιστες εταιρείες, συμπεριλαμβανομένων ορισμένων τραπεζών του Ηνωμένου Βασιλείου.
Υπήρχαν ανησυχίες ότι το Mythos έπεσε σε λάθος χέρια θα μπορούσε να ακρωτηριάσει τις τράπεζες και ενδεχομένως να θέσει ολόκληρο το χρηματοπιστωτικό σύστημα σε κίνδυνο. Η χρήση του Mythos από αμερικανικές εταιρείες σταμάτησε τον περασμένο μήνα από την κυβέρνηση Ντόναλντ Τραμπ και αποκαταστάθηκε εν μέρει την περασμένη εβδομάδα.
Η FCA θα συζητήσει τώρα πώς να ανταποκριθεί στις συστάσεις της ανασκόπησης Mills.
