ΜΕΘα έχουν τα μελλοντικά drones AI άδεια να σκοτώνουν; Αυτό το ερώτημα γίνεται όλο και πιο πιεστικό καθώς οι κυβερνήσεις και η αμυντική βιομηχανία αναγνωρίζουν ότι τα συστήματα drones θα διαδραματίσουν όλο και πιο σημαντικό ρόλο σε μελλοντικούς πολέμους.
Καθώς τα drones χρησιμοποιούνται σε τεράστιους αριθμούς στον πόλεμο στην Ουκρανία και η τεχνητή νοημοσύνη χρησιμοποιείται για να βοηθήσει βομβαρδιστικές αποστολές στη σύγκρουση στο Ιράν, ορισμένοι παρατηρητές αναμένουν ότι το όπλο θα λειτουργεί με αυξημένη επιχειρησιακή αυτονομία, πράγμα που σημαίνει ότι θα χρειαστεί κάτι που μοιάζει με ηθικό πλαίσιο.
Πέρυσι, ο Μουσταφά Σουλεϊμάν, διευθύνων σύμβουλος του τμήματος τεχνητής νοημοσύνης της Microsoft και συνιδρυτής της βρετανικής εταιρείας DeepMind, ήταν ξεκάθαρο για το πρόβλημα των μηχανών που παίρνουν ηθικές αποφάσεις. Είπε: «Το AI δεν μπορεί να είναι ανθρώπινα ή ηθικά όντα».
Ο Ντέιβιντ Ομάντ, πρώην επικεφαλής της βρετανικής υπηρεσίας κατασκοπείας GCHQ, δήλωσε στον Guardian ότι πιστεύει ότι η τεχνητή νοημοσύνη θα μπορούσε να δημιουργήσει μια «ηθική» διαμόρφωση για μη επανδρωμένα όπλα, ενώ ο υπουργός Ενόπλων Δυνάμεων του Ηνωμένου Βασιλείου Αλ Κάρνες είπε πρόσφατα στους Financial Times ότι πρέπει να είναι δυνατό να «απομακρυνθεί ένα άτομο από τη διαδικασία λήψης αποφάσεων». Αυτό φέρνει στο επίκεντρο το ηθικό και τεχνολογικό ζήτημα του κατά πόσον η ηθική μπορεί να προγραμματιστεί σε ένα αυτόνομο οπλικό σύστημα.
Ο Zee Talat, ακαδημαϊκός που ειδικεύεται στη μηχανική μάθηση στη σχολή επιστήμης υπολογιστών του Πανεπιστημίου του Εδιμβούργου, υποστηρίζει ότι τα μεγάλα γλωσσικά μοντέλα – η τεχνολογία πίσω από τα σύγχρονα συστήματα τεχνητής νοημοσύνης όπως τα chatbots – είναι θεμελιωδώς ανίκανα να λάβουν ηθικές αποφάσεις.
Τα συστήματα τεχνητής νοημοσύνης εκπαιδεύονται σε τεράστιες ποσότητες δεδομένων, γεγονός που τους επιτρέπει να δημιουργήσουν ένα πιθανολογικό μοντέλο της επόμενης πιο πιθανής λέξης ή πρότασης σε μια σειρά. Δεν είναι ο τρόπος με τον οποίο οι άνθρωποι λαμβάνουν ηθικές και ηθικές αποφάσεις, λέει ο Ταλάτ, ακόμη κι αν αυτό το μοντέλο έχει απορροφήσει κάθε φιλοσοφική πραγματεία που είναι γνωστή στην ανθρωπότητα.
“Εάν έχετε μια μηχανή που είναι πιθανολογικής φύσης, θα τείνει προς την πιο πιθανή απάντηση σε μια κατάσταση. Πιστεύουμε ότι η ηθική ακολουθεί πιθανολογικές έννοιες;” λέει ο Talat, ο οποίος πρόσφατα συνέγραψε μια εργασία που υποστηρίζει ότι η ηθική αξιολόγηση είναι μια «ανοικτή, κοινωνικοπολιτική διαδικασία που βασίζεται σε συζητήσεις» με την οποία η τεχνητή νοημοσύνη δεν μπορεί να συμβαδίσει.
Ο Andrew Rogoiski του Ινστιτούτου Ανθρωποκεντρικής Τεχνητής Νοημοσύνης στο Πανεπιστήμιο του Surrey λέει ότι τα συστήματα AI έχουν γίνει πολύ πιο περίπλοκα από την εισαγωγή του ChatGPT το 2022, όπως αποδεικνύεται από την εμφάνιση των λεγόμενων μοντέλων «συλλογισμού». Ωστόσο, μπορούν να αναπαράγουν τις αποχρώσεις της ηθικής λήψης αποφάσεων;
«Η ηθική είναι ένα πολύ περίπλοκο, αμφιλεγόμενο, πολιτισμικά καθορισμένο πράγμα και οι περισσότεροι άνθρωποι δεν το επιλύουν ποτέ πλήρως, ακόμη και για τον εαυτό τους», λέει. “Ίσως το πραγματικό ερώτημα είναι αν κατανοούμε την ηθική αρκετά καλά για να την κωδικοποιήσουμε. Μέχρι να το κάνουμε, δεν μπορούμε να περιμένουμε από τις μηχανές να ενσωματώσουν αυτό που εμείς οι ίδιοι δεν μπορούμε να αρθρώσουμε.”
Αυτό οδηγεί στο ερώτημα εάν είναι δυνατόν να υπάρχει ένας παγκοσμίως αποδεκτός ηθικός κώδικας για τα αυτόνομα όπλα. Ο προγραμματισμός της ηθικής σε drones είναι προβληματικός, σύμφωνα με την Jessica Dorsey, επίκουρη καθηγήτρια διεθνούς δικαίου στο Πανεπιστήμιο της Ουτρέχτης στην Ολλανδία. Την ανησυχεί να καθορίσει ποιανού τα ήθη ακολουθεί το drone. Πρόκειται για μια περίπλοκη διαδικασία, δεδομένου ότι τα Ηνωμένα Έθνη εξακολουθούν να προσπαθούν να επιτύχουν παγκόσμια συναίνεση για το θέμα. αυτόνομο έλεγχο όπλων.
Υπάρχει επίσης το ερώτημα πώς να προγραμματίσετε ένα σύστημα τεχνητής νοημοσύνης για τη διάκριση μεταξύ ενός μαχητή και ενός πολίτη. Το άρθρο 57 των Συμβάσεων της Γενεύης, μια σειρά διεθνών συνθηκών που διέπουν τη διεξαγωγή του πολέμου, ορίζει ότι οι μαχητές πρέπει να καταβάλλουν «κάθε εύλογη προσπάθεια για να διασφαλίσουν ότι τα αντικείμενα που πρόκειται να επιτεθούν δεν είναι ούτε άμαχοι ούτε πολιτικά αντικείμενα… αλλά είναι στρατιωτικοί στόχοι».
«Αν δεν λάβετε σωστά τη νομοθεσία, θα καταλήξετε να επαναλαμβάνετε κακές αποφάσεις σε μαζική κλίμακα, εάν χρησιμοποιούνται μαζικά drones AI», λέει ο Dorsey.
“Ο πόλεμος είναι γεμάτος με πολλές μεταβλητές και είναι αυτονόητο ότι κάτι θα πάει στραβά. Και όταν συμβαίνει με ταχύτητες που μοιάζουν με την τεχνητή νοημοσύνη, είναι δύσκολο να το καταλάβεις”, λέει.
Ωστόσο, ορισμένοι ειδικοί υποστηρίζουν ότι η παροχή μεγαλύτερης αυτονομίας στα drones και ο προγραμματισμός τους με κανόνες εμπλοκής και ηθικής θα καταστεί απαραίτητος εάν άλλα έθνη-κράτη συνεχίσουν να αναπτύσσουν και να αναπτύσσουν παρόμοιες τεχνολογίες με τον ίδιο ρυθμό.
«Για να μπορέσει οποιοσδήποτε στρατός να ανταγωνιστεί αποτελεσματικά άλλους στρατούς υψηλών προδιαγραφών, θα χρειαστεί μεγάλος αριθμός συστημάτων που θα πρέπει να λαμβάνουν αποφάσεις μόνοι τους», λέει ο Nicholas Wright, νευροεπιστήμονας και συγγραφέας του Combat, ενός βιβλίου για τον ανθρώπινο εγκέφαλο και τον πόλεμο.
Τα μη επανδρωμένα αεροσκάφη AI εξακολουθούν να είναι μια εκκολαπτόμενη τεχνολογία και παρά τη διαφημιστική εκστρατεία στον κλάδο της τεχνολογίας, υπάρχουν μόνο περιορισμένα παραδείγματα χρήσης τους στο πεδίο της μάχης. Περισσότερα από 100 νεοφυείς επιχειρήσεις στις ΗΠΑ και την Ευρώπη κατασκευάζουν τώρα drones και πλατφόρμες λογισμικού drone. Κυμαίνονται από ελαφριά, χαμηλού υψομέτρου drones σχεδιασμένα για επιτήρηση και επιτήρηση έως βαρύτερα αεροσκάφη σχεδιασμένα να μεταφέρουν όπλα. Αλλά οι εταιρείες που τα δημιουργούν – και οραματίζονται μελλοντικούς πολέμους – έχουν έντονα αντικρουόμενες απόψεις σχετικά με το πώς μπορεί να μοιάζει η διαδικασία λήψης αποφάσεων σε μελλοντικούς πολέμους.
«Η ηθική είναι ανθρώπινο προνόμιο, επομένως τα οπλικά συστήματα τεχνητής νοημοσύνης θα πρέπει να κατασκευαστούν για να ενισχύσουν τις δυνατότητες και τη λήψη αποφάσεων του χειριστή, αντί να το αντικαταστήσουν πλήρως», λέει ο Olaf Hichwa, συνιδρυτής της Neuros, μιας αμερικανικής startup για drone.
Σύμφωνα με τον Khichwa, τα drones δεν θα αντικαταστήσουν τους ανθρώπους που λαμβάνουν αποφάσεις, αλλά θα επεκτείνουν τις δυνατότητες των ανθρώπινων πιλότων.
“Πολλοί άνθρωποι βλέπουν την αυτονομία λίγο λάθος. Δεν την βλέπουν με τα μάτια του χρήστη. Λένε, ας φτιάξουμε πλήρως αυτόνομα οπλικά συστήματα”, λέει.
«Αλλά η πραγματικότητα του πολέμου είναι ότι εξακολουθεί να είναι σε μεγάλο βαθμό μια αλληλεπίδραση ανθρώπων με ανθρώπους».
Μια χρήση της τεχνητής νοημοσύνης στον πόλεμο, είπε, θα μπορούσε να είναι η μείωση του γνωστικού φορτίου των ανθρώπων που πρέπει να πετάξουν με αεροσκάφη, όπως τα drones FPV (προβολή πρώτου προσώπου) – μικρά αεροσκάφη που χρησιμοποιούνται σε μεγάλο βαθμό στην ουκρανική σύγκρουση που μεταδίδουν απόψεις του πεδίου μάχης στους ανθρώπους τους πιλότους μέσω βίντεο. Σε ένα σενάριο, το drone μπορεί να κινηθεί μόνο του σε όλο το «τελευταίο μίλι» της αποστολής.
“Ένα παράδειγμα αυτονομίας είναι… αυτή τη στιγμή οι πιλότοι χρειάζονται πολλή πολύ ακριβή εκπαίδευση για να κάνουν το drone να κινείται στη σωστή γωνία. Κάποια αυτονομία θα μπορούσε να είναι ο χρήστης ή ο άνθρωπος που ορίζει μια γενική διαδρομή και το drone ακολουθεί αυτή τη διαδρομή.”
Ο John Gruen, Διευθύνων Σύμβουλος της εταιρείας άμυνας κατά των drones Fortem Technologies, έχει διαφορετική άποψη. Επισημαίνει ότι οι ΗΠΑ χρησιμοποιούν ήδη αυτόνομα αμυντικά συστήματα για να αναχαιτίσουν εισερχόμενα μη επανδρωμένα αεροσκάφη και πυραύλους και ότι σε πολλές από αυτές τις περιπτώσεις η τεχνητή νοημοσύνη χρησιμοποιείται «διαμέσου» για τον εντοπισμό στόχων και μερικές φορές την εκτόξευση όπλων εναντίον τους.
“Όταν ανακαλύπτεις κάτι, πρέπει να το αναγνωρίσεις. Τώρα, μεγάλο μέρος αυτής της ταύτισης γίνεται αυτόνομα.”
Η ίδια τεχνολογία μπορεί τώρα να χρησιμοποιηθεί για την ανάπτυξη όπλων, συμπεριλαμβανομένης της βολής του όπλου και στη συνέχεια της καθοδήγησής του σε έναν στόχο, είπε.
Ο Alex Fink, διευθύνων σύμβουλος της Swarmer, μιας αμερικανο-ουκρανικής νεοσύστατης εταιρείας που αναπτύσσει λογισμικό για αυτόνομα drones, λέει ότι θα μπορούσε να υπάρξει ένα μελλοντικό σενάριο στο οποίο οι άνθρωποι δεν επιλέγουν καθόλου μεμονωμένους στόχους, αλλά αντ’ αυτού ορίζουν ένα “κουτί σκότωσης” στο οποίο τα πάντα σε αυτήν την περιοχή εκείνη τη στιγμή είναι δίκαιο παιχνίδι για το αυτόνομο σύστημα.
“Ένα άτομο επιβεβαιώνει αυτή τη ζώνη, δεν υπάρχουν φιλικά και εγγυώμαι ότι δεν θα υπάρξουν φιλικά για τα επόμενα 15 λεπτά. Οποιοδήποτε όχημα σε αυτήν τη ζώνη είναι προεγκεκριμένο για αυτό το χρονικό διάστημα”, λέει ο Fink.
«Εάν ένα άτομο είναι σε θέση να αναλάβει αυτή την ευθύνη και γνωρίζει ότι δεν θα υπάρχουν φίλοι ή μάρτυρες σε αυτόν τον τομέα, τότε μια τέτοια αποστολή είναι δυνατή».
Αλλά αν υπάρχει η τεχνολογία, δεν υπάρχει ηθική ή νομική συναίνεση.
