Τα drones θα πρέπει να προγραμματιστούν έχοντας κατά νου τις ηθικές αρχές, καθώς η λήψη αποφάσεων που βασίζεται στην τεχνητή νοημοσύνη μειώνει την ανθρώπινη εμπλοκή στον αυτόνομο πόλεμο, δήλωσε ένας πρώην επικεφαλής των βρετανικών υπηρεσιών πληροφοριών.
Ο Ντέιβιντ Ομάντ είπε στον Guardian ότι είχε αλλάξει γνώμη για τα μη επανδρωμένα οπλικά συστήματα περισσότερο από μια δεκαετία αφότου κατέληξε στο συμπέρασμα ότι τα αυτόνομα drones δεν μπορούσαν να συμμορφωθούν με το διεθνές ανθρωπιστικό δίκαιο.
Ο πρώην επικεφαλής του GCHQ, της βρετανικής υπηρεσίας υποκλοπών, είπε ότι τώρα πιστεύει ότι η τεχνητή νοημοσύνη μπορεί να δημιουργήσει μια «ηθική» βάση για όπλα drone που μπορεί να διακρίνει μεταξύ μαχητών και αμάχων.
Ο Ομάντ είπε ότι επηρεάστηκε από την «επιτάχυνση» του σύγχρονου πολέμου, όπως αποδεικνύεται από την ανάπτυξη όπλων όπως drones και υπερηχητικούς πυραύλους, καθώς και από την εμφάνιση γενετικής τεχνητής νοημοσύνης, η οποία έδωσε στα κράτη έναν «δυνητικά ηθικό τρόπο» να επιτρέψουν στα drones να λειτουργούν μέσα σε ηθικά συμβατά συστήματα.
«Η έκκλησή μου είναι να εργαστούμε πραγματικά σε αυτό, ώστε να μην καταλήξουμε σε μια κατάσταση όπου τα μελλοντικά οπλικά συστήματα τεχνητής νοημοσύνης δεν έχουν ένα ηθικό στοιχείο ενσωματωμένο σε αυτά», είπε.
Η παρέμβασή του έγινε αφότου ο γραμματέας των Ενόπλων Δυνάμεων Αλ Κάρνες είπε ότι μπορεί να υπάρχουν περιστάσεις όπου τα μηχανήματα παίρνουν τις δικές τους αποφάσεις στόχευσης, λέγοντας ότι «πρέπει να μπορείς να βγάλεις έναν άνθρωπο από το βρόχο όταν είναι απαραίτητο».
Εν τω μεταξύ, οι ΗΠΑ κλίνουν έντονα προς τον πόλεμο χρησιμοποιώντας τεχνητή νοημοσύνη. Ο προϋπολογισμός του 2027, που δημοσιεύθηκε τον Απρίλιο, διέθεσε 54 δισεκατομμύρια δολάρια (40 δισεκατομμύρια £) για τη χρηματοδότηση «αυτόνομων και τηλεχειριζόμενων συστημάτων στον αέρα, στη γη, πάνω και κάτω από το νερό», συμπεριλαμβανομένου ενός προγράμματος «κυριαρχίας drone». Ωστόσο, ο πρώην διευθυντής της CIA Ντέιβιντ Πετρέους υποστηρίζει ότι οι Ηνωμένες Πολιτείες δεν έχουν στρατιωτικό δόγμα για αυτόνομες δυνάμεις.
Μιλώντας στον Guardian πριν από μια ομιλία στο Cheltenham Science Festival την Τετάρτη, ο Omand είπε ότι η τεχνολογία τεχνητής νοημοσύνης είναι πλέον ικανή να σταθμίσει παράγοντες που επηρεάζουν τις αποφάσεις στόχευσης ενός χειριστή drone, όπως εάν ο στόχος είναι νόμιμος, εάν θα υπάρξουν θύματα αμάχων και εάν ο στόχος έχει εντοπιστεί σωστά. Δεν πρόκειται για την επινόηση μιας νέας ηθικής, πρόσθεσε ο Omand, αλλά για τη μεταφορά της τρέχουσας ηθικής που χρησιμοποιείται από τον στρατό σε μια μορφή που μπορεί να εφαρμοστεί από μηχανής.
Η τεχνητή νοημοσύνη χρησιμοποιείται ήδη σε μεγάλο βαθμό στις πρόσφατες στρατιωτικές αποστολές των ΗΠΑ, με την τεχνολογία που αναπτύχθηκε από την Palantir και την Anthropic να χρησιμοποιείται για τη συντόμευση της «αλυσίδας δολοφονίας» – τη διαδικασία από την επιλογή στόχων έως την έναρξη ενός χτυπήματος – στη σύγκρουση στο Ιράν.
Ο Ομάντ, ο οποίος ήταν διευθυντής της βρετανικής υπηρεσίας κατασκοπείας GCHQ μεταξύ 1996 και 1997, προήδρευσε στο συνέδριο του Πανεπιστημίου του Μπέρμιγχαμ το 2014. επιτροπή για οπλισμένα drones εξέφρασε «αμφιβολίες» για το εάν τα αυτόνομα οπλικά συστήματα θα μπορούσαν να διακρίνουν με ασφάλεια μεταξύ αμάχων και μαχητών και αν θα μπορούσαν ποτέ να «ασκήσουν την αναλογικότητα που απαιτείται για τη συμμόρφωση με το διεθνές ανθρωπιστικό δίκαιο».
Ο Omand, επισκέπτης καθηγητής στο Τμήμα Πολεμικών Σπουδών στο King’s College του Λονδίνου, πιστεύει ότι το μηχάνημα μπορεί τώρα να επιτεθεί σε νόμιμους στρατιωτικούς στόχους, συμπεριλαμβανομένων των ανθρώπων, με τρόπο που αντανακλά «σωστή ηθική λογική» ενώ εξακολουθεί να βρίσκεται υπό κάποιον ανθρώπινο έλεγχο.
Ο Ομάντ είπε ότι καθώς ο πόλεμος γίνεται πιο περίπλοκος τεχνολογικά, οι άνθρωποι θα πρέπει αναπόφευκτα να είναι «εν γνώσει» και όχι «εν γνώσει» σχετικά με τα συστήματα τεχνητής νοημοσύνης. Ο όρος “in the loop” χρησιμοποιείται συνήθως σε συζητήσεις σχετικά με την αξιοποίηση ισχυρών συστημάτων τεχνητής νοημοσύνης και αναφέρεται σε έναν άνθρωπο που συμμετέχει ενεργά στη διαδικασία λήψης αποφάσεων.
Ο Omand είπε ότι “εν γνώσει” σημαίνει ότι ένας άνθρωπος θα ελέγχει το σύστημα, αλλά δεν θα εξουσιοδοτεί κάθε μεμονωμένη δράση μάχης, και η πρόοδος στη γενετική τεχνητή νοημοσύνη επιτρέπει στις μηχανές να λειτουργούν εντός ηθικών ορίων που έχει δημιουργήσει ο άνθρωπος. Αυτό το ηθικό πλαίσιο πρέπει να αλλάζει από λειτουργία σε λειτουργία, πρόσθεσε.
Η μετάβαση σε λειτουργία “εν κινήσει” ήταν αναπόφευκτη σε έναν κόσμο όπου ο πόλεμος κινείται γρήγορα, είπε ο Ομάντ.
“Αυτό είναι ένα φυσικό και λειτουργικό αναπόφευκτο”, είπε ο Omand. “Ο όρος “σε γνώση” σημαίνει ότι είστε ακόμα υπό τον ανθρώπινο έλεγχο και οι άνθρωποι είναι αυτοί που καθορίζουν τις παραμέτρους της αποστολής. Υπό αυτή την έννοια, οι άνθρωποι εξακολουθούν να έχουν ηθικό έλεγχο. Αλλά οι ατομικές αποφάσεις στον πυρετό της μάχης ή όπου ο χρόνος είναι πολύ λίγος, απλά δεν θα υπάρχει χρόνος για να τις πάρει κάποιος.”
Το ερώτημα τώρα, λέει το Ομάν, είναι πώς οι άνθρωποι θα διασφαλίσουν ότι τα αυτόνομα οπλικά συστήματα μπορούν να συμμορφωθούν με το διεθνές δίκαιο. Βρετανική στρατιωτική πολιτική σχετικά με τη χρήση της τεχνητής νοημοσύνης στην άμυνα, δηλώνει ότι «πρέπει να υπάρχει κατάλληλη ανθρώπινη ανάμειξη στο όπλο που εντοπίζει, επιλέγει και επιτίθεται σε στόχους», προσθέτοντας ότι αυτό μπορεί να περιλαμβάνει «έλεγχο που ασκείται μέσω του καθορισμού λειτουργικών παραμέτρων του συστήματος».
Ο Omand υποστηρίζει ότι οι ενέργειες ενός drone μπορούν να χωριστούν σε έξι μεταβλητές στις οποίες μπορούν να αποδοθούν επίπεδα σπουδαιότητας από έναν άνθρωπο χειριστή (αυτός που είναι “εν γνώσει”), οι οποίες στη συνέχεια χρησιμοποιούνται για να καθορίσουν την απόφαση του drone σχετικά με την αποστολή.
Το τελικό αποτέλεσμα θα μπορούσε να είναι ένα ηθικό σύστημα λήψης αποφάσεων που είναι ηθικά ανώτερο από την ανθρώπινη λήψη αποφάσεων, είπε ο Omand, ο οποίος έχει επίσης υπηρετήσει στα διοικητικά συμβούλια αμυντικών εταιρειών και είναι σύμβουλος της Paladin Capital, μιας επενδυτικής εταιρείας που επενδύει σε εταιρείες κυβερνοασφάλειας.
«Μπορεί πραγματικά να λειτουργήσει, ενώ το να βασιζόμαστε σε ανθρώπους για πολύ φευγαλέα δευτερόλεπτα σε έναν πόλεμο θα οδηγούσε πιθανώς σε πολύ χειρότερα αποτελέσματα όσον αφορά τις παράπλευρες ζημιές», είπε.
Το ηθικό θα προγραμματιστεί μέσω αυτού που ο Omand αποκαλεί «προσαρμοστικό επίπεδο ηθικού ελέγχου», όπου το άτομο θέτει τις παραμέτρους του «ηθικού» συστήματος πριν από την αποστολή, όπως η αναμενόμενη αναλογία αμάχων γύρω από τον στόχο. Ο Ομάντ το περιγράφει αυτό ως «επισημοποίηση της ηθικής εξουσίας».
Ένας ακτιβιστής κατά των μη επανδρωμένων αεροσκαφών είπε ότι η θέση του Ομάντ ήταν “τόσο παράλογη όσο και επικίνδυνη”.
Ο Chris Cole, διευθυντής του Drone Wars UK, δήλωσε: “Το AI είναι απλά ανίκανο να κάνει κρίσεις. Απλώς επεξεργάζεται δεδομένα χωρίς καμία απολύτως ικανότητα, για παράδειγμα, να διακρίνει τους πολίτες από τους μαχητές ή να κρίνει εάν οι ανθρώπινες απώλειες είναι ανάλογες με το στρατιωτικό πλεονέκτημα.”
