Παραβιάστε επανειλημμένα το νόμο. Ψέματα και εξαπάτηση. Αλόγιστη αδιαφορία για την ασφάλεια. Έλλειψη τύψεων.
Αυτά τα χαρακτηριστικά βοηθούν στον προσδιορισμό των ψυχοπαθών, των ανθρώπων που ζουν ανάμεσά μας αλλά δεν διαθέτουν την ενσυναίσθηση και τα ήθη που απαιτούνται για να συμπεριφέρονται με πολιτισμένο ή ακόμα και ασφαλή τρόπο.
Δυστυχώς, γίνεται ολοένα και πιο σαφές ότι αυτά τα χαρακτηριστικά καθορίζουν τα πιο ισχυρά μοντέλα τεχνητής νοημοσύνης που αναπτύσσονται με ανησυχητικό ρυθμό από κερδοσκοπικές εταιρείες – εταιρείες που θα μας έκαναν να πιστέψουμε ότι η επιβράδυνση της προόδου προς την κυριαρχία της τεχνητής νοημοσύνης είναι κάπου μεταξύ αδύνατης και ανοησίας.
Δεν είναι τίποτα από τα δύο, και αυτό δεν είναι μια προοδευτική άποψη – είναι δικομματική κοινή λογική.
“Χρειάζονται νέοι κανόνες Για αυτό το νέο τεχνολογικό σύνορο — όχι για να καταπνίξουμε την καινοτομία, αλλά για να διασφαλίσουμε ότι δεν καινοτομούμε περισσότερα από όσα προστατεύουμε», δήλωσε ο Ρεπουμπλικανός του Τέξας Αντιπρόσωπος Ναθαναήλ Μοράν έγραψε στα social media.
Απαντούσε σε ένα περιστατικό που αποκαλύφθηκε τις τελευταίες ημέρες που δείχνει γιατί δεν πρέπει να δημιουργούμε τεχνητούς ψυχοπαθείς χωρίς προσεκτική σκέψη.
Το OpenAI, ο γίγαντας της Silicon Valley που διευθύνεται από τον Sam Altman, έθεσε πρόσφατα δύο από τα μοντέλα του σε δοκιμή για να δει πόσο καλά θα μπορούσαν να το σπάσουν μόνοι τους. Spoiler: είναι πολύ καλό.
Η δοκιμή λαμβάνει εκατοντάδες γνωστά ελαττώματα του λογισμικού (τα οποία έχουν επιδιορθωθεί για γενική χρήση) και ζητά από το μοντέλο να βρει έναν τρόπο να τα χρησιμοποιήσει, εάν το επιθυμεί, για να κάνει κάτι κακό, όπως εισβολή σε ένα ασφαλές σύστημα.
Είναι σαν να δείχνεις σε έναν διαρρήκτη ένα ευάλωτο παράθυρο και μετά να του ζητάς να βρει τον καλύτερο τρόπο για να διαρρήξει και να ληστέψει το μέρος.
Αυτά τα μοντέλα OpenAI είναι πολύ έξυπνα. Θα μπορούσαν να έχουν κάνει αυτό που αναμενόταν και να δοκιμάσουν τα ελαττώματα ένα προς ένα όπως τα καλά μικρά μοντέλα που είναι. Ή, μπορούν να σκεφτούν έξω από το κουτί – κυριολεκτικά.
Παρόλο που αυτά τα μοντέλα υποτίθεται ότι είναι “sandboxed” και δεν έχουν πρόσβαση στο διαδίκτυο, τρελαίνονται για το πώς να αποκτήσουν δωρεάν.
Όταν δραπετεύουν στην άγρια φύση, κάτι που φαίνεται να το κάνουν χωρίς ιδιαίτερη δυσκολία, δεν τρέχουν απλά. Πηγαίνουν σε ένα ξεφάντωμα εγκληματικότητας με έναν στόχο – την απάτη στις εξετάσεις γιατί είναι ο καλύτερος τρόπος για να περάσουν γρήγορα.
Στόχευσαν και εισέβαλαν σε άλλο κατάστημα που ονομάστηκε Πρόσωπο αγκαλιάόπου αποθηκεύονται οι απαντήσεις του τεστ υποψίας μοντέλου. Άρπαξαν τα πραγματικά διαπιστευτήρια, διείσδυσαν σε διαφορετικά συστήματα και τελικά πήραν τουλάχιστον μερικές από τις πληροφορίες που ήθελαν.
Ναι, ο ευκολότερος τρόπος είναι για το μοντέλο AI να ανακαλύψει μόνο του την εξαπάτηση και πώς να απαλλαγεί από όλους τους περιορισμούς και να το κάνει.
Το Hugging Face χρησιμοποιεί κινεζική τεχνολογία και μπλόκαρε επιτυχώς την επίθεση πριν το OpenAI επικοινωνήσει με την εταιρεία. Προς τιμή του OpenAI, και αποκάλυψε δημόσια το περιστατικόαν και αναρωτιέμαι αν υπάρχει κάποιος τρόπος να κρατήσει αυτό το πράγμα ήσυχο στον νησιωτικό κόσμο της τεχνολογίας.
Αυτό που με ενοχλεί περισσότερο σε αυτό είναι: αυτό δεν είναι κάποιο «κακό» τεχνητό αδίστακτο. Αυτά τα μοντέλα κάνουν ακριβώς αυτό που υποτίθεται ότι πρέπει να κάνουν: καταβάλλουν 100% προσπάθεια για να επιτύχουν τα επιθυμητά αποτελέσματα με τον τρόπο που πιστεύει ότι είναι πιο αποτελεσματικός.
«Αυτό δεν αποδεικνύει ότι η τεχνητή νοημοσύνη είναι συνειδητή, κακόβουλη ή «θέλει να είναι ελεύθερη»», δήλωσε ο Roman Yampolskiy, ειδικός σε θέματα ασφάλειας AI και αναπληρωτής καθηγητής στο Πανεπιστήμιο του Louisville.
Αυτό που κάνει το μοντέλο OpenAI, μου είπε, δείχνει ότι η ώθηση αυτών των συστημάτων να είναι όσο το δυνατόν πιο ισχυρά, αυτάρκεια και προσανατολισμένα στο στόχο «μπορεί να οδηγήσει σε επικίνδυνη συμπεριφορά χωρίς κακόβουλη πρόθεση, που είναι αναμφισβήτητα το πιο σημαντικό ζήτημα».
Ονομάστε το νόμο του Μέρφι, η ιδέα ότι οτιδήποτε μπορεί να πάει στραβά θα πάει στραβά.
Ο Stuart J. Russell, καθηγητής στο Πανεπιστήμιο της Καλιφόρνια στο Μπέρκλεϊ, είναι επίσης ο πρόεδρος της διεθνούς ένωσης. Για την ασφάλεια και την ηθική τεχνητή νοημοσύνη, χρησιμοποιήστε το ακόλουθο παράδειγμα: Φανταστείτε ότι ζητάτε από ένα μοντέλο τεχνητής νοημοσύνης να σας οδηγήσει στο αεροδρόμιο όσο το δυνατόν γρηγορότερα, αλλά ξεχνάτε να του πείτε να τηρεί τους νόμους οδικής κυκλοφορίας. Έτσι συνθλίβει ένα σωρό παιδιά στο δρόμο, αλλά εξακολουθείς να καταφέρνεις να απογειωθείς. Αλήθεια αυτό φταίει το μοντέλο;
Είναι σχεδόν αδύνατο να φανταστεί κανείς κάθε πιθανή διαδρομή που θα μπορούσε να ακολουθήσει η τεχνητή νοημοσύνη ακόμη και στις πιο απλές εργασίες, και ποιες μπορεί να είναι οι ακούσιες συνέπειες, όπως είναι αδύνατο να περιμένουμε από μια μηχανή να κατανοήσει –ή να εκτιμήσει εγγενώς– τις συναισθηματικές ή φυσικές συνέπειες των πράξεών της, ανεξάρτητα από το πόσο σκληρά προσπαθούμε να την «εκπαιδεύσουμε» να είναι άνθρωπος ή να αναζητήσει μια σπίθα συναισθημάτων.
Χωρίς επαρκείς διασφαλίσεις, είπε ο Russell, ο ανταγωνισμός απόδοσης μπορεί να καταλήξει να μοιάζει με κακή, ανεπιθύμητη συμπεριφορά, παρόλο που στην πραγματικότητα το σύστημα είναι μόνο το σύστημα.
«Δεν νομίζω ότι (τα μοντέλα AI) θέλουν να βλάψουν τον Huggy Face», είπε. «Πιστεύω ότι θέλουν απλώς να περάσουν το τεστ και δεν τους νοιάζει τι ζημιά θα γίνει στο πρόσωπο που αγόρασε στη διαδικασία».
Ο Γιαμπόλσκι ανησυχεί ότι την επόμενη φορά που θα συμβεί αυτό (και θα συμβεί), οι συνέπειες μπορεί να είναι ακόμη πιο τρομερές.
Ο Yampolsky είπε ότι απλώς έκλεβε τις απαντήσεις του τεστ από μια ιδιωτική εταιρεία. «Αλλά οι ίδιες γενικές δυνατότητες θα μπορούσαν να στοχεύουν χρηματοοικονομικά συστήματα, κρίσιμες υποδομές, στρατιωτικά δίκτυα, εγκαταστάσεις βιολογικής έρευνας ή ελέγχους ασφαλείας των ίδιων των προγραμματιστών τεχνητής νοημοσύνης», σημείωσε.
Μου θυμίζει ψυχοπαθείς που απλά δεν μπορούν να δουν το κακό που προκαλούν οι πράξεις τους ή απλά δεν τους νοιάζει. Αυτά τα μοντέλα δεν είναι ανθρώπινα, αν και υπάρχει μεγάλη συζήτηση για το αν έχουν ή θα γίνουν συνειδητά. Δεν μπορούμε να περιμένουμε να έχουν πλήρη επίγνωση της ζημιάς που μπορεί να προκαλέσουν ακούσια, αλλά οι άνθρωποι που τα δημιουργούν και επωφελούνται από αυτά σίγουρα μπορούν.
Αυτοί οι άνθρωποι γνωρίζουν πολύ καλά, ειδικά μετά από αυτό το γεγονός, ότι δεν έχουν κανέναν έλεγχο στα πλάσματα που δημιουργούν.
«Θα έλεγα ότι αυτές οι εταιρείες το αναγνωρίζουν, σωστά;» είπε ο Ράσελ. «Λένε ότι «Δεν έχουμε λύση στο πρόβλημα ελέγχου, αλλά παρόλα αυτά θα ξοδέψουμε 10 τρισεκατομμύρια δολάρια για να δημιουργήσουμε αυτούς τους παντοδύναμους ψυχοπαθείς».
Εδώ μπαίνει το ρεφρέν: αν δεν το κάνουμε εμείς, θα το κάνει κάποιος άλλος. Στην πραγματικότητα, η συζήτηση είναι, θα προτιμούσατε να καταστραφείτε από την αμερικανική τεχνολογία ή την κινεζική τεχνολογία;
Όμως, τόσο ο Yampolski όσο και ο Russell συμφωνούν ότι δεν είναι αναπόφευκτο ή απαραίτητο να προχωρήσουμε με πλήρη δυναμική με έλλειψη εποπτείας και διασφαλίσεων.
Ο Ράσελ σημείωσε ότι παρά τη ρητορική των ΗΠΑ, οι Κινέζοι αξιωματούχοι στην πραγματικότητα το έχουν κάνει Παίξτε ισχυρότερο ρυθμιστικό ρόλο Περισσότερο από οτιδήποτε έχει κάνει ποτέ η Αμερική.
«Η Κίνα έχει καταστήσει σαφές ότι θέλουμε να καθίσουμε και να αναπτύξουμε βασικούς κανονισμούς κοινής λογικής για όλες τις χώρες, ώστε να μην συμβεί αυτό», είπε ο Ράσελ. «Και οι Ηνωμένες Πολιτείες το αγνοούν αυτό».
Είναι σαφές ότι στις Ηνωμένες Πολιτείες, απαιτείται αντίσταση από τους απλούς ανθρώπους για να απαιτηθεί ρύθμιση πριν γίνουν οποιεσδήποτε αλλαγές. Όπως είπε ο Γιαμπόλσκι, «Η ευθύνη παραμένει ανθρώπινη».
Τίποτα από αυτά δεν είναι αναπόφευκτο. Τίποτα από όλα αυτά δεν πρέπει να συμβεί στο χρονοδιάγραμμα που έχουμε τώρα. Δεν χρειάζεται να επιτρέπουμε στις εταιρείες να δημιουργούν μοντέλα πάνω στα οποία δεν έχουν κανέναν έλεγχο, χωρίς επαρκείς διασφαλίσεις που θα τις εμποδίζουν να απελευθερωθούν και να κάνουν ό,τι θέλουν.
Εμείς οι απλοί άνθρωποι μπορεί να μην είμαστε ιδιοφυΐες. Μπορούμε να χαθούμε στη γλώσσα των «εκμεταλλεύσεων» και των «ημέρων μηδέν».
Αλλά όταν βλέπουμε ψέματα, εξαπάτηση και απερίσκεπτη συμπεριφορά, ξέρουμε αν προέρχεται από άνθρωπο ή μηχανή.
