Μερικοί από τους πιο ισχυρούς ανθρώπους που κατασκευάζουν AI Τώρα ουσιαστικά ζητούν ακύρωση. μεγάλες εταιρείες Η ανθρωπότητα πρόσφατα αναγνώρισε «Πιστεύουμε ότι αν μπορούμε να επιβραδύνουμε αποτελεσματικά την ανάπτυξη αυτής της τεχνολογίας για να μας δώσει περισσότερο χρόνο για να αντιμετωπίσουμε τον τεράστιο αντίκτυπό της, αυτό είναι μάλλον καλό». Αυτή είναι μια αξιοσημείωτη παραδοχή. Οι αρχιτέκτονες του μέλλοντος λένε ότι δεν μπορούν να δουν καθαρά τον κόσμο που χτίζουν.
Έχουν λόγο να ανησυχούν, όπως και εμείς. Σε διάστημα λίγων μηνών, είδαμε να κλείνουν μοντέλα συνόρων λόγω ανησυχιών για την εθνική ασφάλεια, είδαμε να δημιουργείται το πιο ισχυρό κυβερνοόπλο στην ιστορία, έχουμε δει αναταραχές στην αγορά εργασίας που οι οικονομολόγοι ακόμα δυσκολεύονται να κατανοήσουν και μάθαμε για το πραγματικό τίμημα της ψυχικής υγείας που δημιουργεί η τεχνητή νοημοσύνη. Το σύστημα έχει σχεδιαστεί για να είναι εθιστικό, με μερικές φορές τραγικές συνέπειες. Από την άλλη, η Α.Ι. άρχισαν να αυτοβελτιώνονται, να τελειοποιούν τον δικό τους κώδικα σε μια διαδικασία επαναλαμβανόμενης αυτοβελτίωσης με την ανησυχητική πιθανότητα φυγής ανάπτυξης. Ακόμη και πρόσφατα παπική εγκύκλιος υπέροχη ανθρωπιά Προειδοποίησε ότι η τεχνολογία που κατασκευάζεται για το κέρδος και όχι για την ανθρώπινη άνθηση κινδυνεύει να γίνει ένας νέος Πύργος της Βαβέλ, ένα μνημείο φιλοδοξίας που καταλήγει σε χάος και κατάρρευση.
Μπροστά σε όλα αυτά, πιστεύουμε ενστικτωδώς ότι ζούμε σε πρωτόγνωρους καιρούς και ότι καμία άλλη γενιά δεν θα βρίσκεται στη θέση μας, κοιτάζοντας την άκρη μιας τεχνολογίας που δεν είναι πλήρως κατανοητή. Αλλά αυτή η διαίσθηση θα ήταν λάθος. Ήμασταν εδώ πριν. Και, κατά σύμπτωση, ακριβώς πριν από 50 χρόνια αυτό το καλοκαίρι, ήμασταν στο Κέιμπριτζ της Μασαχουσέτης.
Στη δεκαετία του 1970, η τρομακτική νέα τεχνολογία δεν ήταν το πυρίτιο αλλά το DNA. Όταν οι επιστήμονες έμαθαν πώς να συνδυάζουν το γενετικό υλικό ενός είδους σε ένα άλλο — συνδέοντας ανθρώπινα γονίδια σε βακτήρια — οι αντιδράσεις του κοινού κυμαίνονταν από έκπληξη έως φρίκη. Θα οδηγήσει αυτή η εφεύρεση σε μια θαυματουργή θεραπεία για την ασθένεια ή θα εξαπολύσει αυτό που οι εφημερίδες ονόμασαν με χαρά «το ζωύφιο του Φρανκενστάιν»; Τώρα διάσημος πριν από το 1975 Συνέδριο Asilomar στην Καλιφόρνιαοι ίδιοι οι επιστήμονες έκαναν κάτι σχεδόν πρωτόγνωρο. Σταμάτησαν την έρευνά τους και ρώτησαν πώς θα μπορούσαν να το κάνουν με ασφάλεια.
Όμως ένα πιο διδακτικό δράμα εκτυλίχθηκε ένα χρόνο αργότερα, όχι στο συνεδριακό κέντρο αλλά στο Δημαρχείο. Κατά τη διάρκεια του ζεστού καλοκαιριού του 1976, ξέσπασε μια συζήτηση στο Κέιμπριτζ για το αν θα έπρεπε να επιτραπεί στο Χάρβαρντ να χτίσει ένα ερευνητικό εργαστήριο. έρευνα ανασυνδυασμένου DNA. Ο δήμαρχος φοβόταν μια επιδημία. Κορυφαίοι επιστήμονες ρίχτηκαν στη μάχη, ορισμένοι αποδεικνύοντας την ασφάλεια των αγροτών στην έρευνα αγοράς, ενώ άλλοι προειδοποίησαν εξίσου δημόσια για τους κινδύνους. Η δημοκρατία ήταν πολωμένη, θερμαινόταν και συχνά βρισκόταν σε αναταραχή. Η δημοκρατία αποδείχθηκε η λιγότερο αξιοπρεπής και η πιο χρήσιμη.
Το Πανεπιστήμιο του Κέιμπριτζ δεν απαγορεύει ή αγνοεί απλώς την έρευνα. Δοκίμασα κάτι πιο γενναίο.. είναι, Πειραματική Επιθεώρηση του Κέιμπριτζ: Οι απλοί πολίτες όπως οι νοσοκόμες δημόσιας υγείας, οι καλόγριες, οι μηχανικοί και οι πρώην δήμαρχοι είναι υπεύθυνοι για τη στάθμιση των αποδεικτικών στοιχείων και την έκδοση ετυμηγορίας. Δεν ήταν ειδικοί. Ήταν κάτοικοι που έπρεπε να ζήσουν με τις συνέπειες. Πάνω από μήνες συνεντεύξεων ασθενών, άκουσαν, αμφισβήτησαν, διαφώνησαν και τελικά πήραν μια απόφαση. Δεν σταμάτησαν την επιστήμη. Δημιούργησαν ένα πλαίσιο λογικών διασφαλίσεων που ήταν εντυπωσιακά παρόμοιο με αυτό που τελικά συνέστησαν οι επιστήμονες του Asilomar.
Το αποτέλεσμα είναι ένα από τα μεγάλα σιωπηλά δείγματα της εμπιστοσύνης του κοινού. Μακριά από την καταστολή της καινοτομίας, οι σαφείς κανόνες του Cambridge το έκαναν ξεκάθαρα ένα σπίτι για νέες βιομηχανίες. Οι εταιρείες βιοτεχνολογίας μπόρεσαν να ριζώσουν εκεί ακριβώς επειδή κατανοούσαν τις βασικές αρχές. Σήμερα, η πλατεία Kendall, σε μικρή απόσταση με τα πόδια από το σημείο όπου πραγματοποιήθηκαν αυτές οι ακροάσεις, περιγράφεται συνήθως ως «το πιο καινοτόμο τετραγωνικό μίλι στη Γη». Οι κανονισμοί δεν θα καταστρέψουν το μέλλον. Το έχτισε.
Αυτό είναι ένα μάθημα που αξίζει να το μεταφέρουμε στις δικές μας ανήσυχες στιγμές. Κυρίαρχες παραδοχές στο AI Η συζήτηση είναι ότι υπάρχουν μόνο δύο επιλογές: αλόγιστη επιτάχυνση ή μια τρομακτική απαγόρευση. Το Πανεπιστήμιο του Κέιμπριτζ το 1976 απέδειξε ότι υπάρχει ένας τρίτος δρόμος και ότι διατρέχει το κοινό και όχι γύρω από αυτό.
Δεν είναι ότι δεν υπάρχουν μοντέλα. Ορισμένες πολιτείες των ΗΠΑ έχουν αρχίσει προσωρινά να θεσπίζουν νομοθεσία. Εκδόθηκε από την UNESCO ηθικές κατευθυντήριες γραμμές. Είναι ενδιαφέρον ότι αρκετοί ειδικοί υποστηρίζουν τώρα ότι η Κίνα είναι μπροστά από τις ΗΠΑ σε ορισμένες πτυχές της τεχνητής νοημοσύνης. Ασφάλεια – μια υπενθύμιση ότι το ερώτημα ποιος ελέγχει αυτήν την τεχνολογία και πώς είναι επίσης ζήτημα ποιες αξίες θα κωδικοποιήσει το μέλλον. Η Ευρωπαϊκή Ένωση έχει θεσπίσει ολοκληρωμένη νομοθεσία. Η Καλιφόρνια προσπάθησε και σκόνταψε. Αλλά σχεδόν όλα αυτά διαδραματίζονται στα υψηλά επίπεδα των νομοθετικών σωμάτων και των διεθνών θεσμών, πολύ πιο πάνω από τους ανθρώπους των οποίων η ζωή αναδιαμορφώνεται.
Αυτό που λείπει είναι ακριβώς αυτό που είχε το Cambridge το 1976: συζήτηση κοντά στο πεδίο. Φανταστείτε μια συνέλευση πολιτών στο AI Θα πραγματοποιηθεί σε δημαρχεία και βιβλιοθήκες και όχι στη Γενεύη ή την Ουάσιγκτον. Είναι παρόμοιο με το πώς η Ιρλανδία χρησιμοποίησε τις συνελεύσεις πολιτών για να ξεπεράσει το αδιέξοδο δεκαετιών σχετικά με τις αμβλώσεις και τους γάμους ομοφυλόφιλων ή πώς η Ταϊβάν χρησιμοποίησε ψηφιακές πλατφόρμες για να κάνει τους απλούς ανθρώπους να βοηθήσουν στη διαμόρφωση τεχνολογικής πολιτικής, ή με αυτό που κάνουμε εδώ στο MIT μέσω της δουλειάς των κρατικών ιδρυμάτων. Το κέντρο της εποικοδομητικής επικοινωνίας Σχετικά με την ανάπτυξη συστημάτων για ακρόαση κοινότητας με βελτιωμένη τεχνολογία. Η μηχανική τεχνογνωσία είναι απαραίτητη, αλλά όχι επαρκής. Ακριβώς όπως αφήνουμε τους κατασκευαστές όπλων να γράφουν τους κανόνες του πολέμου, οι άνθρωποι που κατασκευάζουν την τεχνολογία δεν μπορούν να αποφασίσουν πώς θα τη διαχειριστούν.
Στην πραγματικότητα, το διακύβευμα είναι υψηλότερο τώρα. Το ανασυνδυασμένο DNA ήταν πρόβλημα σε λίγα εργαστήρια. ΟΛΑ ΣΥΜΠΕΡΙΛΑΜΒΑΝΟΝΤΑΙ. είναι ήδη υφασμένα στις κλινικές, στις αίθουσες δικαστηρίων, στις τάξεις και στις καρδιές των παιδιών μας. Τα σύνορα επεκτείνονται επίσης και οι δυνατότητες της τεχνητής νοημοσύνης θα επιταχύνουν την ανάπτυξη. καθρέφτης ζωής Τα παθογόνα που έχουν δημιουργηθεί με τεχνητή νοημοσύνη μπορούν να εξαπλωθούν και κάθε νέα τεχνολογία ενσωματώνει την ίδια λανθασμένη επιλογή μεταξύ τυφλής προόδου και τυφλής απαγόρευσης.
Πριν από πενήντα χρόνια, μια ομάδα απλών ανθρώπων στο Κέιμπριτζ απέρριψε αυτή την επιλογή. Τους εμπιστεύτηκαν να εξετάσουν τους υπαρξιακούς κινδύνους και στάθηκαν στο ύψος των περιστάσεων. Μας έχουν δώσει τόσο ασφάλεια όσο και το πιο καινοτόμο τετραγωνικό μίλι στη γη. Το ερώτημα για εμάς είναι αν εξακολουθούμε να πιστεύουμε ότι οι άνθρωποι μας μπορούν να εμπιστευτούν το μέλλον μας ή αν θα χρεοκοπήσουμε τους ίδιους τους ανθρώπους που παραδέχονται ότι δεν έχουν κανέναν έλεγχο σε αυτό που έχουν δημιουργήσει.
