Διευθύνων Σύμβουλος της Αρκετές μεγάλες εταιρείες τεχνητής νοημοσύνης προτρέπουν τους νομοθέτες να υιοθετήσουν νέους νόμους που θα καθιστούσαν δυσκολότερο για τους κακούς παράγοντες να χρησιμοποιήσουν την τεχνολογία τους για την ανάπτυξη βιολογικών όπλων.
Οι υπογράφοντες είναι ο Demis Hassabis του Google DeepMind, ο Sam Altman του OpenAI, ο Dario Amodei της Anthropic και ο Mustafa Suleyman της Microsoft AI. ανοιχτή επιστολή Αναζητούν νομοθεσία που θα απαιτούσε από τις εταιρείες που πωλούν συνθετικό DNA και RNA να ελέγχουν τους πελάτες τους, καθώς και εντολές για την πρόληψη της κακής χρήσης γενετικού υλικού.
Η επιστολή, που χρηματοδοτείται από το ακομμάτιστο Ινστιτούτο για την Πρόοδο και το δεξιό Αμερικανικό Ίδρυμα Καινοτομίας, αναγνώριζε ότι, δεδομένου του ρυθμού ανάπτυξης της τεχνητής νοημοσύνης, υπάρχει “πραγματική πιθανότητα τα εμπόδια γνώσης που εμπόδιζαν ιστορικά τους κακούς παράγοντες από την απόκτηση βιολογικών όπλων να διαβρωθούν ουσιαστικά”.
Ο επιστήμονας Άρθουρ Κόρνμπεργκ ήταν ο πρώτος που συνέθεσε με επιτυχία DNA τη δεκαετία του 1950. Αυτή η διαδικασία είναι πλέον αυτοματοποιημένη και δεκάδες εταιρείες σε όλο τον κόσμο χρησιμοποιούν εμπορικά διαθέσιμα μηχανήματα σύνθεσης για να “εκτυπώσουν” και να πουλήσουν προσαρμοσμένες αλληλουχίες γονιδίων που χρησιμοποιούνται στην επιστημονική έρευνα, την ανάπτυξη φαρμάκων και τα διαγνωστικά. Πολλοί πάροχοι πωλούν μόνο σε ειδικευμένους ερευνητές, εταιρείες βιοτεχνολογίας και εκπαιδευτικά ιδρύματα και δεν ελέγχουν όλοι τους πελάτες τους ή τις γενετικές αλληλουχίες που παραγγέλνουν.
Το 2017, Καναδοί ερευνητές προειδοποίησαν όταν χρησιμοποίησαν DNA ταχυδρομικής παραγγελίας αξίας 100.000 δολαρίων για την ανακατασκευή του εξαφανισμένου ιού της ευλογιάς. Οι επικριτές είπαν ότι η ίδια μεθοδολογία θα μπορούσε να χρησιμοποιηθεί για την κατασκευή της ευλογιάς, ενός στενά συγγενικού θανατηφόρου ιού. Από τότε, η γονιδιακή σύνθεση έχει γίνει μόνο φθηνότερη.
Σε συνδυασμό με τις προόδους στην τεχνητή νοημοσύνη, είναι πλέον δυνατή η χρήση γλωσσικών μοντέλων μεγάλης κλίμακας για τον σχεδιασμό επικίνδυνων νέων τοξινών και παθογόνων, αλλά μπορεί να απαιτείται ακόμα βιολογική εκπαίδευση για τη δημιουργία ενός λειτουργικού ιού από την αρχή. Αν και οι βιοτρομοκρατικές επιθέσεις είναι σπάνιες, μπορούν να προκαλέσουν μαζικές απώλειες, δημόσιο πανικό και οικονομικές απώλειες. Μια μεγάλη ανησυχία είναι ότι τα παθογόνα που έχουν σχεδιαστεί από την τεχνητή νοημοσύνη θα μπορούσαν ηθελημένα ή ακούσια να προκαλέσουν παγκόσμια πανδημία.
«Τα εργαλεία τεχνητής νοημοσύνης επιτρέπουν στους χρήστες να εντοπίζουν πολύ γρήγορα πού να πάνε για αλληλουχίες που δεν πρέπει να ελεγχθούν», δήλωσε ο David Relman, μικροβιολόγος και ειδικός βιοασφάλειας στο Πανεπιστήμιο του Στάνφορντ που υπέγραψε την επιστολή. “Εάν σας ζητηθεί σωστά, μπορεί επίσης να σας πει πώς να αλλάξετε τη φύση της παραγγελίας. Με αυτόν τον τρόπο μπορεί να είναι πολύ πιο δύσκολο ακόμη και για εκείνους που επιθεωρούν να αντιληφθούν τι προσπαθείτε να κάνετε.”
Στους υπογράφοντες περιλαμβάνονται άλλοι επιστήμονες, ειδικοί σε θέματα εθνικής ασφάλειας και στελέχη από τις εταιρείες σύνθεσης γονιδίων Twist Biosciences και Ansa Biotechnologies. Οι εταιρείες αυτές είναι μέλη της International Gene Synthesis Consortium, η οποία ιδρύθηκε το 2009 για να εφαρμόσει εθελοντικές πρακτικές προσυμπτωματικού ελέγχου. Πολλές εταιρείες χρησιμοποιούν ήδη λογισμικό για τον έλεγχο των παραγγελιών για «ανησυχίες» που μπορεί να συμβάλλουν στην τοξικότητα ενός οργανισμού ή στην ικανότητα πρόκλησης ασθένειας.
«Εάν έχουμε την τεχνολογία για να συνθέσουμε DNA, πρέπει να βεβαιωθούμε ότι χρησιμοποιείται υπεύθυνα και μέρος αυτού είναι να διασφαλίσουμε ότι καταλαβαίνουμε τι φτιάχνουμε και για ποιον το φτιάχνουμε», λέει ο Τζέιμς Ντίγκανς, αντιπρόεδρος πολιτικής και βιοασφάλειας στην Twist Biosciences. Η εταιρεία έχει υποστηρίξει την εισαγωγή επίσημων κανόνων εδώ και πολλά χρόνια.
ομοσπονδιακή κυβέρνηση κατευθυντήριες γραμμές Η πολιτική, που εισήχθη κατά τη διάρκεια της κυβέρνησης Μπάιντεν, απαιτούσε από επιστήμονες και εταιρείες που λαμβάνουν ομοσπονδιακή χρηματοδότηση να παραγγέλνουν συνθετικές γενετικές αλληλουχίες από παρόχους που ελέγχουν τις αγορές. ένα δικομματικό νομοσχέδιο Το νομοσχέδιο, που εισήχθη στη Γερουσία νωρίτερα αυτό το έτος, θα απαιτούσε από όλους τους παρόχους γονιδιακής σύνθεσης που δραστηριοποιούνται στις Ηνωμένες Πολιτείες να ελέγχουν τις παραγγελίες και τους πελάτες για κακούς παράγοντες και επικίνδυνα παθογόνα.
Ωστόσο, τα εργαλεία διαλογής δεν είναι τέλεια. Πέρυσι, ερευνητές της Microsoft μελέτη Αυτό δείχνει ότι τα εργαλεία σχεδιασμού πρωτεΐνης AI μπορούν να παρακάμψουν το λογισμικό ελέγχου των εταιρειών και να δημιουργήσουν δυνητικά επικίνδυνες γενετικές αλληλουχίες. Το μοντέλο πρότεινε μια νέα αλληλουχία πρωτεϊνών με παρόμοια δομή με πρωτεΐνες που είναι γνωστό ότι είναι επικίνδυνες.
Ο Geoff Ralston, πρώην πρόεδρος του Y Combinator και συνεργάτης στο Safe AI Fund, πιστεύει ότι τα εργαστήρια τεχνητής νοημοσύνης με βιολογικά μοντέλα θα πρέπει να κάνουν τον δικό τους έλεγχο χρήστη.
«Θα ήταν εξαιρετικά δύσκολο, αν όχι αδύνατο, να βρεις ένα μοντέλο να βοηθήσει σε κάτι που είναι άμεσα επικίνδυνο», είπε ο Ράλστον, ο οποίος υπέγραψε την επιστολή.
Η Relman συμφωνεί ότι η ρύθμιση των διαδικασιών προσυμπτωματικού ελέγχου είναι μόνο μέρος της λύσης. «Δεδομένου ότι σε ορισμένες περιπτώσεις ο έλεγχος μπορεί να αποτύχει, χρειάζονται άλλα σημεία ελέγχου», λέει. «Εκεί οι εταιρείες τεχνητής νοημοσύνης πρέπει να επικεντρώσουν τις προσπάθειές τους».
