Μερικοί από τους μεγαλύτερους ανταγωνιστές της βιομηχανίας τεχνητής νοημοσύνης έχουν αφήσει στην άκρη τα πολλά παράπονά τους για έναν κοινό σκοπό: καθιστώντας πιο δύσκολο για τους ανθρώπους να χρησιμοποιήσουν την τεχνολογία τους για την ανάπτυξη βιολογικών όπλων. σε Ανοιχτή επιστολή Όσον αφορά τους αμερικανούς νομοθέτες, οι ηγέτες της τεχνολογίας πιέζουν το Κογκρέσο να θεσπίσει κανόνες που κλείνουν αυτό που λένε ότι είναι ένα ανησυχητικό χάσμα βιοασφάλειας που θα μπορούσε να πυροδοτήσει μια παγκόσμια πανδημία.
Ο Dario Amodei του Anthropic, ο Sam Altman του OpenAI και ο Mustafa Soliman της Microsoft ήταν μεταξύ των υπογραφόντων που προέτρεψαν τους αμερικανούς νομοθέτες να απαιτήσουν από τις εταιρείες που πωλούν DNA και συνθετικό RNA – γενετικό υλικό που μπορεί να παραγγελθεί διαδικτυακά και να συναρμολογηθεί σε εργαστήριο – να ελέγξουν τις αγορές για αλληλουχίες που θα μπορούσαν να χρησιμοποιηθούν για τη δημιουργία επικίνδυνων παθογόνων. Ο φόβος είναι ότι τα εργαλεία τεχνητής νοημοσύνης θα μπορούσαν να διευκολύνουν τον σχεδιασμό δυνητικά επικίνδυνων ακολουθιών, την παραγγελία τους από τους κατασκευαστές και τη χρήση τους με τρόπους που προηγουμένως απαιτούσαν πιο εξειδικευμένη τεχνογνωσία.
Άλλοι υπογράφοντες είναι ο επικεφαλής της Meta AI Alexander Wang και ο Demis Hassabis του Google DeepMind, ο οποίος κέρδισε το Νόμπελ Χημείας 2024 για το έργο του σχετικά με την πρόβλεψη πρωτεΐνης με βάση την τεχνητή νοημοσύνη. Η επιστολή υπογράφηκε επίσης από εξέχοντες επιστήμονες, εμπειρογνώμονες σε θέματα εθνικής ασφάλειας και πολιτικής, και στελέχη εταιρειών βιοτεχνολογίας, συμπεριλαμβανομένων των Twist Bioscience και Ansa Biotechnologies, και των δύο μεγάλων προμηθευτών συνθετικών γενετικών υλικών. Ήταν το μήνυμα λέγεται Διοργανώνεται από δύο δεξαμενές σκέψης: το Ίδρυμα για την Αμερικανική Καινοτομία και το Ινστιτούτο για την Πρόοδο.
Οι επιστήμονες έχουν προειδοποιήσει εδώ και καιρό ότι η πρόοδος στη συνθετική βιολογία θα μπορούσε να διευκολύνει τους επιστήμονες να κατασκευάσουν επικίνδυνους ή ακόμα και επικίνδυνους οργανισμούς Αναβίωση παθογόνων που έχουν πεθάνει από καιρό – Εργασίες που μπορούν να προκαλέσουν καταστροφή σε περίπτωση κακής χρήσης, κακής χρήσης ή απελευθέρωσης κατά λάθος. Αλλά αυτή η δύναμη έχει παραμείνει σε μεγάλο βαθμό στα χέρια ειδικευμένων επιστημόνων με πρόσβαση σε εξελιγμένα εργαστήρια, εξοπλισμό και πόρους. Η ανησυχία τώρα είναι ότι καθώς τα βιολογικά εργαλεία γίνονται λιγότερο ακριβά και πιο προσιτά και τα μοντέλα τεχνητής νοημοσύνης γίνονται πιο ισχυρά, τα εμπόδια στην κακή χρήση τους αρχίζουν να καταρρέουν. Οι ειδικοί προειδοποιούν επίσης ότι η τεχνητή νοημοσύνη θα μπορούσε να βοηθήσει στην παραγωγή άλλων απειλών, όπως τα χημικά όπλα.
Ενώ η επιστολή αναγνωρίζει ότι πολλοί από τους μεγαλύτερους παρόχους συνθετικού DNA και RNA ήδη εξετάζουν εφαρμογές, αυτό γίνεται σε εθελοντική και όχι υποχρεωτική βάση. Πρέπει επίσης να τηρούνται λεπτομερή αρχεία για τυχόν παραγγελίες, αναφέρει η επιστολή, προκειμένου να εντοπιστεί κάθε απειλή που αποφεύγει τον αρχικό έλεγχο.
«Δεδομένου του ρυθμού με τον οποίο αλλάζει η υποκείμενη τεχνολογία, πιστεύουμε ότι η ανάγκη είναι επείγουσα», ανέφερε η επιστολή. “Είναι μια σπάνια στιγμή συμφωνίας μεταξύ των ενδιαφερομένων που βρίσκονται συχνά σε αντίθεση. Ελπίζουμε ότι οι υπεύθυνοι χάραξης πολιτικής θα την αντιμετωπίσουν με αποφασιστική δράση.”
