Η εταιρεία τεχνητής νοημοσύνης Anthropic πρότεινε την Πέμπτη μια παγκόσμια παύση στην κατασκευή των πιο ισχυρών συστημάτων AI, καθώς τα τελευταία μοντέλα αρχίζουν να δείχνουν σημάδια ότι θα μπορούσαν να ξεφύγουν από τον ανθρώπινο έλεγχο.
Η εταιρεία με έδρα το Σαν Φρανσίσκο, η οποία κατασκευάζει την οικογένεια μοντέλων τεχνητής νοημοσύνης Claude, δήλωσε σε έκθεσή της ότι μια παγκόσμια επιβράδυνση στην ανάπτυξη της σύγχρονης τεχνητής νοημοσύνης «θα ήταν πιθανότατα καλό» – αλλά προειδοποίησε ότι αν σταματήσει μόνο μία εταιρεία, οι αντίπαλοι απλώς θα αγωνιστούν μπροστά.
«Πιστεύουμε ότι θα ήταν καλό για τον κόσμο να έχει την επιλογή να επιβραδύνει ή να διακόπτει προσωρινά την ανάπτυξη της συνοριακής τεχνητής νοημοσύνης για να επιτρέψει στις κοινωνικές δομές και την έρευνα ευθυγράμμισης να συμβαδίζουν με την πρόοδο της τεχνολογίας», ανέφερε.
Το να ξεκινήσετε ένα πραγματικό διάλειμμα στη δουλειά θα σήμαινε ότι πολλές μεγάλες εταιρείες τεχνητής νοημοσύνης σε πολλές χώρες -κυρίως οι ΗΠΑ και η Κίνα- θα συμφωνούσαν όλες να σταματήσουν ταυτόχρονα, σύμφωνα με κανόνες που μπορεί να επαληθεύσει ο καθένας, είπε η Anthropic.
«Χωρίς έναν παγκόσμιο μηχανισμό συντονισμού, οι εταιρείες και οι κυβερνήσεις πρέπει να λάβουν δύσκολες αποφάσεις σχετικά με την ασφάλεια ενώ βρίσκονται υπό ανταγωνιστική και γεωπολιτική πίεση», ανέφερε.
Η εταιρεία αντιμετώπισε ώθηση από άλλους στον κλάδο – και αξιωματούχους του Λευκού Οίκου – που λένε ότι η εστίασή της στα χειρότερα σενάρια υπερεκτιμά τους κινδύνους και ισοδυναμεί με μια στρατηγική επιβράδυνσης των αντιπάλων υπό την κάλυψη ανησυχιών για την ασφάλεια.
Ωστόσο, ο Λευκός Οίκος έχει αναγνωρίσει τη δύναμη του μοντέλου Mythos της εταιρείας — το οποίο δεν έχει γίνει διαθέσιμο στο ευρύ κοινό λόγω των δυνατοτήτων του στον κυβερνοχώρο και επί του παρόντος χρησιμοποιείται μόνο σε μικρό αριθμό ελεγμένων οργανισμών.
Η πρόταση θα αντιμετωπίσει μια δύσκολη μάχη στην Ουάσιγκτον και τη Σίλικον Βάλεϊ, όπου Αμερικανοί αξιωματούχοι και στελέχη τεχνολογίας έχουν επανειλημμένα υποστηρίξει ότι οποιαδήποτε επιβράδυνση στην ανάπτυξη της τεχνητής νοημοσύνης κινδυνεύει να δώσει στην Κίνα ένα αποφασιστικό στρατηγικό πλεονέκτημα σε αυτό που πολλοί θεωρούν ως τον καθοριστικό αγώνα τεχνολογίας του αιώνα.
Ο πρόεδρος των ΗΠΑ Ντόναλντ Τραμπ, ωστόσο, είπε ότι συζήτησε το ενδεχόμενο συνεργασίας με την Κίνα σε θέματα ασφάλειας τεχνητής νοημοσύνης κατά την πρόσφατη επίσκεψή του στο Πεκίνο.
Ο Τραμπ υπέγραψε επίσης εκτελεστικό διάταγμα αυτή την εβδομάδα που επιτρέπει στην κυβέρνηση 30 ημέρες να πραγματοποιήσει μια προκαταρκτική αναθεώρηση των πιο ισχυρών μοντέλων τεχνητής νοημοσύνης των ΗΠΑ πριν από την κυκλοφορία τους.
«Ο ανθρώπινος ρόλος στενός»
Ο Anthropic παρομοίασε το πρόβλημα με τις συνθήκες ελέγχου των πυρηνικών όπλων – αλλά είπε ότι θα ήταν ακόμα πιο δύσκολο να επιτευχθεί επειδή η εκπαίδευση AI είναι πολύ πιο εύκολο να κρυφτεί από ένα σιλό πυραύλων και ο πειρασμός να προχωρήσουμε αθόρυβα θα ήταν τεράστιος.
Η εταιρεία είπε ότι σχεδιάζει να συγκεντρώσει κυβερνητικούς αξιωματούχους, επιστήμονες, ομάδες υπεράσπισης και ανταγωνιστικές εταιρείες τεχνητής νοημοσύνης τους επόμενους μήνες για να καταλάβουν πώς θα λειτουργούσε ένα τέτοιο σύστημα.
Η έκκληση για συντονισμό συνοδεύεται από εσωτερικά δεδομένα που δείχνουν ότι η τεχνητή νοημοσύνη επιταχύνει δραματικά την ανάπτυξη της ίδιας της τεχνητής νοημοσύνης, είπε ο Anthropic.
Αυτή η επιτάχυνση δημιουργεί έναν βρόχο ανατροφοδότησης που ο Anthropic προειδοποίησε ότι θα μπορούσε τελικά να οδηγήσει σε αυτό που οι ερευνητές αποκαλούν «αναδρομική αυτοβελτίωση».
Αυτή είναι η ιδέα ενός συστήματος AI που μπορεί ουσιαστικά να διδάξει τον εαυτό του να γίνει πιο έξυπνος, χωρίς πολλή ανθρώπινη βοήθεια.
«Δεν είμαστε ακόμη εκεί και η επαναληπτική αυτοβελτίωση δεν είναι αναπόφευκτη», ανέφερε η έκθεση, ενώ πρόσθεσε ότι μπορεί να έρθει νωρίτερα από ό,τι είναι έτοιμοι οι περισσότερες κυβερνήσεις και θεσμοί.
«Τα στοιχεία δείχνουν ότι ο ανθρώπινος ρόλος μειώνεται σε κάθε βήμα στη διαδικασία ανάπτυξης της τεχνητής νοημοσύνης», είπε η εταιρεία.
(ΓΑΛΛΙΑ 24 με AFP)
