Οι ανθρωπολόγοι λένε ότι επειδή η τεχνητή νοημοσύνη αναπτύσσεται τόσο γρήγορα, η τάση δείχνει ότι τα συστήματα μπορούν να αναπτύξουν τους δικούς τους διαδόχους. Δεν είμαστε ακόμα εκεί, αλλά πιστεύει ότι «θα μπορούσε να έρθει νωρίτερα από ό,τι είναι έτοιμοι οι περισσότεροι οργανισμοί». ΕΝΑ Ανάρτηση ιστολογίουΗ Anthropic εξηγεί ότι η τεχνητή νοημοσύνη που μπορεί να οικοδομηθεί “θα μπορούσε να φέρει τεράστιο καλό στον κόσμο” στην επιστήμη και την υγειονομική περίθαλψη, μεταξύ άλλων. Ωστόσο, αυτό θα μπορούσε να «αυξήσει τον κίνδυνο να χάσουν οι άνθρωποι τον έλεγχο των συστημάτων τεχνητής νοημοσύνης». Πώς μπορεί λοιπόν η ανθρωπότητα να εμποδίσει το Skynet να γίνει πραγματικό πράγμα; Η ανθρωπολογία προτείνει ότι η απάντηση είναι μια παγκόσμια επιβράδυνση ή προσωρινή παύση στην ανάπτυξη της τεχνητής νοημοσύνης «για να μπορέσει η έρευνα για την κοινωνική δομή και ευθυγράμμιση να συμβαδίσει με τις τεχνολογικές εξελίξεις».
Η εταιρεία είναι ένα κορυφαίο όνομα στον αγώνα AI σήμερα και σε αντίθεση με τους ανταγωνιστές της που δεν έχουν ακόμη βγάλει χρήματα, σύμφωνα με πληροφορίες βρίσκεται σε καλό δρόμο για το πρώτο της κερδοφόρο τρίμηνο. Πρόσφατα κατέθεσε έγγραφα στην SEC για να δημοσιοποιηθεί, πιθανότατα πριν από το τέλος του έτους. ως Η Wall Street Journal Αξίζει να σημειωθεί ότι οι επικριτές προτείνουν ότι οι προειδοποιήσεις της Anthropic για τη δική της τεχνολογία είναι ένα τέχνασμα μάρκετινγκ, ίσως σε μια προσπάθεια να φανεί σαν η λιγότερο σημαντική από όλες τις εταιρείες τεχνητής νοημοσύνης ή ότι τα προϊόντα της είναι τα καλύτερα εκεί έξω.
Οι επικριτές επισημαίνουν συγκεκριμένα την περιορισμένη έκθεσή της στον μύθο του μοντέλου τεχνητής νοημοσύνης στον κυβερνοχώρο ως παράδειγμα. Η Anthropic είπε ότι καθιστά το Mythos διαθέσιμο σε μια επιλεγμένη ομάδα συνεργατών λόγω της πιθανής ζημιάς που θα μπορούσε να έχει η ικανότητά της να εντοπίζει γρήγορα τρωτά σημεία σε λάθος χέρια. Αλλά ο κόσμος πιστεύει ότι είναι απλώς μια συνωμοσία διαφημιστική εκστρατεία επάνω προϊόν ή να κάνουμε να καλύψει Η αλήθεια είναι ότι η Anthropic θέλει να το πουλήσει μόνο στις μεγαλύτερες επιχειρήσεις.
Αξίζει να σημειωθεί ότι οι συμβουλές της εταιρείας βασίζονται σε ευρήματα από το Anthropic Institute, ένα ερευνητικό τμήμα που ιδρύθηκε τον Μάρτιο. Η Anthropic είπε τότε ότι ο ρόλος του ινστιτούτου είναι να “ενημερώσει τον κόσμο” τι έχει μάθει για τις προκλήσεις που προκύπτουν καθώς οι εταιρείες τεχνητής νοημοσύνης αναπτύσσουν πιο προηγμένα συστήματα τεχνητής νοημοσύνης. Το ινστιτούτο, μαζί με τους συνεργάτες, θα ερευνήσει τι χρειάζεται «για τη δημιουργία συστημάτων που θα απαιτούσαν μια αξιόπιστη επιβράδυνση ή παύση».
Εάν οι εταιρείες τεχνητής νοημοσύνης συμφωνήσουν σε επιβράδυνση, πρέπει να διαθέτουν μηχανισμούς για να επαληθεύουν ότι έχουν σταματήσει ή επιβράδυνση την ανάπτυξη της τεχνητής νοημοσύνης. Διαφορετικά, κάποιοι μπορεί να είναι μπροστά από τους υπόλοιπους αφού αναπτύξουν κρυφά την τεχνολογία τους. «Μια ουσιαστική επιβράδυνση ή παύση θα απαιτούσε πολλά εργαστήρια με καλά πόρους, σε πολλές χώρες στα ή κοντά στα σύνορα, που θα συμφωνούσαν να σταματήσουν υπό τις ίδιες συνθήκες», έγραψε η Anthropic. «Θα απαιτήσει επίσης ότι όλοι μπορούν να επαληθεύσουν ότι οι άλλοι έχουν σταματήσει πραγματικά».
Η πρότασή του θα γίνει μόνο εάν όλοι οι οργανισμοί τεχνητής νοημοσύνης σε όλο τον κόσμο μπορούν να ενωθούν και να δεσμευτούν ότι θα σταματήσουν την ανάπτυξη της τεχνητής νοημοσύνης για λίγο. Η ανθρωπολόγος λέει ότι δεν είναι αδύνατο, αναφέροντας ως παράδειγμα τις συνθήκες για τα πυρηνικά όπλα, αν και αναγνωρίζει ότι αυτές οι συνθήκες ήταν σε εξέλιξη για δεκαετίες. Δεν έχουμε τόσο καιρό, καθώς η ανάπτυξη της τεχνητής νοημοσύνης προχωρά με γρήγορους ρυθμούς. Η εταιρεία σχεδιάζει να συζητήσει το θέμα με υπεύθυνους χάραξης πολιτικής, ερευνητές και άλλες εταιρείες τεχνητής νοημοσύνης τους επόμενους μήνες και θα δημοσιεύσει τα αποτελέσματα αυτών των συνομιλιών.
