Εν μέσω μιας εβδομαδιαίας διαμάχης με το Πεντάγωνο που οδήγησε σε μαύρη λίστα και μήνυση, η Anthropic ανακινεί την εκτελεστική σουίτα και τις ερευνητικές πρωτοβουλίες της. Η εταιρεία ανακοίνωσε την Τετάρτη ότι θα ξεκινήσει μια νέα εσωτερική δεξαμενή σκέψης που ονομάζεται Anthropic Institute, η οποία συγκεντρώνει τρεις από τις υπάρχουσες ερευνητικές ομάδες της Anthropic. Το συνέδριο θα επικεντρωθεί στην έρευνα σχετικά με τις ευρείας κλίμακας επιπτώσεις της τεχνητής νοημοσύνης, όπως «τι συμβαίνει στις θέσεις εργασίας και στις οικονομίες, αν η τεχνητή νοημοσύνη μας κάνει ασφαλέστερους ή εισάγει νέους κινδύνους, πώς οι αξίες της μπορούν να διαμορφώσουν τις αξίες μας και αν μπορούμε να διατηρήσουμε τον έλεγχο», σύμφωνα με την εταιρεία.
Τα νέα έρχονται με αλλαγές και στο C-suite. Ο συνιδρυτής της Anthropic, Jack Clarke, μεταβαίνει σε έναν νέο ρόλο που ηγείται του ερευνητικού κέντρου. Ο νέος του τίτλος θα είναι Επικεφαλής Δημοσίου Συμφέροντος, μετά από περισσότερα από πέντε χρόνια ως Διευθυντής Δημόσιας Πολιτικής. Η ομάδα δημόσιας πολιτικής – η οποία θα τριπλασιαστεί σε μέγεθος το 2025, σύμφωνα με το Anthropic – θα έχει τώρα επικεφαλής τη Σάρα Χικ, η οποία ήταν προηγουμένως επικεφαλής των εξωτερικών υποθέσεων. Η Anthropic θα ανοίξει επίσης το προγραμματισμένο γραφείο της στην Ουάσιγκτον, DC και η ομάδα δημόσιας πολιτικής θα συνεχίσει να επικεντρώνεται σε θέματα όπως η εθνική ασφάλεια, η υποδομή τεχνητής νοημοσύνης, η ενέργεια και η «δημοκρατική ηγεσία στην τεχνητή νοημοσύνη».
είπε ο Κλαρκ Ακρη Ότι το ντεμπούτο του Ινστιτούτου Ανθρωπολογίας ήταν στα σκαριά για λίγο, και ότι σκεφτόταν να μετακομίσει σε έναν ρόλο σαν αυτόν από τον Νοέμβριο. Αλλά η χρονική στιγμή έρχεται λίγες μόλις ημέρες αφότου η Anthropic κατέθεσε μήνυση κατά της αμερικανικής κυβέρνησης σχετικά με τον χαρακτηρισμό της ως κίνδυνο της αλυσίδας εφοδιασμού, που θα εμπόδιζε τους πελάτες της να χρησιμοποιήσουν καθόλου την τεχνολογία της Anthropic στη δουλειά τους με το Υπουργείο Άμυνας. Η μήνυση ισχυρίζεται ότι η κυβέρνηση Τραμπ έθεσε παράνομα τη μαύρη λίστα για την «κόκκινη γραμμή» της μαζικής εγχώριας παρακολούθησης και τα πλήρως αυτόνομα φονικά όπλα.
Όταν ρωτήθηκε σχετικά, ο Clark είπε: «Η εργασία στην τεχνητή νοημοσύνη εδώ στο Anthropic δεν είναι ποτέ βαρετή – πάντα κάτι συμβαίνει… Ο ρυθμός της προόδου της τεχνητής νοημοσύνης δεν επιβραδύνεται από εξωτερικά γεγονότα, όπως και εμείς». Ο Κλαρκ είπε ότι η κατάσταση δεν «άλλαξε άμεσα» τη σχεδιαζόμενη ερευνητική ατζέντα, αλλά θεώρησε ότι «επιβεβαίωσε» την απόφαση του Anthropic να δώσει περισσότερες πληροφορίες στο κοινό. «Αυτό που είδαμε τις τελευταίες εβδομάδες σας δείχνει πόσο πολύ υπάρχει η επιθυμία να γίνει μια ευρύτερη εθνική συζήτηση από το κοινό σχετικά με αυτήν την τεχνολογία», είπε.
Το Anthropic Institute ξεκινά με περίπου 30 άτομα, συμπεριλαμβανομένων των ιδρυτικών μελών Matt Botvinnik, πρώην του Google DeepMind. Anton Korinek, Ομότιμος Καθηγητής από το Τμήμα Οικονομικών Επιστημών του Πανεπιστημίου της Βιρτζίνια. και η Zoe Hitzig, μια ερευνήτρια που αποχώρησε από το OpenAI μετά την απόφασή του να προβάλλει διαφημίσεις στο ChatGPT. Το νέο ερευνητικό κέντρο συγκεντρώνει την ομάδα Societal Impacts της Anthropic, η οποία μελετά τις επιπτώσεις της τεχνητής νοημοσύνης σε διαφορετικούς τομείς της κοινωνίας. Η ομάδα της Red Frontier, η οποία δοκιμάζει συστήματα τεχνητής νοημοσύνης για τρωτά σημεία και προβλήματα. και την οικονομική ερευνητική της ομάδα, η οποία παρακολουθεί τις επιπτώσεις της τεχνητής νοημοσύνης στην οικονομία και την αγορά εργασίας. Το Anthropic Institute σχεδιάζει επίσης να «επωάσει» νέες ομάδες, όπως μια με επικεφαλής τον Botvinnik που μελετά πώς η τεχνητή νοημοσύνη θα επηρεάσει το νομικό σύστημα. Hitzig και Korinek θα ηγηθούν μεγάλων οικονομικών ερευνητικών προγραμμάτων. Ο Κλαρκ είπε ότι αναμένει ότι το προσωπικό του ερευνητικού κέντρου θα διπλασιάζεται κάθε χρόνο στο άμεσο μέλλον.
Ειδικότερα φέτος, ασκείται αυξανόμενη πίεση σε εταιρείες τεχνητής νοημοσύνης με υψηλή αξία, όπως η Anthropic, η οποία σύμφωνα με πληροφορίες σχεδιάζει να εισαχθεί στο χρηματιστήριο φέτος. Οι αρχειοθετήσεις στο δικαστήριο αποκάλυψαν ότι η εταιρεία έχει δημιουργήσει περισσότερα από 5 δισεκατομμύρια δολάρια σε εμπορικά έσοδα ποτέ και ότι έχει ξοδέψει 10 δισεκατομμύρια δολάρια μέχρι σήμερα για εκπαίδευση μοντέλων και εξαγωγή συμπερασμάτων. Ανέφερε επίσης ότι η εταιρεία “έχει λάβει επικοινωνίες από πολλούς εξωτερικούς συνεργάτες… εκφράζοντας σύγχυση για το τι τους ζητείται και ανησυχία για την ικανότητά τους να συνεχίσουν να συνεργάζονται με την Anthropic” και ότι “δεκάδες εταιρείες έχουν έρθει σε επαφή με την Anthropic” για καθοδήγηση και “σε ορισμένες περιπτώσεις, κατανόηση των δικαιωμάτων καταγγελίας τους”. Ανάλογα με την ερμηνεία του τι ακριβώς θα απαγορεύσει η κυβέρνηση, είπε ο Anthropic, τουλάχιστον «εκατοντάδες εκατομμύρια έσοδα του 2026 κινδυνεύουν» και στην πιο ακραία περίπτωση, αρκετά δισεκατομμύρια δολάρια.
Ανησυχεί η Anthropic για τη διάθεση περισσότερων πόρων στη μακροπρόθεσμη έρευνα όταν είναι πολύ πιθανό να χάσει μέρος των εσόδων της βραχυπρόθεσμα; όταν Ακρη ρώτησε ο Κλαρκ και είπε ότι «δεν είχε καμία ανησυχία».
«Οι άνθρωποι τείνουν να αγοράζουν εμπιστοσύνη», είπε ο Κλαρκ. “Πολλά από αυτά που μπορούμε να παράγουμε είναι τα είδη της έρευνας που βοηθούν τις εταιρείες να μας εμπιστεύονται… Μακροπρόθεσμα, η Anthropic πάντα αντιμετώπιζε την επένδυσή της στην ασφάλεια – και τη μελέτη και την υποβολή εκθέσεων σχετικά με την ασφάλεια των συστημάτων της – όχι ως κέντρο κόστους, αλλά ως κέντρο κερδοφορίας.”
Ο Κλαρκ είπε επίσης ότι πιστεύει ότι η ισχυρή τεχνητή νοημοσύνη (ανθρωπικός όρος για το AGI ή τεχνητή γενική νοημοσύνη) θα φτάσει στα τέλη του τρέχοντος έτους ή στις αρχές του 2027 και ότι αποφάσισε να αλλάξει ρόλους σε μεγάλο βαθμό λόγω «του ρυθμού προόδου της τεχνητής νοημοσύνης». Πρόσθεσε ότι όταν κοίταξε πίσω τη δουλειά του πέρυσι, εστίασε περισσότερο σε θέματα πολιτικής, όπως το SB 53, παρά σε Ε&Α τεχνητής νοημοσύνης και άλλα θέματα στα οποία ήθελε να δώσει προσοχή. Το Anthropic Institute είναι ειδικά αφιερωμένο στην απάντηση «στις πιο δύσκολες ερωτήσεις που θέτει η ισχυρή τεχνητή νοημοσύνη», ανέφερε η Anthropic σε μια δήλωση.
Φυσικά, επίσης Ακρη Τόσες πολλές εταιρείες τεχνολογίας είναι τόσο υπέρ της διαφάνειας που βλάπτει τις επιχειρήσεις, έγραψε τον Δεκέμβριο. Τι θα συμβεί λοιπόν εάν και όταν οι ερευνητικές ομάδες του Ανθρωπολογικού Ινστιτούτου αποκαλύψουν αποτελέσματα που κάνουν την εταιρεία να φαίνεται άσχημη;
Οι ιδρυτές της Anthropic έχουν «παρόμοιες αξίες» σχετικά με τη σημασία της δημόσιας αποκάλυψης, ειδικά επειδή η εταιρεία είναι τεχνικά μια εταιρεία κοινωφελούς χαρακτήρα, που σημαίνει ότι έχει τη δυνατότητα να εκτελεί στόχους «όχι μόνο για πιστωτικό κέρδος», είπε ο Clark. Πρόσθεσε ότι σε μια συνομιλία που είχε με τον διευθύνοντα σύμβουλο Dario Amodei την περασμένη εβδομάδα, συμφώνησαν στη σημασία της διαφάνειας παρά τις προκλήσεις δημοσίων σχέσεων που μπορεί να προκύψουν από αυτήν.
Αλλά η έρευνα του Ινστιτούτου Ανθρωπολογίας μπορεί να απαιτεί σημαντικούς υπολογισμούς σε μια εποχή που οι εταιρείες αγωνίζονται να δώσουν προτεραιότητα στα εμπορικά προϊόντα. Ο Clark είπε ότι εκτός από τους πόρους που διατίθενται για την προεκπαίδευση του συνοριακού μοντέλου, η Anthropic κατανέμει τους λογαριασμούς της κάθε εβδομάδα σύμφωνα με “αυτό που φαίνεται πιο σημαντικό”, επομένως δεν υπάρχει συγκεκριμένο τμήμα, αλλά δεν αναμένει ότι θα υπάρξουν συγκρούσεις.
Το Ινστιτούτο Ανθρωπολογίας σχεδιάζει επίσης να μελετήσει τη συναισθηματική εξάρτηση των ανθρώπων από την τεχνητή νοημοσύνη, ένα ολοένα και πιο σοβαρό πρόβλημα που έχει κερδίσει την ευαισθητοποίηση του κοινού τον περασμένο χρόνο. Μέχρι στιγμής, οι ερευνητικές ομάδες του Anthropic έχουν μελετήσει τους τύπους συνομιλιών που συμβαίνουν με τον Claude και μέτρησαν την ικανότητα της τεχνολογίας να πείσει τους ανθρώπους για πράγματα ή να συμπεριφέρεται ευχάριστα, αλλά δεν έχουν αφιερώσει πολύ χρόνο μιλώντας με άτομα που χρησιμοποιούν την τεχνολογία για τις ατομικές τους εμπειρίες, είπε ο Clark. Είπε ότι το ερευνητικό κέντρο σχεδιάζει να πραγματοποιήσει έρευνα κοινωνικών επιστημών μεγάλης κλίμακας, συμπεριλαμβανομένης της χρήσης της τεχνητής νοημοσύνης της Anthropic για τη διεξαγωγή συνεντεύξεων από χρήστες.
«Νομίζω ότι ήταν αυτό: Τα μέσα κοινωνικής δικτύωσης είχαν τεράστιο αντίκτυπο στην κοινωνία και δεν βασίστηκαν μόνο σε αυτά που συνέβαιναν στις πλατφόρμες κοινωνικών μέσων», είπε ο Κλαρκ. «Ήταν, «Πώς άλλαξε τους ανθρώπους η χρήση των μέσων κοινωνικής δικτύωσης;» «Θέλουμε να καταλάβουμε πώς η χρήση της τεχνητής νοημοσύνης αλλάζει τους ανθρώπους;»
Σύνδεσμος πηγής: www.theverge.com