Κορυφαίος μελλοντολόγος στο OpenAI Σύμφωνα με έρευνα του WIRED, ο Joshua Achiam ενημέρωσε τους συναδέλφους του την Τρίτη ότι θα αποχωρήσει από την εταιρεία αργότερα αυτό το μήνα μετά από σχεδόν εννέα χρόνια στην εταιρεία. Ο Achiam, ο οποίος προηγουμένως ηγήθηκε μιας ομάδας επιφορτισμένης με την προστασία της μη κερδοσκοπικής αποστολής του οργανισμού, είπε στο προσωπικό του OpenAI ότι δεν υπήρχε ιδιαίτερο κίνητρο για να φύγει και ότι ήταν κάτι που σκεφτόταν εδώ και αρκετό καιρό.
«Ο κόσμος πλησιάζει τώρα τα μυστικά του και πιστεύουμε ότι είναι δυνατό να αντιμετωπίσουμε αυτήν την αποστολή έξω από τα τείχη ενός απομακρυσμένου εργαστηρίου», είπε ο Achiam σε ένα σημείωμα προς το προσωπικό που έλαβε το WIRED. “Πιστεύω ότι μπορούμε να φτάσουμε σε έναν κόσμο ειρήνης, άνευ προηγουμένου ευημερίας και αδιανόητων κοινωνικών και επιστημονικών δυνατοτήτων. Ό,τι κι αν κάνουμε στη συνέχεια, θα συνεχίσω να συνεργάζομαι μαζί σας για να πραγματοποιήσουμε αυτό το όραμα.”
Το OpenAI δεν έχει ανακοινώσει ακόμη εάν κάποιος θα αναλάβει το ρόλο του Achiam, ο οποίος κάθεται στη διασταύρωση των ομάδων ασφάλειας και πολιτικής τεχνητής νοημοσύνης της εταιρείας και συμμετείχε στην έρευνα των πιθανών βλαβών και οφελών από την άνοδο της τεχνητής νοημοσύνης. Ο Achiam συνεργάστηκε με ανώτερους ηγέτες εταιρειών, συμπεριλαμβανομένου του Επικεφαλής Παγκόσμιων Υποθέσεων Chris Lehane, για να υποστηρίξει την κυβερνητική ρύθμιση που ευθυγραμμίζεται με την αποστολή του OpenAI να διασφαλίσει ότι το AGI ωφελεί όλη την ανθρωπότητα.
Το OpenAI έχει αναδιοργανώσει τις ομάδες ασφάλειας, προϊόντων και ερευνών του πολλές φορές από τότε που κυκλοφόρησε το ChatGPT το 2022, και έκτοτε η εταιρεία εξελίχθηκε γρήγορα από ένα μικρό ερευνητικό εργαστήριο σε μια τεράστια εταιρεία τεχνολογίας. Το 2024, η OpenAI ανακοίνωσε το σχηματισμό μιας «Ομάδας Συντονισμού Αποστολών» με επικεφαλής τον Achiam, επιφορτισμένη με τη διατήρηση της αποστολής της εταιρείας. OpenAI η ομάδα διαλύθηκε Τον Φεβρουάριο, ο Achiam ανακοίνωσε ότι θα αναλάβει νέο ρόλο ως επικεφαλής μελλοντολόγος.
Τον τελευταίο χρόνο, το OpenAI εργάστηκε για να γεφυρώσει το χάσμα μεταξύ των ομάδων έρευνας και πολιτικής για την τεχνητή νοημοσύνη ως μέρος των προσπαθειών μας να αναπτύξουμε κανόνες και πρότυπα που προβλέπουν την κατεύθυνση της τεχνολογίας. Καθώς οι δύο τομείς αρχίζουν να συνεργάζονται στενότερα, αρκετοί ερευνητές του OpenAI, συμπεριλαμβανομένων των Boaz Barak, Norm Brown και Adrian Ecofet, λένε ότι έχουν εμπλακεί περισσότερο στο έργο πολιτικής.
Πρώην σύμβουλος τεχνητής νοημοσύνης του Λευκού Οίκου Dean Ball ξεκίνησα Αυτή την εβδομάδα, θα παρευρεθεί στο OpenAI ως επικεφαλής στρατηγικής μελλοντικής εκπλήρωσης της εταιρείας, το οποίο θα επικαλύπτεται προσωρινά με το Achiam. Ο κ. Ball αναμένεται επίσης να συνεργαστεί με ερευνητές και υπεύθυνους πολιτικής στο ρόλο του.
Ο Achiam είναι ο πιο πρόσφατος ηγέτης που εγκατέλειψε το OpenAI υπέρ της ασφάλειας, προσχωρώντας σε έναν αυξανόμενο κατάλογο εξόδων καθώς η εταιρεία ετοιμάζεται να εισέλθει στο χρηματιστήριο. Ο Jan Leike, συν-αρχηγός της ομάδας Superalignment του OpenAI, που ερευνά πώς να φέρει τα προηγμένα μοντέλα AI υπό ανθρώπινο έλεγχο, έφυγε από την εταιρεία το 2024 για να ενταχθεί στην Anthropic.
Την ίδια χρονιά, ο Miles Brundage, διευθυντής πολιτικής έρευνας και ο Stephen Adler, ο οποίος ηγήθηκε της έρευνας για επικίνδυνα χαρακτηριστικά σε μοντέλα AI, εγκατέλειψαν και τους δύο το OpenAI για να σχηματίσουν έναν μη κερδοσκοπικό οργανισμό που υποστηρίζει τα εργαστήρια AI να τηρούν ισχυρά πρότυπα ασφάλειας και ασφάλειας. Ο Andrea Vallone, ο οποίος ηγήθηκε της έρευνας του OpenAI για το πώς το ChatGPT πρέπει να ανταποκρίνεται στους χρήστες που αντιμετωπίζουν ψυχική ή συναισθηματική δυσφορία, έφυγε στα τέλη του 2025 για να ενταχθεί στην ομάδα Leike του Anthropic.
Αφού εντάχθηκε στο OpenAI ως ασκούμενος το 2017, ο Achiam έγινε ερευνητής με ειδίκευση στην ασφάλεια της τεχνητής νοημοσύνης. Παρόλο που ήταν γνωστός στην εταιρεία ως ένθερμος υπερασπιστής της αποστολής του OpenAI με επίκεντρο την ασφάλεια, ήταν επίσης αμφιλεγόμενος κατά καιρούς. περιστασιακή κριτική Μέρος της ευρύτερης κοινότητας ασφάλειας AI.
Νωρίτερα φέτος, κατέθεσε στο ομοσπονδιακό δικαστήριο ότι διέκοψε την αποχαιρετιστήρια ομιλία του Έλον Μασκ μετά την αποχώρησή του από το OpenAI το 2018, λέγοντας ότι τα σχέδια του τότε δισεκατομμυριούχου να αναπτύξει το AGI στην Tesla θα μπορούσαν να γίνουν εις βάρος της ασφάλειας. Λέγεται ότι ο Musk απάντησε αποκαλώντας τον Atiam “ηλίθιο”, μια στιγμή κατά την οποία ο Dario Amodei (τώρα διευθύνων σύμβουλος της Anthropic) και ο David Ruan (αργότερα διευθυντής του Amazon AGI Institute) τίμησαν τη στιγμή, δίνοντας στον Atiam ένα χρυσό άγαλμα γαϊδουριού με τις λέξεις “Never stop be an idiot for your safe”.
