Γλιστρώντας μέσα από τις ρωγμές
Ο Rosenbaum χρησιμοποίησε εργαλεία τεχνητής νοημοσύνης κατά τη διαδικασία της συγγραφής του, μου είπε, «για να εκμαιεύσει ιδέες, να αναγνωρίσει άρθρα, να συνοψίσει θέματα, να εντοπίσει άτομα ή έγγραφα που θέλω να κοιτάξω». Τραβάει μια σκληρή γραμμή μεταξύ μιας τέτοιας έρευνας και της «πραγματικής αναφοράς, της αφηγηματικής δομής, των συνεντεύξεων, των επιχειρημάτων και των συμπερασμάτων» του βιβλίου, το οποίο λέει ότι «είναι εξ ολοκλήρου δικό μου… δεν υπήρξε ποτέ μια στιγμή που η τεχνητή νοημοσύνη έγραφε το βιβλίο».
Ο Rosenbaum λέει ότι εκτός από τα κεφάλαια που βασίζονται σε απομαγνητοφωνημένες συνεντεύξεις που έκανε ο ίδιος, Το μέλλον της αλήθειας Περιλαμβάνει επίσης περισσότερα κεφάλαια που βασίζονται στην έρευνα, όπου, λέει ο Rosenbaum, “ανασύρουμε γεγονότα και στη συνέχεια τα υφαίνουμε σε μια αφήγηση”. Εργαλεία όπως το ChatGPT του OpenAI και το Anthropic’s Claude χρησιμοποιήθηκαν ευρέως για τη συλλογή δεδομένων, είπε, προσθέτοντας ότι τυχόν ψήγματα που εξορύσσονταν από αυτά τα εργαλεία επισημάνθηκαν στις σημειώσεις του με την προειδοποίηση “Αυτό προήλθε από AI”.
Είναι παράξενα δημιουργικό και πονηρό και ασυνήθιστο με όλους αυτούς τους τρόπους… και μετά σε προδίδει με έναν τρόπο που είναι πραγματικά πολύ τρομακτικός.
Στίβεν Ρόζενμπαουμ
Αυτές οι σημειώσεις που δημιουργήθηκαν από τεχνητή νοημοσύνη με ετικέτα στάλθηκαν στη συνέχεια σε έναν έλεγχο γεγονότων και σε δύο συντάκτες αντιγράφων που παρασχέθηκαν από τον εκδότη, είπε ο Rosenbaum. Από τις 285 εξωτερικές αναφορές του βιβλίου, έξι αναγνωρίστηκαν από τους Times ως προβληματικές, συμπεριλαμβανομένων τριών αποκαλούμενων “συνθετικών παραπομπών” χωρίς εμφανή πηγή. (Περαιτέρω κριτικές του βιβλίου μπορεί να παράγουν περισσότερα παραδείγματα. Και αξίζει να σημειωθεί ότι οι περισσότεροι συγγραφείς καταφέρνουν να συμπεριλάβουν μηδέν παραπομπές που έγιναν όταν έγραψαν ένα βιβλίο.)
«Νομίζω ότι το κάναμε (διπλό έλεγχο) απίστευτα αποτελεσματικά, αλλά όχι 100 τοις εκατό», είπε ο Rosenbaum στο Ars. “Κάνουμε τη δουλειά, κάνουμε ό,τι καλύτερο μπορούμε. Το εξετάζουμε, φαίνεται σωστό. Το ελέγχουμε διπλά και μετά κάνουμε ένα λάθος.”
Αλλά η αξιοσημείωτη αποτυχία εδώ υπογραμμίζει τον τρόπο με τον οποίο οι παραδοσιακές διαδικασίες ελέγχου γεγονότων μπορεί να είναι ανεπαρκώς εξοπλισμένες για να χειριστούν την έρευνα με τη βοήθεια AI. Στο παρελθόν, ένας ελεγκτής γεγονότων μπορούσε να είναι εύλογα σίγουρος ότι οποιοσδήποτε συγγραφέας παραθέτει ένα αναφερόμενο γραπτό έργο απλώς αντέγραφε απευθείας αυτές τις παραπομπές. Αυτές οι παραπομπές πρέπει να ελεγχθούν, αλλά το γεγονός ότι είναι τόσο εύκολο να επαληθευτούν τις κάνει λιγότερο ύποπτες εγγενώς. Ωστόσο, εάν τα εργαλεία τεχνητής νοημοσύνης εμπλέκονται κάπου στη διαδικασία, αυτή η υπόθεση βγαίνει από το παράθυρο και πρέπει να υπάρχει ένα επιπλέον στρώμα αμφιβολίας ως προς το εάν αυτά τα αποσπάσματα αντιγράφηκαν σωστά ή αν υπάρχουν καν.
