Η Anthropic καλεί για δράση κατά των «επιθέσεων απόσταξης» της τεχνητής νοημοσύνης, αφού τρεις εταιρείες τεχνητής νοημοσύνης κατηγορήθηκαν για κατάχρηση των chatbot cloud τους. Στον ιστότοπό της, η Anthropic ισχυρίζεται ότι η Dipsic, η Moonshot και η Minimax διεξάγουν μια “εκστρατεία σε κλίμακα βιομηχανίας … για να αποσπάσουν παράνομα τη δύναμη του Claude να βελτιώσει τα δικά τους μοντέλα”.
Η απόσταξη στον κόσμο της τεχνητής νοημοσύνης αναφέρεται όταν τα λιγότερο ικανά μοντέλα βασίζονται σε σχόλια από πιο ισχυρά για να εκπαιδεύσουν τον εαυτό τους. Αν και η απόσταξη δεν είναι γενικά κακό πράγμα, η Anthropic λέει ότι αυτοί οι τύποι επιθέσεων μπορούν να χρησιμοποιηθούν με πιο απαίσιους τρόπους. Σύμφωνα με την Anthropic, αυτές οι τρεις κινεζικές εταιρείες τεχνητής νοημοσύνης είναι «υπεύθυνες για περισσότερες από 16 εκατομμύρια ανταλλαγές με τον Claude μέσω περίπου 24.000 δόλιων λογαριασμών». Από την πλευρά της Anthropic, αυτές οι ανταγωνιστικές εταιρείες χρησιμοποιούσαν το cloud ως συντόμευση για να αναπτύξουν πιο προηγμένα μοντέλα τεχνητής νοημοσύνης, τα οποία θα μπορούσαν να παρακάμψουν ορισμένες διασφαλίσεις.
Η Anthropic ανέφερε στην ανάρτησή της ότι μπόρεσε να συνδέσει καθεμία από αυτές τις εκστρατείες επίθεσης με συγκεκριμένες εταιρείες αποστάζοντας συσχετίσεις διευθύνσεων IP, αιτήματα μεταδεδομένων και δείκτες υποδομής “με υψηλή εμπιστοσύνη” χάρη στη συνεργασία με άλλους στον κλάδο της τεχνητής νοημοσύνης που έχουν παρατηρήσει παρόμοια συμπεριφορά.
Στις αρχές του περασμένου έτους, το OpenAI έκανε παρόμοιους ισχυρισμούς για απόσταξη μοντέλων από αντίπαλες εταιρείες και απαγόρευσε ύποπτους λογαριασμούς ως απάντηση. Όσον αφορά την Anthropic, η εταιρεία πίσω από το Cloud είπε ότι θα αναβαθμίσει τα συστήματά της για να καταστήσει τις επιθέσεις phishing πιο δύσκολο να πραγματοποιηθούν και να εντοπιστούν πιο εύκολα. Ενώ η Anthropic δείχνει το δάχτυλο σε αυτές τις άλλες εταιρείες, αντιμετωπίζει μήνυση από εκδότες μουσικής που κατηγορούν την εταιρεία AI ότι χρησιμοποιεί παράνομα αντίγραφα τραγουδιών για να εκπαιδεύσει το cloud chatbot της.
Σύνδεσμος πηγής: www.engadget.com