Συντονισμένη προσπάθεια άντλησης τεχνογνωσίας από τα μοντέλα της ανακοίνωσε ότι εντόπισε και διέκοψε η OpenAI, συνδέοντας βασικό πυρήνα της δραστηριότητας με την κινεζική Moonshot AI.
Η κούρσα ΗΠΑ - Κίνας για την κυριαρχία στην τεχνητή νοημοσύνη αποκτά άλλη μία διάσταση, καθώς η OpenAI ανακοίνωσε ότι εντόπισε και διέκοψε συντονισμένη εκστρατεία που είχε στόχο την άντληση προστατευμένης «σκέψης» από τα μοντέλα της, συνδέοντας βασικό πυρήνα της δραστηριότητας με την κινεζική startup Moonshot AI, δημιουργό του Kimi.
Σύμφωνα με την OpenAI, η δραστηριότητα ξεκίνησε στις αρχές Ιουλίου και μέσα σε δύο ημέρες κλιμακώθηκε σε 16.000 αιτήματα από περισσότερους από 4.000 χρήστες. Η εταιρεία υποστηρίζει ότι στη συνέχεια εντόπισε συναφή δραστηριότητα σε ένα ευρύτερο σύνολο άνω των 15.000 χρηστών και ότι είχε διακόψει πλήρως την εκστρατεία έως τις 28 Ιουλίου.
Τι είναι το "adversarial distillation"
Η OpenAI περιγράφει την πρακτική ως "adversarial distillation", μια διαδικασία κατά την οποία οι απαντήσεις ή η λογική ενός μοντέλου χρησιμοποιούνται για την εκπαίδευση ή τη βελτίωση ενός άλλου. Στην προκειμένη περίπτωση, σύμφωνα με την εταιρεία, οι χειριστές προσπαθούσαν μέσω των αλληλεπιδράσεων με τα μοντέλα να αναπαράγουν κρυφές διαδικασίες συλλογισμού σε μορφή που θα μπορούσε να είναι ορατή σε εκείνους.
Η πρακτική αυτή έχει ιδιαίτερη σημασία για την αγορά των frontier AI μοντέλων. Η ανάπτυξη τέτοιων συστημάτων απαιτεί τεράστιες επενδύσεις σε υπολογιστική ισχύ, δεδομένα, έρευνα και μηχανισμούς ασφάλειας. Εάν ένας ανταγωνιστής μπορεί να αντλήσει συστηματικά πληροφορίες από ένα ήδη προηγμένο μοντέλο και να τις χρησιμοποιήσει για να βελτιώσει το δικό του, μπορεί να μειώσει μέρος του κόστους και του χρόνου που απαιτείται για την ανάπτυξη αντίστοιχων δυνατοτήτων.
Η OpenAI υποστηρίζει ότι μια τέτοια διαδικασία δεν αφορά μόνο τον εμπορικό ανταγωνισμό. Κατά την εταιρεία, η μεγάλης κλίμακας εξαγωγή δυνατοτήτων από προηγμένα μοντέλα μπορεί να δημιουργήσει και ζητήματα ασφάλειας και εθνικής ασφάλειας, καθώς οι τεχνολογίες αιχμής μπορούν να μεταφερθούν ταχύτερα σε άλλα συστήματα.
Η σύνδεση με την Κίνα
Η OpenAI δεν υποστηρίζει ότι όλοι όσοι συμμετείχαν στη δραστηριότητα συνδέονταν με έναν και μόνο φορέα. Αναφέρει, ωστόσο, ότι ένας βασικός πυρήνας της εκστρατείας συνδέθηκε με άτομα που σχετίζονται με τη Moonshot AI. Η εταιρεία δήλωσε επίσης ότι μοιράστηκε τα ευρήματά της με άλλους προγραμματιστές προηγμένων μοντέλων μέσω του Frontier Model Forum, αλλά και μέσω κυβερνητικών διαύλων ανταλλαγής πληροφοριών.
Η ανακοίνωση έρχεται λίγες μόλις εβδομάδες μετά από αντίστοιχες καταγγελίες της Anthropic. Η εταιρεία είχε υποστηρίξει ότι κινεζικές εταιρείες AI, μεταξύ των οποίων η Moonshot AI και η Alibaba, χρησιμοποίησαν κρυφά το Claude για να βοηθήσουν στην εκπαίδευση των δικών τους μοντέλων. Οι καταγγελίες των δύο αμερικανικών εταιρειών δείχνουν πόσο σημαντικό έχει γίνει το ζήτημα της αξιοποίησης των μοντέλων ενός ανταγωνιστή ως «σκαλοπάτι» για την ανάπτυξη νέων συστημάτων.
Πάντως, για την OpenAI η υπόθεση δεν αφορούσε παραβίαση των υποδομών της. Η εταιρεία διευκρινίζει ότι οι χειριστές δεν απέκτησαν πρόσβαση στην κρυπτογράφηση, στις βάσεις δεδομένων ή στις αποθηκευμένες συνομιλίες χρηστών. Η προσπάθεια βασίστηκε, σύμφωνα με την ίδια, στη χειραγώγηση των αλληλεπιδράσεων με τα μοντέλα ώστε να εξαχθούν πληροφορίες που διαφορετικά παραμένουν κρυφές.
