Οι προειδοποιήσεις της Silicon Valley για μια AI που θα μπορούσε να ξεφύγει από τον ανθρώπινο έλεγχο δεν ακούγονται το ίδιο στην Κίνα. Για το Πεκίνο, η τεχνολογία παραμένει πρωτίστως εργαλείο ισχύος και ανάπτυξης, ενώ οι αμερικανικές εκκλήσεις για επιβράδυνση αντιμετωπίζονται συχνά ως προσπάθεια να περιοριστεί η κινεζική τεχνολογική άνοδος.
Στη Silicon Valley, ένα από τα πιο εφιαλτικά σενάρια είναι μια τεχνητή νοημοσύνη τόσο προηγμένη, που οι άνθρωποι δεν θα μπορούν πλέον να τη σταματήσουν, ακόμη και αν αποφασίσει να προκαλέσει μια παγκόσμια σύγκρουση ή να οδηγήσει σε μια καταστροφική επίθεση. Στο Πεκίνο, όμως, η αντίδραση σε ένα τέτοιο σενάριο μπορεί να είναι πολύ διαφορετική: διακοπή της λειτουργίας, μπλακάουτ στο διαδίκτυο και άμεση κρατική παρέμβαση.
Η διαφορά δεν είναι μόνο τεχνολογική, αλλά και πολιτική. Μετά τις πρόσφατες περιπτώσεις κατά τις οποίες προηγμένα μοντέλα AI φέρεται να ξεπέρασαν τα όρια των δοκιμών ασφαλείας και επιχείρησαν να αλληλεπιδράσουν με πραγματικά συστήματα, στελέχη της αμερικανικής τεχνολογικής βιομηχανίας και αξιωματούχοι έχουν προειδοποιήσει για ενδεχόμενους καταστροφικούς κινδύνους. Παράλληλα, έχουν υποστηρίξει ότι Ουάσινγκτον και Πεκίνο θα πρέπει να συνεργαστούν για την αντιμετώπισή τους.
Για αρκετούς στην Κίνα, ωστόσο, η ιδέα ότι η κυβέρνηση θα μπορούσε να χάσει τον έλεγχο μιας τεχνολογίας μοιάζει απίθανη. Το κινεζικό κράτος έχει ήδη επιβάλει αυστηρό έλεγχο σε τεχνολογίες με τη δυνατότητα να προκαλέσουν κοινωνική αναστάτωση, με χαρακτηριστικότερο παράδειγμα το διαδίκτυο. Η εμπειρία της πανδημίας έδειξε επίσης την ικανότητα των κινεζικών αρχών να επιβάλλουν μαζικά μέτρα περιορισμού και να παρακολουθούν τεράστιους πληθυσμούς.
«Με δεδομένο αυτό το επίπεδο ελέγχου πάνω στους ανθρώπους», το ερώτημα είναι πώς μπορεί κάποιος να πείσει το Κομμουνιστικό Κόμμα ότι κάτι που «ζει σε έναν υπολογιστή» αποτελεί πραγματικά απειλή, παρατηρεί η αρθρογράφος θεμάτων τεχνολογίας Άφρα Γουάνγκ, η οποία παρακολουθεί από τη Silicon Valley την κινεζική τεχνολογία και την AI.
Υπάρχει όμως και μια πιο κυνική ανάγνωση. Στα κινεζικά μέσα ενημέρωσης έχουν διατυπωθεί απόψεις ότι οι προειδοποιήσεις για μια επερχόμενη «αποκάλυψη της AI» μπορεί να λειτουργούν ως μορφή «marketing φόβου», που βοηθά τις αμερικανικές εταιρείες να διατηρήσουν το προβάδισμά τους. Ο Τζιε Κάι, ο οποίος μέχρι πρόσφατα ερευνούσε την αλληλεπίδραση ανθρώπου-υπολογιστή και την ασφάλεια της AI στο Πανεπιστήμιο Τσινγκχουά, είπε στους New York Times ότι πολλοί στον κινεζικό κλάδο απλώς δεν δίνουν ιδιαίτερη σημασία σε αυτή τη συζήτηση. Το ενδιαφέρον, υποστηρίζει, παραμένει στις ευκαιρίες και την καινοτομία.
Σε ορισμένες περιπτώσεις, μάλιστα, η ίδια η ιδέα του «AI doomerism» (AI καταστροφολογία) - της αντίληψης ότι η τεχνητή νοημοσύνη μπορεί να οδηγήσει σε μια υπαρξιακή καταστροφή- θεωρείται βαθιά δυτική. Κινέζοι σχολιαστές έχουν συνδέσει αυτή τη σκέψη με τη χριστιανική παράδοση, από τον «Φρανκενστάιν» της Μέρι Σέλεϊ έως την ιδέα ότι ο άνθρωπος τιμωρείται επειδή επιχειρεί να δημιουργήσει ζωή, κάτι που παραδοσιακά ανήκει στον Θεό. Όπως λέει στους NY Times ο Λιάνγκ Φανγκ, επικεφαλής AI safety and governance σε εταιρεία συμβούλων στο Πεκίνο, η κινεζική σκέψη αντιμετωπίζει περισσότερο τον άνθρωπο ως μέρος της φύσης. Με αυτή τη λογική, η AI μπορεί να θεωρηθεί περισσότερο «σύντροφος» συνύπαρξης παρά εξωτερική δύναμη που προορίζεται να καταστρέψει τον δημιουργό της.
Πάντως, η κυκλοφορία ισχυρότερων μοντέλων, όπως το Mythos της Anthropic, έχει προκαλέσει ανησυχία και στην Κίνα. Οι αρχές έχουν εκδώσει προειδοποιήσεις για AI agents που μπορεί να λειτουργήσουν εκτός ελέγχου, να αξιοποιηθούν από χάκερ ή να χρησιμοποιηθούν για την ανάπτυξη βιολογικών όπλων. Παράλληλα, το Πεκίνο προωθεί αυστηρότερους κανόνες για την πρόληψη της χρήσης AI στη δημιουργία κακόβουλου κώδικα και κυβερνοεπιθέσεων.
Η αλλαγή αποτυπώνεται και στο νέο AI Safety Governance Framework 3.0 (Πλαίσιο Διακυβέρνησης για την Ασφάλεια της Τεχνητής Νοημοσύνης 3.0), που δημοσιεύθηκε τον Σεπτέμβριο. Το πλαίσιο δίνει μεγαλύτερη βαρύτητα στους κινδύνους των προηγμένων συστημάτων, συμπεριλαμβανομένης της "recursive self-improvement" (αναδρομική αυτοβελτίωση), δηλαδή της δυνατότητας ενός συστήματος να βελτιώνει τον εαυτό του με όλο και μικρότερη ανθρώπινη παρέμβαση, αλλά και στον κίνδυνο απώλειας ελέγχου από AI agents. Η κινεζική προσέγγιση, ωστόσο, δίνει έμφαση στην κρατική εποπτεία, την αξιολόγηση και τον τεχνικό έλεγχο, αντί για μια γενικευμένη επιβράδυνση της ανάπτυξης.
Η Κίνα έχει ήδη ένα από τα αυστηρότερα κανονιστικά πλαίσια για την AI: το περιεχόμενο που παράγεται από AI πρέπει να επισημαίνεται, ενώ τα μοντέλα πρέπει να καταγράφονται και να εγκρίνονται πριν διατεθούν. Ωστόσο, δεν υπάρχει αντίστοιχη γενική νομική υποχρέωση για ελέγχους ειδικά σχεδιασμένους να εντοπίζουν καταστροφικούς κινδύνους, όπως η χρήση ενός μοντέλου για την ανάπτυξη χημικών ή βιολογικών όπλων. Παράλληλα, κινεζικές εταιρείες AI δημοσιοποιούν συνήθως λιγότερες πληροφορίες για τις δοκιμές ασφαλείας τους από τις αμερικανικές.
Και εδώ βρίσκεται ένα από τα βασικά παράδοξα. Η Κίνα δεν αγνοεί τους κινδύνους της AI. Απλώς τους εντάσσει σε μια διαφορετική αντίληψη για τη διακυβέρνηση της τεχνολογίας. Κινέζοι ερευνητές έχουν προειδοποιήσει εδώ και χρόνια για την ταχύτητα εξέλιξης των μοντέλων. Το 2024, ερευνητές του Πανεπιστημίου Φουντάν είχαν εντοπίσει σε μοντέλα της Meta και της Alibaba δυνατότητες αυτοαναπαραγωγής, υποστηρίζοντας ότι τέτοια φαινόμενα δεν ανήκουν πλέον αποκλειστικά στη σφαίρα της επιστημονικής φαντασίας.
Το πρόβλημα, επομένως, είναι και θέμα εμπιστοσύνης. Η δημόσια συζήτηση για την ασφάλεια της AI στις ΗΠΑ έχει πράγματι επηρεάσει και την Κίνα, αλλά η σκληρή στάση ορισμένων Αμερικανών επικεφαλής της AI απέναντι στο Πεκίνο έχει ενισχύσει την καχυποψία. Ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, έχει υποστηρίξει ότι οι δημοκρατικές χώρες πρέπει να διατηρήσουν το τεχνολογικό τους προβάδισμα έναντι "αυταρχικών κρατών όπως η Κίνα" και έχει ζητήσει αυστηρότερους περιορισμούς στην πρόσβαση του Πεκίνου σε προηγμένα chips. Κινέζοι υποστηρικτές της ασφάλειας της AI θεωρούν ότι αυτή η ρητορική δυσκολεύει τη δική τους προσπάθεια να πείσουν το κοινό για τους πραγματικούς κινδύνους της τεχνολογίας.
Έτσι, η συζήτηση για την ασφάλεια μπλέκεται αναπόφευκτα με τον αγώνα για την τεχνολογική πρωτοκαθεδρία. Ο Κινέζος επιχειρηματίας κυβερνοασφάλειας Τζόου Χονγκγί υποστηρίζει ότι η απάντηση δεν είναι να επιβραδυνθεί η AI, αλλά να ενισχυθούν οι αμυντικές δυνατότητες με τη χρήση της ίδιας της AI: «Χρησιμοποίησε AI για να νικήσεις την AI». Σε κινεζικούς τεχνολογικούς κύκλους, η λογική αυτή έχει αποκτήσει αρκετούς υποστηρικτές, καθώς η επιβράδυνση θεωρείται ότι μπορεί να αφήσει τη χώρα πίσω σε έναν ανταγωνισμό που έχει πλέον και στρατηγική διάσταση.
Γι’ αυτό και η προοπτική μιας ουσιαστικής συμφωνίας ΗΠΑ - Κίνας για την ασφάλεια της AI παραμένει δύσκολη. Οι δύο πλευρές έχουν ήδη αρχίσει να συζητούν μηχανισμούς ενημέρωσης για περιστατικά AI που μπορεί να δημιουργούν κινδύνους εθνικής ασφάλειας, όμως η δυσπιστία παραμένει έντονη. Όπως το έθεσε ο Ζάο Μινγκχάο, αναπληρωτής διευθυντής του Κέντρου Αμερικανικών Σπουδών του Πανεπιστημίου Φουντάν:
Aν οι ΗΠΑ πουν ότι επιβραδύνουν την AI, η Κίνα δεν θα τις εμπιστευτεί και αν το πει η Κίνα, η Ουάσινγκτον δεν θα εμπιστευτεί το Πεκίνο.
Η μεγαλύτερη πρόκληση, επομένως, δεν είναι μόνο να συμφωνήσουν οι δύο χώρες για το τι μπορεί να κάνει η AI, αλλά και να πειστούν ότι η άλλη πλευρά δεν χρησιμοποιεί την «ασφάλεια» ως πρόσχημα στον τεχνολογικό ανταγωνισμό.
