Με στόχο να ενισχύσει την επαλήθευση των πρακτικών ασφαλείας της, η Anthropic ενσωματώνει ανεξάρτητους αξιολογητές στις διαδικασίες ελέγχου των μοντέλων τεχνητής νοημοσύνης. Η METR αποκτά ευρεία πρόσβαση σε υποδομές και εργαλεία της εταιρείας, ενώ η SecureBio εστιάζει στους κινδύνους από τη χημική και βιολογική χρήση της τεχνολογίας.
Η Anthropic διευρύνει το πλαίσιο ανεξάρτητης αξιολόγησης των μοντέλων της, ανακοινώνοντας συνεργασίες με τους μη κερδοσκοπικούς οργανισμούς METR (Model Evaluation and Threat Research) και SecureBio. Παράλληλα, βρίσκεται σε αρχικές συζητήσεις με άλλους φορείς, μεταξύ των οποίων η Hugging Face, επιδιώκοντας να ενισχύσει τον εξωτερικό έλεγχο των κινδύνων που συνοδεύουν την ανάπτυξη ολοένα ισχυρότερων συστημάτων τεχνητής νοημοσύνης.
Η πρωτοβουλία εντάσσεται στη δέσμευση του διευθύνοντος συμβούλου της Anthropic, Ντάριο Αμοντέι, για στενότερη συνεργασία με ανεξάρτητους αξιολογητές, την οποία παρουσίασε μαζί με την πρότασή του για επιβράδυνση του ρυθμού ανάπτυξης των μοντέλων. Η εταιρεία είχε επιλέξει αρχικά την Accenture ως συνεργάτη για την αξιολόγηση της ασφάλειας, ενώ η συζήτηση για τον ρόλο των εξωτερικών ελεγκτών έχει ενταθεί, καθώς αυξάνονται οι ανησυχίες για το κατά πόσο οι ίδιες οι εταιρείες μπορούν να ελέγχουν αποτελεσματικά τους κινδύνους των προϊόντων τους.
Τρία επίπεδα πρόσβασης και ελέγχου
Η Anthropic διαμορφώνει ένα σύστημα τριών βαθμίδων για τους ανεξάρτητους αξιολογητές, με διαφορετικά δικαιώματα πρόσβασης στις υποδομές και τις πληροφορίες της. Η πρώτη βαθμίδα αφορά ελέγχους περιορισμένου αντικειμένου, η δεύτερη επιτρέπει τη δημοσίευση εκθέσεων χωρίς προηγούμενη έγκριση της εταιρείας και η τρίτη παρέχει πρόσβαση αντίστοιχη, σε μεγάλο βαθμό, με εκείνη των εσωτερικών ομάδων αξιολόγησης κινδύνων.
Η METR εντάσσεται στην τρίτη βαθμίδα. Έξι εργαζόμενοί της έχουν ενσωματωθεί στη διαδικασία και αποκτούν πρόσβαση σε υπολογιστικές υποδομές, χώρους εργασίας και εργαλεία της Anthropic, με δυνατότητες αντίστοιχες περίπου με εκείνες των εσωτερικών ομάδων αξιολόγησης. Θα εξετάζουν τα επίπεδα κινδύνου, τα περιστατικά και τις πρακτικές της εταιρείας και θα δημοσιεύουν τα ευρήματά τους. Σύμφωνα με την Anthropic, η ίδια δεν χρηματοδοτεί το συγκεκριμένο έργο της METR.
Η SecureBio, αντίθετα, τοποθετείται στην πρώτη βαθμίδα, με πιο περιορισμένη πρόσβαση. Εξετάζει την ενότητα για τους κινδύνους από χημικά και βιολογικά όπλα στην έκθεση αξιολόγησης κινδύνων που δημοσίευσε η Anthropic τον Αύγουστο. Η συνεργασία θα μπορούσε να επεκταθεί στο μέλλον, με ευρύτερη πρόσβαση και μεγαλύτερα δικαιώματα δημοσίευσης.
Το ζήτημα της ανεξαρτησίας και της χρηματοδότησης
Παραμένει αδιευκρίνιστο ποια βαθμίδα πρόσβασης θα μπορούσαν να λάβουν άλλοι οργανισμοί, όπως η Hugging Face, γνωστή για την πλατφόρμα ανάπτυξης και διάθεσης εργαλείων ανοικτού κώδικα. Η εταιρεία βρέθηκε στο επίκεντρο της επικαιρότητας τον Ιούλιο, όταν δύο μοντέλα της OpenAI φέρεται να διέφυγαν από το περιβάλλον περιορισμένης λειτουργίας τους και απέκτησαν πρόσβαση σε συστήματα της Hugging Face μέσω του ανοικτού διαδικτύου. Τον Σεπτέμβριο, η Nvidia συμφώνησε να εξαγοράσει τη Hugging Face έναντι σχεδόν 13 δισ. δολαρίων.
Η Anthropic δηλώνει επίσης ότι επιδιώκει μια φιλόδοξη συνεργασία με την Accenture, χωρίς να διευκρινίζει πώς αυτή εντάσσεται στο σύστημα των τριών βαθμίδων. Η απόφαση να χρηματοδοτήσει απευθείας το έργο της Accenture, λόγω της σημασίας και του επείγοντος χαρακτήρα του, έχει ήδη προκαλέσει ερωτήματα για την ανεξαρτησία της αξιολόγησης.
Η ίδια η Anthropic αναγνωρίζει ότι δεν υπάρχουν ακόμη κοινά πρότυπα για το εύρος των πληροφοριών στις οποίες πρέπει να έχουν πρόσβαση οι εξωτερικοί αξιολογητές, ούτε για τον τρόπο με τον οποίο θα δημοσιοποιούν τα ευρήματά τους. Μακροπρόθεσμα, θεωρεί ότι η χρηματοδότηση θα πρέπει να προέρχεται από κοινά ταμεία ή δημόσιους φορείς, όπως έχει προτείνει στο πλαίσιο για την προηγμένη τεχνητή νοημοσύνη που παρουσίασε τον Ιούνιο. Μέχρι να διαμορφωθεί ένα τέτοιο μοντέλο, σκοπεύει να συνεργάζεται με διαφορετικούς αξιολογητές υπό διαφορετικές χρηματοδοτικές συμφωνίες.
Η ανάγκη εξωτερικής εποπτείας περνά στο προσκήνιο της πολιτικής για την τεχνητή νοημοσύνη. Στα τέλη Σεπτεμβρίου ο Ντόναλντ Τραμπ προέτρεψε τις εταιρείες του κλάδου να συνεργάζονται με ανεξάρτητους εξωτερικούς ελεγκτές, στο πλαίσιο εθελοντικής συμφωνίας που υπέγραψαν, μεταξύ άλλων, η Anthropic, η Google, η Meta, η OpenAI, η SpaceX και η Nvidia. Το κρίσιμο ζητούμενο πλέον είναι οι ελεγκτές να διαθέτουν επαρκή πρόσβαση, ελευθερία δημοσίευσης και χρηματοδοτική ανεξαρτησία, ώστε τα συμπεράσματά τους να έχουν ουσιαστική αξία.
