Η Anthropic δίνει στη METR πρόσβαση επιπέδου εργαζομένου για ανεξάρτητο έλεγχο ασφάλειας

Η εταιρεία τεχνητής νοημοσύνης Anthropic ανακοίνωσε ότι παραχωρεί στους ερευνητές του οργανισμού METR πρόσβαση επιπέδου εργαζομένου στις εσωτερικές της διαδικασίες, σε μια κίνηση που ξεχωρίζει για το βαθμό διαφάνειας που προσφέρει σε έναν εξωτερικό φορέα.

Σύμφωνα με όσα έγιναν γνωστά, η METR θα έχει τη δυνατότητα να δημοσιεύει δικές της αξιολογήσεις σχετικά με τους κινδύνους, τα περιστατικά και τις πρακτικές της Anthropic. Το σημαντικότερο στοιχείο της συμφωνίας είναι ότι η Anthropic έχει παραιτηθεί ρητά από το δικαίωμα να εμποδίσει ή να λογοκρίνει αυτές τις δημοσιεύσεις, αφήνοντας στους ερευνητές πλήρη ελευθερία να παρουσιάσουν τα ευρήματά τους χωρίς εταιρικό φίλτρο.

Η πρόσβαση «σε επίπεδο εργαζομένου» σημαίνει ουσιαστικά ότι οι ερευνητές της METR θα μπορούν να δουν πτυχές της λειτουργίας της εταιρείας που κανονικά παραμένουν κλειστές σε εξωτερικούς παρατηρητές, κάτι που ξεπερνά τις συνηθισμένες συνεργασίες ελέγχου που βασίζονται σε επιλεγμένα στοιχεία ή περιορισμένη πρόσβαση.

Η κίνηση αυτή εντάσσεται στη γενικότερη συζήτηση γύρω από την ανάγκη για ανεξάρτητο, εξωτερικό έλεγχο των εταιρειών που αναπτύσσουν προηγμένα μοντέλα τεχνητής νοημοσύνης, καθώς οι ρυθμιστικές αρχές και η κοινή γνώμη ζητούν μεγαλύτερη λογοδοσία από τον κλάδο. Για τον Έλληνα χρήστη, η εξέλιξη αυτή δεν έχει άμεση πρακτική επίπτωση, καθώς τα εργαλεία της Anthropic, όπως το Claude, είναι ήδη διαθέσιμα διεθνώς, ωστόσο αφορά έμμεσα το πλαίσιο ασφάλειας και αξιοπιστίας με το οποίο λειτουργούν τα συστήματα αυτά.