Ο Jacob Coxon, ερευνητής της εταιρείας τεχνητής νοημοσύνης Anthropic, ανακοίνωσε την παραίτησή του επικαλούμενος βαθιές ανησυχίες για τους κινδύνους που ενέχει η ραγδαία ανάπτυξη συστημάτων AI ικανών να βελτιώνουν τον εαυτό τους. Σύμφωνα με όσα δήλωσε, η τρέχουσα πορεία της βιομηχανίας ισοδυναμεί με «τζόγο με τις ζωές μας».
Η παραίτηση Coxon συνδέεται με φόβους περί υπαρξιακού κινδύνου (extinction risk) που, όπως υποστηρίζει, απορρέει από την ανεξέλεγκτη πρόοδο προς όλο και πιο ισχυρά και αυτόνομα μοντέλα AI. Ο ίδιος τάχθηκε υπέρ της ανάγκης για λεγόμενες «συμφωνίες ρυθμού» (pacing agreements) ανάμεσα στα διάφορα εργαστήρια τεχνητής νοημοσύνης, ώστε η ανάπτυξη νέων, ισχυρότερων συστημάτων να μην προχωρά με ρυθμούς που ξεπερνούν τη δυνατότητα ελέγχου και κατανόησης των κινδύνων που αυτά συνεπάγονται.
Η Anthropic, μία από τις πλέον γνωστές εταιρείες στον χώρο της τεχνητής νοημοσύνης, έχει επανειλημμένα παρουσιαστεί δημόσια ως εταιρεία που δίνει έμφαση στην ασφάλεια της AI, σε αντιδιαστολή με ανταγωνιστές που φέρονται να δίνουν προτεραιότητα στην ταχύτητα ανάπτυξης. Η παραίτηση ενός ερευνητή της ίδιας της εταιρείας, με επίκληση ακριβώς αυτών των κινδύνων, αναδεικνύει τις εσωτερικές εντάσεις που φαίνεται να υπάρχουν γύρω από το ζήτημα του ρυθμού εξέλιξης της τεχνολογίας, ακόμη και μέσα σε οργανισμούς που δηλώνουν προσήλωση στην υπεύθυνη ανάπτυξή της.
Το αίτημα για «συμφωνίες ρυθμού» μεταξύ εργαστηρίων AI δεν αποτελεί νέα ιδέα στον χώρο, ωστόσο η δημόσια τοποθέτηση ενός στελέχους που παραιτείται για αυτόν ακριβώς τον λόγο προσθέτει βάρος στη συζήτηση περί ανάγκης θέσπισης κοινών κανόνων ή ορίων ανάμεσα στις εταιρείες που αναπτύσσουν τα πιο προηγμένα μοντέλα τεχνητής νοημοσύνης παγκοσμίως.