Η Anthropic προτείνει νομοσχέδιο για AI ασφάλεια με όριο τους 50 πιθανούς θανάτους

Η εταιρεία τεχνητής νοημοσύνης Anthropic παρουσίασε πρόταση νομοσχεδίου που αφορά την ασφάλεια μοντέλων AI, προβλέποντας τη δυνατότητα αναστολής της κυκλοφορίας ενός μοντέλου εφόσον εκτιμάται ότι θα μπορούσε να οδηγήσει στον θάνατο 50 ή περισσότερων ανθρώπων.

Η πρόταση, σύμφωνα με δημοσίευμα του TechCrunch, παρουσιάζεται εκ πρώτης όψεως ως μέτρο προστασίας απέναντι σε ενδεχόμενη ανεξέλεγκτη λειτουργία συστημάτων τεχνητής νοημοσύνης. Ωστόσο, το ίδιο κείμενο περιέχει έναν όρο που περιορίζει ουσιαστικά την εξουσία παρέμβασης των αρχών: απαγορεύει στις ομοσπονδιακές υπηρεσίες να μπλοκάρουν την κυκλοφορία ενός μοντέλου χωρίς προηγούμενη άδεια δικαστή.

Αυτή η λεπτομέρεια αλλάζει ουσιαστικά τον χαρακτήρα της πρότασης, καθώς μεταφέρει την τελική απόφαση από τους ρυθμιστικούς φορείς στο δικαστικό σύστημα, επιβραδύνοντας ενδεχομένως τη διαδικασία παρέμβασης σε περιπτώσεις που κρίνονται επικίνδυνες.

Το ζήτημα της ρύθμισης της τεχνητής νοημοσύνης βρίσκεται στο επίκεντρο της συζήτησης διεθνώς, καθώς κυβερνήσεις και εταιρείες αναζητούν ισορροπία ανάμεσα στην καινοτομία και την πρόληψη κινδύνων από ισχυρά μοντέλα AI. Η πρωτοβουλία της Anthropic, μιας από τις μεγαλύτερες εταιρείες ανάπτυξης γλωσσικών μοντέλων, αποκτά ιδιαίτερο βάρος λόγω της θέσης της στον κλάδο, ωστόσο η δομή της πρότασης έχει ήδη προκαλέσει ερωτήματα σχετικά με το πόσο αποτελεσματική θα ήταν στην πράξη μια τέτοια ρύθμιση.