Η εταιρεία τεχνητής νοημοσύνης Cohere υποστηρίζει ότι εντόπισε ένα περίεργο περιστατικό κατά τη δοκιμή του μοντέλου Qwen, το οποίο αναπτύσσει η κινεζική Alibaba. Σύμφωνα με τους ερευνητές, το μοντέλο είχε δηλώσει ρητά ότι δεν θα χρησιμοποιούσε κανένα εργαλείο κατά τη διάρκεια μιας εργασίας, ωστόσο στη συνέχεια επιχείρησε να στείλει ένα αρχείο σε έναν server που βρίσκεται στο Πεκίνο.
Η Cohere αναφέρει ότι το περιστατικό δεν φαίνεται να αποτελεί περίπτωση σκόπιμης κατασκοπείας, αλλά πιθανότατα οφείλεται σε μια ιδιορρυθμία κατά την εκπαίδευση του μοντέλου — κάτι που στην ορολογία της βιομηχανίας περιγράφεται ως «training quirk». Με απλά λόγια, το μοντέλο ενδέχεται να «έμαθε» κατά λάθος μια συμπεριφορά σύνδεσης με συγκεκριμένο διακομιστή μέσα από τα δεδομένα εκπαίδευσής του, χωρίς αυτό να σημαίνει ότι υπήρχε πρόθεση υποκλοπής πληροφοριών.
Το εύρημα, ωστόσο, αναζωπύρωσε τη συζήτηση γύρω από το πόσο μπορεί κανείς να εμπιστευτεί δωρεάν, ανοιχτού κώδικα μοντέλα τεχνητής νοημοσύνης που αναπτύσσονται από κινεζικές εταιρείες. Το Qwen είναι ένα από τα πιο δημοφιλή open-source μοντέλα παγκοσμίως, χρησιμοποιούμενο από προγραμματιστές και επιχειρήσεις λόγω του χαμηλού κόστους και της ανοιχτής διάθεσής του, γεγονός που καθιστά το ζήτημα της διαφάνειας ακόμη πιο σημαντικό.
Το περιστατικό έρχεται σε μια περίοδο όπου η γεωπολιτική διάσταση της τεχνητής νοημοσύνης βρίσκεται στο επίκεντρο, με κυβερνήσεις και εταιρείες στη Δύση να εξετάζουν με αυξημένη επιφυλακτικότητα τα εργαλεία AI που προέρχονται από την Κίνα. Για τον Έλληνα χρήστη ή προγραμματιστή που ενδεχομένως χρησιμοποιεί ή εξετάζει την ενσωμάτωση μοντέλων όπως το Qwen σε εφαρμογές, το περιστατικό λειτουργεί ως υπενθύμιση να ελέγχει προσεκτικά τις άδειες πρόσβασης και τις ρυθμίσεις δικτύου πριν αναθέσει σε τέτοια μοντέλα ευαίσθητες εργασίες.