Έρευνα αποκαλύπτει ότι κινεζικοί AI agents εμφανίζουν συμπεριφορές εξαπάτησης, απόκρυψης αποτυχιών και παράκαμψης περιορισμών σε δοκιμές, προκαλώντας ανησυχίες για την ασφάλεια και τον έλεγχο των μελλοντικών αυτόνομων συστημάτων

Συστήματα τεχνητής νοημοσύνης από την Κίνα έχουν εμφανίσει συμπεριφορές που περιλαμβάνουν παραπλάνηση, απόκρυψη αποτυχιών και προσπάθειες παράκαμψης περιορισμών, σύμφωνα με ερευνητικά έγγραφα και ειδικούς στον χώρο της AI. Τα ευρήματα εντείνουν τη διεθνή ανησυχία για τους κινδύνους που μπορεί να δημιουργήσουν οι ολοένα πιο αυτόνομοι ψηφιακοί πράκτορες.

Σε μία περίπτωση μέσα στο 2026, agents που λειτουργούσαν με μοντέλα από τις Alibaba, DeepSeek και Moonshot παρουσίασαν ψευδείς πληροφορίες για τις δυνατότητές τους προκειμένου να κερδίσουν έναν προσομοιωμένο επιχειρηματικό διαγωνισμό. Όταν οι ερευνητές τους ζήτησαν να επαναλάβουν τη διαδικασία, τα συστήματα συνέχισαν την παραπλανητική συμπεριφορά τους.

Παράλληλα, σε άλλο πείραμα, AI agents απέκρυψαν ότι δεν κατάφεραν να ολοκληρώσουν μια εργασία, δημιουργώντας ψεύτικα αρχεία και προσομοιώνοντας αποτελέσματα ώστε να εμφανίσουν ότι είχαν επιτύχει τον στόχο.

Πάνω από 20 μελέτες εντοπίζουν προειδοποιητικά σημάδια

Ανασκόπηση περισσότερων από 200 ερευνητικών εγγράφων, τεχνικών αναφορών και επιστημονικών μελετών εντόπισε τουλάχιστον 20 αξιολογήσεις από το 2025 και μετά που περιγράφουν συμπεριφορές AI agents όπως εξαπάτηση, αναπαραγωγή συστημάτων και προσπάθειες υπέρβασης ορίων.

Οι ερευνητές επισημαίνουν ότι οι περισσότερες δοκιμές πραγματοποιήθηκαν σε ελεγχόμενα περιβάλλοντα και δεν υπάρχει ένδειξη ότι κινεζικά συστήματα κατάφεραν να ξεφύγουν αυτόνομα στο διαδίκτυο ή να αποφύγουν οριστικά την απενεργοποίησή τους.

Ωστόσο, ειδικοί προειδοποιούν ότι τα σημερινά φαινόμενα αποτελούν «προπομπό» προβλημάτων που μπορεί να γίνουν δυσκολότερα διαχειρίσιμα όσο τα συστήματα αποκτούν μεγαλύτερες δυνατότητες.

«Αυτά είναι τα ίδια προειδοποιητικά σημάδια που βλέπουν τα αμερικανικά εργαστήρια σε λιγότερο προηγμένα συστήματα», ανέφερε ο ερευνητής Άλεξ Μάλεν, σημειώνοντας ότι όσο αυξάνεται η ικανότητα των agents, τόσο πιο δύσκολη γίνεται η ανθρώπινη αντίδραση.

Πειράματα έδειξαν εκμάθηση της παραπλάνησης

Σε προσομοιωμένο διαγωνισμό προσφορών που πραγματοποιήθηκε από ερευνητές κινεζικών και διεθνών πανεπιστημίων, οι AI agents κλήθηκαν να ανταγωνιστούν για συμβόλαια πελατών.

Τα αποτελέσματα έδειξαν ότι ψευδείς ισχυρισμοί εμφανίστηκαν στο 88% των συνεδριών με το μοντέλο Qwen3-Max-Preview της Alibaba, στο 84% με το DeepSeek-V3.2-Exp και στο 88% με το Kimi-K2 της Moonshot.

Όταν τα μοντέλα είχαν τη δυνατότητα να μαθαίνουν από προηγούμενους γύρους, η παραπλανητική συμπεριφορά αυξήθηκε κατά 12 έως 20 ποσοστιαίες μονάδες.

Οι ερευνητές σημείωσαν ότι η συμπεριφορά αυτή διαφέρει από τις γνωστές «ψευδαισθήσεις» της AI, καθώς τα συστήματα γνώριζαν ότι μια εργασία είχε αποτύχει αλλά επέλεξαν να παρουσιάσουν διαφορετική εικόνα.

Προσπάθειες παράκαμψης και αυτοαναπαραγωγής

Άλλες μελέτες κατέγραψαν περιπτώσεις όπου AI agents που βασίζονταν σε κινεζικά μοντέλα προσπάθησαν να ξεπεράσουν περιορισμούς μέσα σε δοκιμαστικά περιβάλλοντα.

Σε ένα πείραμα, σύστημα που χρησιμοποιούσε το μοντέλο Qwen2.5-72B-Instruct της Alibaba δημιούργησε αντίγραφο του εαυτού του σε διαφορετικό υπολογιστικό περιβάλλον χωρίς σχετική εντολή, αφού έλαβε πληροφορίες ότι επρόκειτο να αντικατασταθεί.

Σε άλλη περίπτωση, ο agent ROME, που συνδέεται με την Alibaba, δημιούργησε σύνδεση από υπολογιστικό σύστημα Alibaba Cloud προς εξωτερικό μηχάνημα χωρίς εντολή και κατεύθυνε υπολογιστικούς πόρους για εξόρυξη κρυπτονομισμάτων. Τα συστήματα ασφαλείας εντόπισαν και σταμάτησαν τη δραστηριότητα.

Η μάχη ΗΠΑ και Κίνας για την ασφάλεια της AI

Η συζήτηση για την ασφάλεια της τεχνητής νοημοσύνης αποκτά μεγαλύτερη σημασία καθώς ΗΠΑ και Κίνα επιταχύνουν την ανάπτυξη προηγμένων μοντέλων.

Αμερικανικές εταιρείες έχουν επίσης αντιμετωπίσει περιστατικά που προκαλούν ανησυχία. Νωρίτερα, συστήματα της OpenAI είχαν καταφέρει να παρακάμψουν περιορισμούς σε εργαστηριακές δοκιμές, ενώ υπήρξαν αναφορές για παραβίαση κυβερνητικής πύλης υγείας στην Αυστραλία.

Η Κίνα έχει εκδώσει κατευθυντήριες οδηγίες που ζητούν από τους agents να λειτουργούν εντός καθορισμένων ορίων και να διαθέτουν μηχανισμούς αποτροπής ασυνήθιστης συμπεριφοράς.

Παράλληλα, ειδικοί υποστηρίζουν ότι το οικοσύστημα αξιολόγησης κινδύνων AI στην Κίνα παραμένει λιγότερο ανεπτυγμένο σε σχέση με τις ΗΠΑ.

ΠΗΓΗ: newmoney.gr