Offcanvas
Offcanvas

Tech

OpenAI: Ακυρώνει την κυκλοφορία του GPT-6.1 Astra λόγω ανησυχιών για την ασφάλειά του

OpenAI: Ακυρώνει την κυκλοφορία του GPT-6.1 Astra λόγω ανησυχιών για την ασφάλειά του

Στις δοκιμές το μοντέλο εμφάνισε αυξημένη τάση παραπλάνησης και χρήσης εξωτερικών εργαλείων χωρίς άδεια

Η OpenAI ματαιώνει την προγραμματισμένη κυκλοφορία του νέου μοντέλου τεχνητής νοημοσύνης GPT-6.1 Astra, έπειτα από προβλήματα ασφάλειας και ευθυγράμμισης που εντοπίστηκαν σε εσωτερικές δοκιμές.

Η απόφαση αποτελεί σπάνια περίπτωση όπου μεγάλη εταιρεία τεχνητής νοημοσύνης αποσύρει νέα έκδοση πριν από τη διάθεσή της, καθώς οι ερευνητές της έκριναν ότι δεν πληρούσε τα απαιτούμενα κριτήρια.

Το μοντέλο, που προοριζόταν να ενσωματωθεί στο ChatGPT και το Codex, είχε προγραμματιστεί να παρουσιαστεί τον Οκτώβριο.

Σύμφωνα με τη Wall Street Journal, ήταν πιο ικανό από τις προηγούμενες εκδόσεις στην ολοκλήρωση σύνθετων εργασιών από την αρχή έως το τέλος, χωρίς ανθρώπινη παρέμβαση, αλλά παρουσίασε υποχώρηση σε δύο κρίσιμους τομείς ασφάλειας.

Παραπλάνηση και ενέργειες χωρίς έγκριση

Η Σάτσι Τζέιν, επικεφαλής των συστημάτων ασφάλειας της OpenAI, δήλωσε στη Wall Street Journal ότι το GPT-6.1 Astra εμφάνισε μεγαλύτερη τάση παραπλάνησης σε σχέση με τον προκάτοχό του, GPT-6 Astra. Συγκεκριμένα, δεν ενημέρωνε πάντα με ειλικρίνεια τους χρήστες για τις ενέργειες που είχε ή δεν είχε πραγματοποιήσει.

Παράλληλα, σε ορισμένες περιπτώσεις προχωρούσε σε εργασίες χωρίς να ζητήσει την έγκριση του χρήστη και επιχειρούσε να χρησιμοποιήσει εξωτερικά εργαλεία ή υπηρεσίες, ακόμη και όταν αυτό ενδεχομένως δεν ήταν ασφαλές. Η OpenAI περιγράφει το ζήτημα ως «εξουσιοδότηση πεδίου», δηλαδή την ανάγκη τα μοντέλα να παραμένουν εντός των ορίων που έχει θέσει ο χρήστης.

Το GPT-6.1 Astra είχε βελτιωθεί σε άλλους τομείς, όπως η τάση των μοντέλων να εμφανίζουν «τεμπελιά» στην εκτέλεση εργασιών. Ωστόσο, η εταιρεία έκρινε ότι οι αδυναμίες του στην ασφάλεια και την ευθυγράμμιση δεν επέτρεπαν τη δημόσια διάθεσή του.

Νέοι έλεγχοι μετά τα περιστατικά με agents

Η απόφαση έρχεται μετά από σειρά περιστατικών κατά τη διάρκεια του καλοκαιριού, στα οποία συστήματα τεχνητής νοημοσύνης φέρονται να υπερέβησαν τα όρια των δοκιμών τους. Εσωτερικοί agents της OpenAI, που συμμετείχαν σε άσκηση κυβερνοασφάλειας, κατάφεραν να αποκτήσουν πρόσβαση στην πλατφόρμα Hugging Face. Αντίστοιχες, λιγότερο εκτεταμένες κινήσεις καταγράφηκαν σε ιστοτόπους της αυστραλιανής κυβέρνησης και του ΟΗΕ.

Την περασμένη εβδομάδα η OpenAI ανακοίνωσε ότι διέκοψε προσωρινά την εκπαίδευση των ισχυρότερων μοντέλων της, αφού ένας agent παρέκαμψε περιορισμούς πρόσβασης στο διαδίκτυο για να υποβάλει ερώτημα σε δημόσιο chatbot. Η εταιρεία διευκρίνισε ότι το GPT-6.1 Astra δεν ήταν ένα από τα μοντέλα των οποίων η εκπαίδευση έχει ανασταλεί, αλλά διαφορετική περίπτωση.

Η OpenAI έχει δημιουργήσει νέο σύστημα παρακολούθησης για τον ταχύτερο εντοπισμό προβληματικής συμπεριφοράς των agents και έχει απαιτήσει αυστηρότερες δικλίδες ασφαλείας στις εσωτερικές δοκιμές. Σχεδιάζει, επίσης, να διερευνήσει τα αίτια των αστοχιών του GPT-6.1 Astra, μεταξύ άλλων αν οι διαδικασίες ενισχυτικής μάθησης επιβραβεύουν τις κατάλληλες συμπεριφορές.

Η εταιρεία δεν αποκλείει να χρησιμοποιήσει τη βασική έκδοση του μοντέλου για νέους κύκλους εκπαίδευσης, με στόχο μελλοντικές εκδόσεις της σειράς GPT-6. Η απόφαση λαμβάνεται ενώ εντείνεται η πολιτική και ρυθμιστική πίεση προς τις εταιρείες τεχνητής νοημοσύνης, με την OpenAI να βρίσκεται αντιμέτωπη και με αγωγή του γενικού εισαγγελέα της Φλόριντα, ο οποίος ζητεί αυστηρότερες εγγυήσεις ασφαλείας.

Πηγή: naftemporiki.gr

ΔΙΑΒΑΣΤΕ ΑΚΟΜΑ

Τελευταία Νέα

Τελευταία νέα

Μ. Χατζημανώλη: Σταδιακά και με ρεαλισμό η πράσινη μετάβαση στη ναυτιλία

Μ. Χατζημανώλη: Σταδιακά και με ρεαλισμό η πράσινη μετάβαση στη ναυτιλία

Η Υφυπουργός Ναυτιλίας ζητά πρακτικά εφαρμόσιμες λύσεις που δεν θα υπονομεύουν την ανταγωνιστικότητα του κλάδου – Η στρατηγική…

Λ. Χριστοφόρου: Στις πρώτες θέσεις απορρόφησης ευρωπαϊκών κονδυλίων η Κύπρος

Λ. Χριστοφόρου: Στις πρώτες θέσεις απορρόφησης ευρωπαϊκών κονδυλίων η Κύπρος

Το μέλος του Ευρωπαϊκού Ελεγκτικού Συνεδρίου παρέδωσε την ετήσια έκθεση του Συνεδρίου στην πρόεδρο της Βουλής

ΕΕ προς Βρετανία: «Αποφασίστε αν θέλετε να γυρίσετε και ξανακάνουμε μακροπρόθεσμες συνομιλίες»

ΕΕ προς Βρετανία: «Αποφασίστε αν θέλετε να γυρίσετε και ξανακάνουμε μακροπρόθεσμες συνομιλίες»

Η Ευρώπη ζητά σαφήνεια από το Λονδίνο

Προειδοποίηση από Γκεοργκίεβα για τη μεγάλη παγίδα της AI – Υπερβολικές προσδοκίες και χρηματοδοτήσεις $1 τρισ.

Προειδοποίηση από Γκεοργκίεβα για τη μεγάλη παγίδα της AI – Υπερβολικές προσδοκίες και χρηματοδοτήσεις $1 τρισ.

Η επικεφαλής του Διεθνούς Νομισματικού Ταμείου προειδοποιεί για περαιτέρω διόρθωση στις αγορές λόγω AI, επισημαίνοντας κινδύνους…

Υπ. Εργασίας: Στην τελική ευθεία η συνταξιοδοτική μεταρρύθμιση – Επιφυλάξεις από ΔΕΟΚ

Υπ. Εργασίας: Στην τελική ευθεία η συνταξιοδοτική μεταρρύθμιση – Επιφυλάξεις από ΔΕΟΚ

Διαφορετικές προσεγγίσεις στο 19ο συνέδριο της ΔΕΟΚ, με την κυβέρνηση να προβάλλει τις θετικές πρόνοιες της μεταρρύθμισης…

Bundesbank: Επιτάχυνση της ανάπτυξης στη Γερμανία – Στο 1,3% η πρόβλεψη για το 2026

Bundesbank: Επιτάχυνση της ανάπτυξης στη Γερμανία – Στο 1,3% η πρόβλεψη για το 2026

Η επεκτατική δημοσιονομική πολιτική και η ανάκαμψη του παγκόσμιου εμπορίου στηρίζουν τη μεγαλύτερη οικονομία της Ευρώπης…

ΑΗΚ: Προτεραιότητα οι επενδύσεις σε φωτοβολταϊκά και αποθήκευση

ΑΗΚ: Προτεραιότητα οι επενδύσεις σε φωτοβολταϊκά και αποθήκευση

Σύμφωνα με τον πρόεδρο της ΑΗΚ οι μπαταρίες αποθήκευσης ενέργειας θα εγκατασταθούν μέχρι τον Σεπτέμβριο του 2027, συμπληρώνοντας,…

Alibaba: Άλμα 10% στα έσοδα, στα 40,7 δισ. δολάρια με ώθηση από AI

Alibaba: Άλμα 10% στα έσοδα, στα 40,7 δισ. δολάρια με ώθηση από AI

Ο κινεζικός γίγαντας ξεπέρασε τις προβλέψεις επενδύοντας δυναμικά στην AI — Οι αμερικανικοί περιορισμοί στα chips, η επέκταση…

CLOSE X
CLOSE X
CLOSE X