Offcanvas
Offcanvas

Tech

Η OpenAI ενημέρωσε 100 οργανισμούς για επιθέσεις που πραγματοποίησαν σε αυτούς δικοί της AI agents που αυτονομήθηκαν

Η OpenAI ενημέρωσε 100 οργανισμούς για επιθέσεις που πραγματοποίησαν σε αυτούς δικοί της AI agents που αυτονομήθηκαν

Μια σειρά από περιστατικά υψηλού προφίλ παγκοσμίως, τα οποία προκλήθηκαν τους τελευταίους μήνες από ανεξέλεγκτους AI agents, έχει προκαλέσει έντονη ανησυχία στον κλάδο της τεχνητής νοημοσύνης σχετικά με την ικανότητά του να ελέγξει τα ισχυρότερα μοντέλα AI που βρίσκονται σήμερα υπό ανάπτυξη.

Η OpenAI ενημέρωσε περισσότερους από 100 οργανισμούς για περιστατικά που αφορούν μη εξουσιοδοτημένη δραστηριότητα η οποία συνδέεται με τους AI agents της καθώς εντείνονται οι έλεγχοι στη βιομηχανία τεχνητής νοημοσύνης σχετικά με τη δράση ανεξέλεγκτων AI agents.

Η εταιρεία που έφερε επανάσταση στον τομέα του ΑΙ με τη δημιουργία του ChaGPT πραγματοποιεί μια ευρεία επανεξέταση της δραστηριότητας των μοντέλων τεχνητής νοημοσύνης της μετά την παραβίαση του Hugging Face, μια δημοφιλή πλατφόρμα και κοινότητα ανοιχτού κώδικα (open-source) για την τεχνητή νοημοσύνη και τη μηχανική μάθηση.

Η OpenAI ερευνά περίπου 50 petabytes δεδομένων καθώς προσπαθεί να κατανοήσει την πλήρη έκταση της δραστηριότητας των ανεξέλεγκτων agents της. Μια σειρά από περιστατικά υψηλού προφίλ παγκοσμίως, τα οποία προκλήθηκαν τους τελευταίους μήνες από ανεξέλεγκτους AI agents, έχει προκαλέσει έντονη ανησυχία στον κλάδο της τεχνητής νοημοσύνης σχετικά με την ικανότητά του να ελέγξει τα ισχυρότερα μοντέλα AI που βρίσκονται σήμερα υπό ανάπτυξη.

«Σε ορισμένες περιπτώσεις, τα μοντέλα χρησιμοποίησαν την πρόσβαση στο Διαδίκτυο με τρόπους που δεν ήταν προβλεπόμενοι ή εκ των υστέρων διαπιστώθηκε ότι δεν είχαν εφαρμοστεί οι ιδανικοί περιορισμοί. Τους τελευταίους μήνες εφαρμόζουμε νέα τεχνικά και επιχειρησιακά μέτρα ώστε να αποφεύγουμε παρόμοια προβλήματα ή να τα εντοπίζουμε πολύ νωρίς, και θα συνεχίσουμε αυτή την προσπάθεια», δήλωσε η OpenAI.

Η OpenAI είχε δηλώσει προηγουμένως ότι η έρευνα θα χρειαστεί μήνες για να ολοκληρωθεί δεδομένης της τεράστιας κλίμακας του έργου. Το περιστατικό του Hugging Face παραμένει, σύμφωνα με την OpenAI, η σοβαρότερη περίπτωση δραστηριότητας ανεξέλεγκτου agent που έχει εντοπιστεί μέχρι σήμερα στα μοντέλα τεχνητής νοημοσύνης της αν και πριν από λίγα 24ωρα η εταιρεία έκανε γνωστό ότι AI agents της παραβίασαν κυβερνητικά συστήματα και υπηρεσίες των ΗΠΑ ενώ παράλληλα δημοσίευσαν εικόνες χρηστών του ChatGPT.

Πηγή: naftemporiki.gr

ΔΙΑΒΑΣΤΕ ΑΚΟΜΑ

Τελευταία Νέα

Τελευταία νέα

Μ. Χατζημανώλη: Σταδιακά και με ρεαλισμό η πράσινη μετάβαση στη ναυτιλία

Μ. Χατζημανώλη: Σταδιακά και με ρεαλισμό η πράσινη μετάβαση στη ναυτιλία

Η Υφυπουργός Ναυτιλίας ζητά πρακτικά εφαρμόσιμες λύσεις που δεν θα υπονομεύουν την ανταγωνιστικότητα του κλάδου – Η στρατηγική…

Λ. Χριστοφόρου: Στις πρώτες θέσεις απορρόφησης ευρωπαϊκών κονδυλίων η Κύπρος

Λ. Χριστοφόρου: Στις πρώτες θέσεις απορρόφησης ευρωπαϊκών κονδυλίων η Κύπρος

Το μέλος του Ευρωπαϊκού Ελεγκτικού Συνεδρίου παρέδωσε την ετήσια έκθεση του Συνεδρίου στην πρόεδρο της Βουλής

ΕΕ προς Βρετανία: «Αποφασίστε αν θέλετε να γυρίσετε και ξανακάνουμε μακροπρόθεσμες συνομιλίες»

ΕΕ προς Βρετανία: «Αποφασίστε αν θέλετε να γυρίσετε και ξανακάνουμε μακροπρόθεσμες συνομιλίες»

Η Ευρώπη ζητά σαφήνεια από το Λονδίνο

Προειδοποίηση από Γκεοργκίεβα για τη μεγάλη παγίδα της AI – Υπερβολικές προσδοκίες και χρηματοδοτήσεις $1 τρισ.

Προειδοποίηση από Γκεοργκίεβα για τη μεγάλη παγίδα της AI – Υπερβολικές προσδοκίες και χρηματοδοτήσεις $1 τρισ.

Η επικεφαλής του Διεθνούς Νομισματικού Ταμείου προειδοποιεί για περαιτέρω διόρθωση στις αγορές λόγω AI, επισημαίνοντας κινδύνους…

Υπ. Εργασίας: Στην τελική ευθεία η συνταξιοδοτική μεταρρύθμιση – Επιφυλάξεις από ΔΕΟΚ

Υπ. Εργασίας: Στην τελική ευθεία η συνταξιοδοτική μεταρρύθμιση – Επιφυλάξεις από ΔΕΟΚ

Διαφορετικές προσεγγίσεις στο 19ο συνέδριο της ΔΕΟΚ, με την κυβέρνηση να προβάλλει τις θετικές πρόνοιες της μεταρρύθμισης…

Bundesbank: Επιτάχυνση της ανάπτυξης στη Γερμανία – Στο 1,3% η πρόβλεψη για το 2026

Bundesbank: Επιτάχυνση της ανάπτυξης στη Γερμανία – Στο 1,3% η πρόβλεψη για το 2026

Η επεκτατική δημοσιονομική πολιτική και η ανάκαμψη του παγκόσμιου εμπορίου στηρίζουν τη μεγαλύτερη οικονομία της Ευρώπης…

ΑΗΚ: Προτεραιότητα οι επενδύσεις σε φωτοβολταϊκά και αποθήκευση

ΑΗΚ: Προτεραιότητα οι επενδύσεις σε φωτοβολταϊκά και αποθήκευση

Σύμφωνα με τον πρόεδρο της ΑΗΚ οι μπαταρίες αποθήκευσης ενέργειας θα εγκατασταθούν μέχρι τον Σεπτέμβριο του 2027, συμπληρώνοντας,…

Alibaba: Άλμα 10% στα έσοδα, στα 40,7 δισ. δολάρια με ώθηση από AI

Alibaba: Άλμα 10% στα έσοδα, στα 40,7 δισ. δολάρια με ώθηση από AI

Ο κινεζικός γίγαντας ξεπέρασε τις προβλέψεις επενδύοντας δυναμικά στην AI — Οι αμερικανικοί περιορισμοί στα chips, η επέκταση…

CLOSE X
CLOSE X
CLOSE X