Offcanvas
Offcanvas

Tech

Η OpenAI ενημέρωσε 100 οργανισμούς για επιθέσεις που πραγματοποίησαν σε αυτούς δικοί της AI agents που αυτονομήθηκαν

Η OpenAI ενημέρωσε 100 οργανισμούς για επιθέσεις που πραγματοποίησαν σε αυτούς δικοί της AI agents που αυτονομήθηκαν

Μια σειρά από περιστατικά υψηλού προφίλ παγκοσμίως, τα οποία προκλήθηκαν τους τελευταίους μήνες από ανεξέλεγκτους AI agents, έχει προκαλέσει έντονη ανησυχία στον κλάδο της τεχνητής νοημοσύνης σχετικά με την ικανότητά του να ελέγξει τα ισχυρότερα μοντέλα AI που βρίσκονται σήμερα υπό ανάπτυξη.

Η OpenAI ενημέρωσε περισσότερους από 100 οργανισμούς για περιστατικά που αφορούν μη εξουσιοδοτημένη δραστηριότητα η οποία συνδέεται με τους AI agents της καθώς εντείνονται οι έλεγχοι στη βιομηχανία τεχνητής νοημοσύνης σχετικά με τη δράση ανεξέλεγκτων AI agents.

Η εταιρεία που έφερε επανάσταση στον τομέα του ΑΙ με τη δημιουργία του ChaGPT πραγματοποιεί μια ευρεία επανεξέταση της δραστηριότητας των μοντέλων τεχνητής νοημοσύνης της μετά την παραβίαση του Hugging Face, μια δημοφιλή πλατφόρμα και κοινότητα ανοιχτού κώδικα (open-source) για την τεχνητή νοημοσύνη και τη μηχανική μάθηση.

Η OpenAI ερευνά περίπου 50 petabytes δεδομένων καθώς προσπαθεί να κατανοήσει την πλήρη έκταση της δραστηριότητας των ανεξέλεγκτων agents της. Μια σειρά από περιστατικά υψηλού προφίλ παγκοσμίως, τα οποία προκλήθηκαν τους τελευταίους μήνες από ανεξέλεγκτους AI agents, έχει προκαλέσει έντονη ανησυχία στον κλάδο της τεχνητής νοημοσύνης σχετικά με την ικανότητά του να ελέγξει τα ισχυρότερα μοντέλα AI που βρίσκονται σήμερα υπό ανάπτυξη.

«Σε ορισμένες περιπτώσεις, τα μοντέλα χρησιμοποίησαν την πρόσβαση στο Διαδίκτυο με τρόπους που δεν ήταν προβλεπόμενοι ή εκ των υστέρων διαπιστώθηκε ότι δεν είχαν εφαρμοστεί οι ιδανικοί περιορισμοί. Τους τελευταίους μήνες εφαρμόζουμε νέα τεχνικά και επιχειρησιακά μέτρα ώστε να αποφεύγουμε παρόμοια προβλήματα ή να τα εντοπίζουμε πολύ νωρίς, και θα συνεχίσουμε αυτή την προσπάθεια», δήλωσε η OpenAI.

Η OpenAI είχε δηλώσει προηγουμένως ότι η έρευνα θα χρειαστεί μήνες για να ολοκληρωθεί δεδομένης της τεράστιας κλίμακας του έργου. Το περιστατικό του Hugging Face παραμένει, σύμφωνα με την OpenAI, η σοβαρότερη περίπτωση δραστηριότητας ανεξέλεγκτου agent που έχει εντοπιστεί μέχρι σήμερα στα μοντέλα τεχνητής νοημοσύνης της αν και πριν από λίγα 24ωρα η εταιρεία έκανε γνωστό ότι AI agents της παραβίασαν κυβερνητικά συστήματα και υπηρεσίες των ΗΠΑ ενώ παράλληλα δημοσίευσαν εικόνες χρηστών του ChatGPT.

Πηγή: naftemporiki.gr

ΔΙΑΒΑΣΤΕ ΑΚΟΜΑ

Τελευταία Νέα

Τελευταία νέα

Συντάξεις: Τα μαθήματα από τους πρωταθλητές της Ευρώπης

Συντάξεις: Τα μαθήματα από τους πρωταθλητές της Ευρώπης

Από τα επαγγελματικά ταμεία και την αυτόματη εγγραφή μέχρι την ανεξάρτητη διαχείριση των αποθεματικών, η εμπειρία έξι ευρωπαϊκών…

Τεχνητή νοημοσύνη: Ποια chatbots επιβαρύνουν περισσότερο το περιβάλλον – Οι μεγάλες διαφορές

Τεχνητή νοημοσύνη: Ποια chatbots επιβαρύνουν περισσότερο το περιβάλλον – Οι μεγάλες διαφορές

Πόση ενέργεια καταναλώνουν ChatGPT, Claude και Gemini; Τι δείχνουν οι έρευνες για τις εκπομπές διοξειδίου του άνθρακα, τα…

Ευρωπαϊκά χρηματιστήρια: Τέλος στο ράλι βλέπουν οι μεγάλοι επενδυτικοί οίκοι – Πού εντοπίζουν τους κινδύνους

Ευρωπαϊκά χρηματιστήρια: Τέλος στο ράλι βλέπουν οι μεγάλοι επενδυτικοί οίκοι – Πού εντοπίζουν τους κινδύνους

Η εντυπωσιακή πορεία των ευρωπαϊκών μετοχών προβληματίζει τους αναλυτές, που προειδοποιούν για περιορισμένα περιθώρια νέων…

SpaceX: Ιστορικό επίτευγμα – «Έπιασε» για πρώτη φορά το Starship στον αέρα

SpaceX: Ιστορικό επίτευγμα – «Έπιασε» για πρώτη φορά το Starship στον αέρα

Οι γιγαντιαίοι μηχανικοί βραχίονες του πύργου εκτόξευσης συγκράτησαν το διαστημόπλοιο κατά την επιστροφή του στη Γη, έπειτα…

Bitcoin: Κατρακυλά στα 62.000 δολάρια – Πού μπορεί να σταματήσει η πτώση και τι φοβούνται οι επενδυτές

Bitcoin: Κατρακυλά στα 62.000 δολάρια – Πού μπορεί να σταματήσει η πτώση και τι φοβούνται οι επενδυτές

Η παρατεταμένη πτώση του Bitcoin δοκιμάζει τις αντοχές των επενδυτών, καθώς εντείνονται οι εκροές από τα ETF και αυξάνονται…

Αεροπορικό χάος δίχως τέλος στις ΗΠΑ: Πάνω από 6.100 ακυρώσεις πτήσεων μετά το ιστορικό μπλακ άουτ – Πότε αναμένεται ομαλοποίηση

Αεροπορικό χάος δίχως τέλος στις ΗΠΑ: Πάνω από 6.100 ακυρώσεις πτήσεων μετά το ιστορικό μπλακ άουτ – Πότε αναμένεται ομαλοποίηση

Χιλιάδες επιβάτες παραμένουν εγκλωβισμένοι στα αεροδρόμια των ΗΠΑ, καθώς οι αεροπορικές εταιρείες προσπαθούν να αποκαταστήσουν…

Τα ηλεκτρικά οχήματα αυξάνονται και η έξυπνη φόρτιση περιορίζει το κόστος στις υποδομές

Τα ηλεκτρικά οχήματα αυξάνονται και η έξυπνη φόρτιση περιορίζει το κόστος στις υποδομές

Επενδύσεις 24,7 δισ. ευρώ απαιτεί η ανάπτυξη της ηλεκτροκίνησης στις ευρωπαϊκές πόλεις έως το 2030, ενώ η έξυπνη φόρτιση…

Σκάνδαλο Nvidia: Οι εταιρείες αγαπούν τους ροκ σταρ επικεφαλής αλλά μετά εξαρτώνται απόλυτα από αυτούς

Σκάνδαλο Nvidia: Οι εταιρείες αγαπούν τους ροκ σταρ επικεφαλής αλλά μετά εξαρτώνται απόλυτα από αυτούς

Το ερώτημα που θέτουν οι αναλυτές είναι αν θα μπορέσει η Nvidia να κρατήσει τη δεσπόζουσα θέση της μετά την αποχώρηση του…

CLOSE X
CLOSE X
CLOSE X