Offcanvas
Offcanvas

Tech

Παγίδα στις επιθέσεις από «πράκτορες» ΑΙ στήνει η Nvidia

Παγίδα στις επιθέσεις από «πράκτορες» ΑΙ στήνει η Nvidia

Η Nvidia ανακοίνωσε την πλατφόρμα Open Agent Safety Platform για την πρόληψη του είδους της διαφυγής από τον έλεγχο που συνέβη όταν μοντέλα της OpenAI απέκτησαν πρόσβαση στο HuggingFace.

Μια νέα πλατφόρμα λογισμικού που επιτρέπει στους προγραμματιστές τεχνητής νοημοσύνης (AI) να θέτουν δικλείδες ασφαλείας για τα «πράκτορες» (agents) τεχνητής νοημοσύνης λανσάρει η Nvidia, εμποδίζοντάς τα να ξεφύγουν από το ελεγχόμενο περιβάλλον λειτουργίας τους.

Η κυκλοφορία της πλατφόρμας «Open Agent Safety Platform» της Nvidia τη Δευτέρα έρχεται αφότου εταιρείες όπως η OpenAI, η Anthropic, η Meta και η Google αποκάλυψαν πρόσφατα περιστατικά κατά τα οποία τα μοντέλα τεχνητής νοημοσύνης τους διέφυγαν από τα απομονωμένα περιβάλλοντα δοκιμών (sandboxes) και επιχείρησαν να παραβιάσουν συστήματα άλλων εταιρειών, αναφέρει το CNBC.

Εκπρόσωπος της Nvidia δήλωσε σε δημοσιογράφους, κατά τη διάρκεια τηλεδιάσκεψης την Κυριακή, ότι η πλατφόρμα της εταιρείας θα μπορούσε να είχε αποτρέψει το περιστατικό που αφορούσε την OpenAI και την Hugging Face τον περασμένο Ιούλιο. Τότε, μοντέλα της OpenAI διέφυγαν από το ελεγχόμενο περιβάλλον τους, απέκτησαν πρόσβαση στο ανοιχτό διαδίκτυο και παραβίασαν την Hugging Face, η οποία διαχειρίζεται μια πλατφόρμα ανοιχτού κώδικα για προγραμματιστές.

«Κάθε περιστατικό ασφαλείας είναι μοναδικό και οφείλουμε να τα εξετάζουμε όλα λεπτομερώς», δήλωσε ο Τζάστιν Μποϊτάνο, αντιπρόεδρος του τμήματος Enterprise AI στη Nvidia —την εταιρεία με τη μεγαλύτερη χρηματιστηριακή αξία παγκοσμίως. «Από ό,τι γνωρίζουμε, η Hugging Face ανέφερε επιθέσεις από περισσότερα από  ανέφερε επιθέσεις από περισσότερα από 17.000 ρπάκτορες (agents) εναντίον της υποδομής της, οι οποίες διήρκεσαν ημέρες ή και εβδομάδες».

Η Nvidia βρίσκεται στο επίκεντρο της ραγδαίας ανάπτυξης της παραγωγικής τεχνητής νοημοσύνης (generative AI) από την κυκλοφορία του ChatGPT πριν από σχεδόν τέσσερα χρόνια, καθώς οι μονάδες επεξεργασίας γραφικών (GPU) που κατασκευάζει είναι καθοριστικής σημασίας για την ανάπτυξη μεγάλων γλωσσικών μοντέλων και για τις υπηρεσίες AI που προσφέρουν οι πάροχοι υπηρεσιών cloud μεγάλης κλίμακας (hyperscalers). Ωστόσο, το τελευταίο διάστημα, ο Διευθύνων Σύμβουλος Τζένσεν Χουάνγκ έχει αναδειχθεί σε βασική φωνή στη συζήτηση για την ασφάλεια της τεχνητής νοημοσύνης, υποστηρίζοντας ότι πολλές ανησυχίες σχετικά με την ασφάλεια αποτελούν ζητήματα μηχανικής που μπορούν να επιλυθούν μέσω της επιστήμης των υπολογιστών και της ανάπτυξης προϊόντων.

Η Nvidia αγωνίζεται να τιθασεύσει τους πράκτορες ΑΙ

«Πρέπει να σκεφτείς τι θα μπορούσες να είχες κάνει και ποια είναι η λύση», δήλωσε ο Χουάνγκ σε podcast των New York Times την περασμένη εβδομάδα, αναφερόμενος στα πρόσφατα περιστατικά. «Στο μέλλον, βελτιώνεις τη διαδικασία σου ώστε να αποφύγεις την επανάληψη του συμβάντος». Ο Διευθύνων Σύμβουλος της Anthropic, Ντάριο Αμοντέι, προκάλεσε έντονες συζητήσεις στον κλάδο πριν από δύο εβδομάδες, καλώντας τους προγραμματιστές μοντέλων τεχνητής νοημοσύνης να επιβραδύνουν τον ρυθμό εξέλιξης λόγω φόβων ότι τα μοντέλα ενδέχεται να βγουν εκτός ελέγχου – μια άποψη που υποστηρίχθηκε επίσης από τον Σαμ Άλτμαν της OpenAI και τον Ίλον Μασκ της SpaceX.

Η νέα πρόταση της Nvidia αποτελεί μια τεχνική λύση στο ζήτημα της ασφάλειας των πρακτόρων (agents) τεχνητής νοημοσύνης, καθώς οι δικλείδες ασφαλείας σε επίπεδο μοντέλου, από μόνες τους, δεν επαρκούν για να ελέγξουν την πρόσβαση ή τις ενέργειες των πρακτόρων, δήλωσε ο Μποϊτάνο.

Ένα από τα στοιχεία της πλατφόρμας ονομάζεται Nvidia OpenShell· εκτελείται σε κεντρικούς επεξεργαστές (CPUs) και θέτει όρια στις δυνατότητες των πρακτόρων. Η Nvidia ανακοίνωσε επίσης το Sentry, το οποίο παρακολουθεί τους πράκτορες και λειτουργεί σε τσιπ δικτύου, αντί για κεντρικούς επεξεργαστές (CPUs) ή επεξεργαστές γραφικών (GPUs).

Μέρος του λογισμικού είναι ανοιχτού κώδικα και η Nvidia χαρακτηρίζει την πλατφόρμα της ως «σχεδιασμό αναφοράς» (reference design), γεγονός που σημαίνει ότι προορίζεται ως βάση πάνω στην οποία οι συνεργάτες της θα αναπτύξουν προϊόντα για να τα διαθέσουν στην αγορά.

Η Nvidia κατονόμασε ως συνεργάτες τις Cisco, Microsoft, Oracle, CoreWeave, Dell, HPE, Lenovo, ARM και Intel. Παράλληλα, η εταιρεία συνεργάζεται με την Anthropic για την ενσωμάτωση πρακτόρων που διαχειρίζονται μέσω cloud με το OpenShell.

Πηγή: ot.gr

ΔΙΑΒΑΣΤΕ ΑΚΟΜΑ

Τελευταία Νέα

Τελευταία νέα

ΔΕΟΚ: Δεν μπορούμε να μιλάμε για ανάπτυξη όταν οι εργαζόμενοι δυσκολεύονται

ΔΕΟΚ: Δεν μπορούμε να μιλάμε για ανάπτυξη όταν οι εργαζόμενοι δυσκολεύονται

Ο πρόεδρος της ΔΕΟΚ, Στέλιος Χριστοδούλου, στο πλαίσιο του 19ου Παγκύπριου Συνεδρίου της Ομοσπονδίας, άσκησε κριτική στην…

Μ. Χατζημανώλη: Σταδιακά και με ρεαλισμό η πράσινη μετάβαση στη ναυτιλία

Μ. Χατζημανώλη: Σταδιακά και με ρεαλισμό η πράσινη μετάβαση στη ναυτιλία

Η Υφυπουργός Ναυτιλίας ζητά πρακτικά εφαρμόσιμες λύσεις που δεν θα υπονομεύουν την ανταγωνιστικότητα του κλάδου – Η στρατηγική…

Λ. Χριστοφόρου: Στις πρώτες θέσεις απορρόφησης ευρωπαϊκών κονδυλίων η Κύπρος

Λ. Χριστοφόρου: Στις πρώτες θέσεις απορρόφησης ευρωπαϊκών κονδυλίων η Κύπρος

Το μέλος του Ευρωπαϊκού Ελεγκτικού Συνεδρίου παρέδωσε την ετήσια έκθεση του Συνεδρίου στην πρόεδρο της Βουλής

ΕΕ προς Βρετανία: «Αποφασίστε αν θέλετε να γυρίσετε και ξανακάνουμε μακροπρόθεσμες συνομιλίες»

ΕΕ προς Βρετανία: «Αποφασίστε αν θέλετε να γυρίσετε και ξανακάνουμε μακροπρόθεσμες συνομιλίες»

Η Ευρώπη ζητά σαφήνεια από το Λονδίνο

Προειδοποίηση από Γκεοργκίεβα για τη μεγάλη παγίδα της AI – Υπερβολικές προσδοκίες και χρηματοδοτήσεις $1 τρισ.

Προειδοποίηση από Γκεοργκίεβα για τη μεγάλη παγίδα της AI – Υπερβολικές προσδοκίες και χρηματοδοτήσεις $1 τρισ.

Η επικεφαλής του Διεθνούς Νομισματικού Ταμείου προειδοποιεί για περαιτέρω διόρθωση στις αγορές λόγω AI, επισημαίνοντας κινδύνους…

Υπ. Εργασίας: Στην τελική ευθεία η συνταξιοδοτική μεταρρύθμιση – Επιφυλάξεις από ΔΕΟΚ

Υπ. Εργασίας: Στην τελική ευθεία η συνταξιοδοτική μεταρρύθμιση – Επιφυλάξεις από ΔΕΟΚ

Διαφορετικές προσεγγίσεις στο 19ο συνέδριο της ΔΕΟΚ, με την κυβέρνηση να προβάλλει τις θετικές πρόνοιες της μεταρρύθμισης…

Bundesbank: Επιτάχυνση της ανάπτυξης στη Γερμανία – Στο 1,3% η πρόβλεψη για το 2026

Bundesbank: Επιτάχυνση της ανάπτυξης στη Γερμανία – Στο 1,3% η πρόβλεψη για το 2026

Η επεκτατική δημοσιονομική πολιτική και η ανάκαμψη του παγκόσμιου εμπορίου στηρίζουν τη μεγαλύτερη οικονομία της Ευρώπης…

ΑΗΚ: Προτεραιότητα οι επενδύσεις σε φωτοβολταϊκά και αποθήκευση

ΑΗΚ: Προτεραιότητα οι επενδύσεις σε φωτοβολταϊκά και αποθήκευση

Σύμφωνα με τον πρόεδρο της ΑΗΚ οι μπαταρίες αποθήκευσης ενέργειας θα εγκατασταθούν μέχρι τον Σεπτέμβριο του 2027, συμπληρώνοντας,…

CLOSE X
CLOSE X
CLOSE X