Νέο μοντέλο τεχνητής νοημοσύνης επικεντρωμένο στην κυβερνοασφάλεια.

Η επικαιρότητα στη βιομηχανία τεχνητής νοημοσύνης κυριαρχείται τις τελευταίες μέρες από το μοντέλο κυβερνοασφάλειας Mythos της Anthropic και η OpenAI σε μια προσπάθεια να παραμείνει δυνατή στον ανταγωνισμό παρουσίασε το δικό της αντίστοιχο μοντέλο, το GPT-5.4-Cyber.
«Η σταδιακή χρήση της τεχνητής νοημοσύνης επιταχύνει το έργο των αμυνομένων δηλαδή όσων είναι υπεύθυνοι για την ασφάλεια συστημάτων, δεδομένων και χρηστών επιτρέποντάς τους να εντοπίζουν και να διορθώνουν προβλήματα πιο γρήγορα στην ψηφιακή υποδομή από την οποία εξαρτώνται όλοι» ανέφερε η OpenAI.

Παράλληλα με την ανακοίνωση η εταιρεία δήλωσε ότι επεκτείνει το πρόγραμμα Trusted Access for Cyber (TAC) σε χιλιάδες επαληθευμένους μεμονωμένους ειδικούς ασφάλειας και εκατοντάδες ομάδες που είναι υπεύθυνες για την προστασία κρίσιμου λογισμικού.

Τα συστήματα τεχνητής νοημοσύνης είναι από τη φύση τους διττής χρήσης, καθώς κακόβουλοι παράγοντες μπορούν να επαναχρησιμοποιήσουν τεχνολογίες που αναπτύχθηκαν για νόμιμες εφαρμογές προς δικό τους όφελος και να επιτύχουν κακόβουλους στόχους. Ένα βασικό σημείο ανησυχίας είναι ότι οι αντίπαλοι θα μπορούσαν να αντιστρέψουν μοντέλα που έχουν εκπαιδευτεί για την άμυνα λογισμικού ώστε να εντοπίζουν και να εκμεταλλεύονται ευπάθειες σε ευρέως χρησιμοποιούμενα προγράμματα πριν αυτές διορθωθούν εκθέτοντας τους χρήστες σε σημαντικούς κινδύνους.

Η OpenAI δήλωσε ότι στόχος της είναι να εκδημοκρατίσει την πρόσβαση στα μοντέλα της ελαχιστοποιώντας παράλληλα τέτοιες καταχρήσεις και να ενισχύσει τα μέτρα προστασίας μέσω μιας προσεκτικής και σταδιακής διάθεσης. Η ιδέα είναι να επιτραπεί η υπεύθυνη χρήση σε μεγάλη κλίμακα, να δοθεί προβάδισμα στους αμυνόμενους και ταυτόχρονα να ενισχυθούν τα προστατευτικά μέτρα απέναντι σε επιθέσεις όπως jailbreaks και κακόβουλες εισαγωγές εντολών (prompt injections) καθώς οι δυνατότητες των μοντέλων εξελίσσονται.

Κυβερνοασφάλεια

«Καθώς οι δυνατότητες των μοντέλων εξελίσσονται η προσέγγισή μας είναι να ενισχύουμε την κυβερνοάμυνα παράλληλα: διευρύνοντας την πρόσβαση για νόμιμους αμυνόμενους και συνεχίζοντας να ενδυναμώνουμε τα μέτρα προστασίας», πρόσθεσε η εταιρεία.

Η δημιουργός του ChatGPT, η οποία παρουσίασε το Codex Security ως έναν τρόπο εντοπισμού, επιβεβαίωσης και πρότασης διορθώσεων για ευπάθειες, αποκάλυψε ότι ο πράκτορας ασφάλειας εφαρμογών που βασίζεται σε AI έχει συμβάλει στη διόρθωση περισσότερων από 3.000 κρίσιμων και σοβαρών ευπαθειών.

Η περιορισμένη διάθεση της OpenAI ακολουθεί την παρουσίαση του Mythos από την Anthropic, ενός προηγμένου μοντέλου που εφαρμόζεται με ελεγχόμενο τρόπο στο πλαίσιο του Project Glasswing. Σύμφωνα με την εταιρεία το μοντέλο εντόπισε «χιλιάδες» ευπάθειες σε λειτουργικά συστήματα προγράμματα περιήγησης και άλλο λογισμικό.

«Το ισχυρότερο οικοσύστημα είναι εκείνο που εντοπίζει, επιβεβαιώνει και διορθώνει συνεχώς ζητήματα ασφάλειας καθώς γράφεται το λογισμικό. Ενσωματώνοντας προηγμένα μοντέλα κώδικα και δυνατότητες πρακτόρων στις ροές εργασίας των προγραμματιστών μπορούμε να τους παρέχουμε άμεση και εφαρμόσιμη ανατροφοδότηση την ώρα που δημιουργούν, μετατοπίζοντας την ασφάλεια από περιστασιακούς ελέγχους και στατικές λίστες σφαλμάτων σε συνεχή και ουσιαστική μείωση κινδύνου» ανέφερε η OpenAI.

Πηγή: naftemporiki.gr

ΔΙΑΒΑΣΤΕ ΑΚΟΜΑ

Οι τρεις διαφορετικοί κόσμοι της τεχνητής νοημοσύνης – Από τους power users στους resisters