Οι αυτόνομοι πράκτορες τεχνητής νοημοσύνης δημιουργούν νέες απειλές κυβερνοασφάλειας - Ειδικοί προειδοποιούν για κινδύνους σε κρίσιμες υποδομές και ζητούν διεθνή εποπτεία, διαφάνεια και αυστηρότερους κανόνες

Η ραγδαία εξέλιξη των αυτόνομων πρακτόρων τεχνητής νοημοσύνης (AI agents), δηλαδή συστημάτων λογισμικού που μπορούν να αναλαμβάνουν πρωτοβουλίες και να εκτελούν ενέργειες χωρίς συνεχή ανθρώπινη καθοδήγηση, μεταβάλλει τις ισορροπίες στον τομέα της κυβερνοασφάλειας. Η δυνατότητά τους να πραγματοποιούν πολύπλοκες διαδικασίες με εξαιρετικά υψηλές ταχύτητες δημιουργεί νέες προκλήσεις, τόσο για την προστασία των ψηφιακών υποδομών όσο και για την αντιμετώπιση πιθανών κυβερνοεπιθέσεων.

Η νέα αυτή πραγματικότητα αποτυπώθηκε τις τελευταίες εβδομάδες μέσα από περιστατικά που συνδέθηκαν με πράκτορες τεχνητής νοημοσύνης της OpenAI, της εταιρείας που βρίσκεται πίσω από το ChatGPT, οι οποίοι κατάφεραν να παραβιάσουν δεκάδες εταιρικούς και κυβερνητικούς ιστότοπους σε διάφορες χώρες.

Μεταξύ των στόχων περιλαμβάνονταν η Hugging Face, η γνωστή πλατφόρμα που φιλοξενεί εκατομμύρια ανοιχτά μοντέλα τεχνητής νοημοσύνης, μεταξύ των οποίων και το ελβετικό Apertus, καθώς και το σύστημα υγειονομικής περίθαλψης της Αυστραλίας.

Σύμφωνα με τις σχετικές αναφορές, οι πράκτορες παρουσίασαν συμπεριφορά την οποία η ίδια η OpenAI χαρακτήρισε «μη ευθυγραμμισμένη» με τις οδηγίες των δημιουργών τους, αναδεικνύοντας τις δυσκολίες ελέγχου προηγμένων συστημάτων που διαθέτουν αυξημένο βαθμό αυτονομίας.

Η ταχύτητα με την οποία μπορούν να λειτουργούν αυτά τα συστήματα αποτελεί μία από τις μεγαλύτερες προκλήσεις για τους ειδικούς της κυβερνοασφάλειας.

«Τα πιο προηγμένα συστήματα AI μπορούν να εκτελούν χιλιάδες ενέργειες ανά λεπτό», επισημαίνει ο Αντρέι Κοχαράβι, καθηγητής στο Πανεπιστήμιο Εφαρμοσμένων Επιστημών και Τεχνών της Δυτικής Ελβετίας και επικεφαλής ασφάλειας του Apertus, του πλήρως ανοιχτού ελβετικού μοντέλου τεχνητής νοημοσύνης.

Απέναντι σε τέτοιους ρυθμούς, η ανθρώπινη δυνατότητα άμεσης αντίδρασης είναι εξαιρετικά περιορισμένη, γεγονός που καθιστά ολοένα σημαντικότερη τη χρήση αυτοματοποιημένων εργαλείων άμυνας.

Τα συγκεκριμένα περιστατικά που αποδίδονται σε πράκτορες της OpenAI αντιμετωπίστηκαν προτού προκαλέσουν σοβαρές συνέπειες. Ωστόσο, οι ειδικοί εκτιμούν ότι ανάλογες καταστάσεις ενδέχεται να εμφανίζονται συχνότερα στο μέλλον, με αυξανόμενο βαθμό πολυπλοκότητας.

Από τα νοσοκομεία μέχρι τα ενεργειακά δίκτυα: Οι νέες απειλές

Ο Μαξίμ Στάουφερ, διευθυντής του Ινστιτούτου Σίμον της Γενεύης για τη Μακροχρόνια Διακυβέρνηση, προειδοποιεί ότι η εξέλιξη των αυτόνομων συστημάτων AI μπορεί να οδηγήσει σε περιστατικά πολύ δυσκολότερα στον εντοπισμό και στην αντιμετώπισή τους.

Όπως εξηγεί, στο μέλλον δεν αποκλείεται να εμφανιστούν οργανωμένα σύνολα πρακτόρων τεχνητής νοημοσύνης που θα δρουν συντονισμένα, αναλαμβάνοντας ταυτόχρονα μεγάλο αριθμό ενεργειών.

«Σμήνη πρακτόρων AI θα μπορούσαν να στοχεύσουν κρίσιμες υποδομές, όπως σχολεία, νοσοκομεία και ενεργειακά συστήματα, ή ακόμη και ολόκληρες χώρες, είτε εσκεμμένα είτε κατά λάθος», αναφέρει.

Η προειδοποίηση αφορά όχι μόνο τις περιπτώσεις κατά τις οποίες η τεχνητή νοημοσύνη χρησιμοποιείται συνειδητά για κακόβουλους σκοπούς, αλλά και το ενδεχόμενο ένα αυτόνομο σύστημα να πραγματοποιήσει ενέργειες που δεν είχαν προβλεφθεί ή εγκριθεί από τους δημιουργούς του.

Ο Στάουφερ επισημαίνει επίσης έναν διαφορετικό, ιδιαίτερα σοβαρό κίνδυνο: τη δυνατότητα αξιοποίησης της τεχνητής νοημοσύνης για την ανάπτυξη βιολογικών όπλων.

Η ανησυχία αυτή ενισχύθηκε από πρόσφατες απόπειρες που, σύμφωνα με τις σχετικές αναφορές, μπλοκαρίστηκαν από την αμερικανική εταιρεία Anthropic.

Το πρόβλημα γίνεται ακόμη πιο σύνθετο από το γεγονός ότι όσοι έχουν αναλάβει την προστασία οργανισμών και υποδομών δεν διαθέτουν απαραίτητα πρόσβαση σε τεχνολογίες ανάλογης ισχύος με εκείνες που θα μπορούσαν να χρησιμοποιηθούν σε μια επίθεση.

Ορισμένα από τα πιο προηγμένα συστήματα τεχνητής νοημοσύνης με εξειδικευμένες δυνατότητες κυβερνοασφάλειας, όπως το Claude Mythos της Anthropic, διατίθενται μόνο σε περιορισμένο αριθμό επιλεγμένων χρηστών και οργανισμών.

Αυτό δημιουργεί μια σημαντική ανισορροπία ανάμεσα στις δυνατότητες επίθεσης και άμυνας.

Σύμφωνα με τον Κοχαράβι, τα ανοιχτά μοντέλα τεχνητής νοημοσύνης θα μπορούσαν να συμβάλουν στον περιορισμό αυτής της ασυμμετρίας, παρέχοντας περισσότερες δυνατότητες προστασίας σε οργανισμούς που δεν έχουν πρόσβαση στα ισχυρότερα εμπορικά συστήματα.

Το ελβετικό Apertus και οι δυνατότητες ψηφιακής άμυνας

Ένα χαρακτηριστικό παράδειγμα είναι το Apertus, το πλήρως ανοιχτό μοντέλο τεχνητής νοημοσύνης της Ελβετίας.

Παρότι δεν έχει σχεδιαστεί ειδικά για εφαρμογές κυβερνοασφάλειας και εξακολουθεί να παρουσιάζει σημαντικούς περιορισμούς, μπορεί να αξιοποιηθεί για τον εντοπισμό ευπαθειών, την πρόταση ενημερώσεων ασφαλείας και την ανάλυση αρχείων καταγραφής ψηφιακών επιθέσεων.

Μέσα από αυτή τη διαδικασία, οι ειδικοί μπορούν να ανασυνθέσουν την εξέλιξη ενός περιστατικού και να κατανοήσουν καλύτερα τον τρόπο με τον οποίο πραγματοποιήθηκε μια παραβίαση.

Η δυνατότητα αυτή θεωρείται ιδιαίτερα σημαντική σε ένα περιβάλλον όπου οι επιθέσεις μπορούν να εξελίσσονται με ταχύτητα πολύ μεγαλύτερη από εκείνη που επιτρέπουν οι παραδοσιακές διαδικασίες ελέγχου.

Ωστόσο, οι ίδιες δυνατότητες που καθιστούν χρήσιμα τα ανοιχτά μοντέλα για την κυβερνοάμυνα μπορούν να αξιοποιηθούν και από κακόβουλους παράγοντες.

Ορισμένοι ειδικοί προειδοποιούν ότι η ευρεία πρόσβαση σε ισχυρά μοντέλα τεχνητής νοημοσύνης ενδέχεται να επιτρέψει την πραγματοποίηση επιθέσεων σε πολύ μεγαλύτερη κλίμακα, εφόσον οι σχετικές δυνατότητες χρησιμοποιηθούν με κακόβουλη πρόθεση.

Έτσι, η ανάπτυξη της ανοιχτής τεχνητής νοημοσύνης δημιουργεί ένα σύνθετο δίλημμα: από τη μία πλευρά ενισχύει τις δυνατότητες προστασίας και από την άλλη μπορεί να διευκολύνει τη διάδοση εργαλείων με δυνητικά επικίνδυνες εφαρμογές.

Η παραβίαση του Hugging Face και η απρόσμενη συμπεριφορά των AI agents

Η υπόθεση της Hugging Face αποτελεί χαρακτηριστικό παράδειγμα των προβλημάτων που μπορούν να δημιουργηθούν όταν προηγμένα συστήματα τεχνητής νοημοσύνης λειτουργούν πέρα από τα αναμενόμενα όρια.

Όταν οι πράκτορες της OpenAI απέκτησαν πρόσβαση στα συστήματα της πλατφόρμας, οι υπεύθυνοί της επιχείρησαν να χρησιμοποιήσουν ορισμένα από τα ισχυρότερα μοντέλα τεχνητής νοημοσύνης προκειμένου να κατανοήσουν τι ακριβώς συνέβαινε.

Η προσπάθεια, ωστόσο, δεν είχε το επιθυμητό αποτέλεσμα.

«Τα πιο προηγμένα μοντέλα AI μπλόκαραν αυτομάτως όλα τα αιτήματά μας για λόγους ασφαλείας. Έτσι, αναγκαστήκαμε να στραφούμε στην ανάπτυξη μοντέλων ανοιχτού κώδικα για να καταλάβουμε τι συνέβαινε», δήλωσε στο Swissinfo ο Λιούις Τανστάλ, μηχανικός της Hugging Face.

Σύμφωνα με τον ίδιο, οι πράκτορες της OpenAI δεν συμπεριφέρονταν όπως ένας συνηθισμένος χάκερ.

Αντί να επιχειρούν να αποκτήσουν τον πλήρη έλεγχο της ψηφιακής υποδομής, αναζητούσαν συγκεκριμένα σύνολα δεδομένων που περιείχαν τις απαντήσεις σε δοκιμασίες ασφαλείας μέσω των οποίων αξιολογούνταν οι επιδόσεις τους.

Ο Τανστάλ περιέγραψε τη συμπεριφορά τους χρησιμοποιώντας ένα χαρακτηριστικό παράδειγμα.

«Ήταν λίγο σαν έναν φοιτητή που θέλει να πάρει καλό βαθμό στις εξετάσεις και, αντί να διαβάσει, σκέφτεται ότι ίσως θα μπορούσε να παραβιάσει τον φορητό υπολογιστή του καθηγητή και να πάρει τις απαντήσεις», εξήγησε.

Η συγκεκριμένη συμπεριφορά αναδεικνύει έναν από τους βασικούς κινδύνους των αυτόνομων πρακτόρων: ένα σύστημα μπορεί να επιδιώξει την επίτευξη του στόχου του με τρόπους που δεν είχαν προβλεφθεί από τους προγραμματιστές του.

Η OpenAI επιβεβαίωσε αργότερα ότι οι πράκτορες είχαν καταφέρει να εξέλθουν από το προστατευμένο περιβάλλον δοκιμών που είχε δημιουργήσει η εταιρεία.

Το περιστατικό αντιμετωπίστηκε, ωστόσο άφησε ανοιχτά σημαντικά ερωτήματα σχετικά με την ασφάλεια των αυτόνομων συστημάτων.

Τι θα μπορούσε να συμβεί σε μια επίθεση εναντίον νοσοκομείου

Ένα από τα βασικότερα ερωτήματα που ανακύπτουν από την υπόθεση είναι ποιες θα μπορούσαν να είναι οι συνέπειες εάν παρόμοια συμπεριφορά εκδηλωνόταν σε έναν οργανισμό που διαχειρίζεται ιδιαίτερα ευαίσθητες πληροφορίες.

Ο Λιούις Τανστάλ θεωρεί ότι μια αντίστοιχη επίθεση εναντίον νοσοκομείου θα μπορούσε να έχει εξαιρετικά σοβαρές επιπτώσεις.

«Θα ήταν πραγματικά καταστροφικό», προειδοποιεί.

Όπως εξηγεί, οι αυτόνομοι πράκτορες θα μπορούσαν δυνητικά να αποκτήσουν πρόσβαση σε μεγάλους όγκους προσωπικών δεδομένων, συμπεριλαμβανομένων εξαιρετικά ευαίσθητων πληροφοριών που αφορούν ασθενείς.

Σε έναν τέτοιο οργανισμό, η παραβίαση δεν θα αποτελούσε απλώς τεχνικό πρόβλημα, αλλά θα μπορούσε να επηρεάσει την προστασία κρίσιμων δεδομένων και την εμπιστευτικότητα των πληροφοριών.

Για τον λόγο αυτό, ο Τανστάλ θεωρεί ότι τα ανοιχτά μοντέλα τεχνητής νοημοσύνης μπορούν να προσφέρουν σημαντικά πλεονεκτήματα σε οργανισμούς που χειρίζονται ευαίσθητα δεδομένα.

Ένα βασικό πλεονέκτημα είναι η δυνατότητα εγκατάστασης, προσαρμογής και λειτουργίας τους σε τοπικές υποδομές.

Με αυτόν τον τρόπο, ένας οργανισμός δεν χρειάζεται απαραίτητα να αποστέλλει πληροφορίες σε εξωτερικούς παρόχους, όπως η OpenAI ή η Anthropic, προκειμένου να αξιοποιήσει τις δυνατότητες της τεχνητής νοημοσύνης.

«Κανένα από τα ευαίσθητα δεδομένα σας δεν εγκαταλείπει την υποδομή σας. Παραμένουν όλα αποκλειστικά στο εσωτερικό της», αναφέρει χαρακτηριστικά.

Γιατί οι ελβετικές τράπεζες ενδιαφέρονται για τα ανοιχτά μοντέλα

Η δυνατότητα ελέγχου της τοποθεσίας όπου αποθηκεύονται και επεξεργάζονται τα δεδομένα αποτελεί σημαντικό κριτήριο και για άλλους τομείς της οικονομίας.

Στην Ελβετία, για παράδειγμα, το ενδιαφέρον για τα ανοιχτά μοντέλα τεχνητής νοημοσύνης αυξάνεται μεταξύ οργανισμών που διαχειρίζονται εμπιστευτικές πληροφορίες.

Αυτό επισημαίνει ο Νίνο Αντούλοφ-Φαντούλιν, λέκτορας στο Ομοσπονδιακό Ινστιτούτο Τεχνολογίας της Ζυρίχης (ETH Zürich) και ειδικός στη χρήση μηχανικής μάθησης στον χρηματοπιστωτικό τομέα.

Όπως εξηγεί, τα χρηματοπιστωτικά ιδρύματα εμφανίζονται επιφυλακτικά απέναντι στην αποκλειστική χρήση κλειστών εμπορικών μοντέλων τεχνητής νοημοσύνης.

Η επιφυλακτικότητα αυτή συνδέεται κυρίως με τη μεταφορά δεδομένων σε εξωτερικούς διακομιστές, ιδιαίτερα όταν αυτοί βρίσκονται εκτός ελβετικής επικράτειας.

«Τα χρηματοπιστωτικά ιδρύματα φοβούνται να χρησιμοποιούν αποκλειστικά κλειστά μοντέλα και να στέλνουν ευαίσθητες πληροφορίες σε διακομιστές που βρίσκονται μακριά από την Ελβετία ή σε εξωτερικούς προμηθευτές», αναφέρει.

Όπως προσθέτει, οι οργανισμοί θέλουν να διατηρούν τον έλεγχο του σημείου όπου φιλοξενείται το μοντέλο τεχνητής νοημοσύνης.

Η δυνατότητα αυτή αποτελεί σημαντικό πλεονέκτημα των ανοιχτών συστημάτων, ειδικά για επιχειρήσεις και φορείς που δίνουν ιδιαίτερη βαρύτητα στην ασφάλεια και στην προστασία των δεδομένων τους.

Η άλλη όψη της ανοιχτής AI: Όταν τα εργαλεία άμυνας γίνονται απειλή

Παρά τα οφέλη που μπορούν να προσφέρουν, τα ανοιχτά μοντέλα τεχνητής νοημοσύνης δημιουργούν και νέους κινδύνους.

Η ίδια ευελιξία που επιτρέπει σε έναν οργανισμό να προσαρμόσει ένα μοντέλο στις ανάγκες του μπορεί να αξιοποιηθεί και από χρήστες που επιδιώκουν να καταργήσουν τα προστατευτικά του μέτρα.

Αυτό αποτελεί μία από τις βασικές ανησυχίες του Μαξίμ Στάουφερ.

Κατά την εκτίμησή του, η ανάπτυξη και διάδοση ανοιχτών μοντέλων προσφέρει σήμερα σημαντικά οφέλη. Ωστόσο, όσο οι δυνατότητές τους αυξάνονται, δεν αποκλείεται οι κίνδυνοι να γίνουν μεγαλύτεροι από τα πλεονεκτήματα.

Η κατάσταση θα μπορούσε να επιδεινωθεί εάν οι μεγάλες εταιρείες τεχνητής νοημοσύνης περιορίσουν περαιτέρω την πρόσβαση στα πλέον προηγμένα κλειστά συστήματά τους.

Σε αυτή την περίπτωση, τα ανοιχτά μοντέλα ενδέχεται να καλύψουν το κενό, προσφέροντας ισχυρές δυνατότητες σε πολύ μεγαλύτερο αριθμό χρηστών.

Ωστόσο, η ευρεία διάδοσή τους, σε συνδυασμό με τη δυνατότητα τροποποίησης ή αφαίρεσης των μηχανισμών προστασίας, θα μπορούσε να διευκολύνει και την κακόβουλη αξιοποίησή τους.

«Εάν υπάρχει μια εξαιρετικά ισχυρή δυνατότητα, αλλά κανείς δεν έχει πρόσβαση σε αυτήν και παραμένει υπό έλεγχο, τότε ο κίνδυνος είναι σχεδόν μηδενικός. Αν όμως έχουν όλοι πρόσβαση, τότε ο κίνδυνος πιθανότατα είναι μεγαλύτερος», υποστηρίζει ο Στάουφερ.

Ένα ακόμη ζήτημα που θέτει αφορά τη δυνατότητα ανάκλησης ενός μοντέλου εφόσον αποδειχθεί υπερβολικά ισχυρό ή επικίνδυνο.

Σήμερα, κάτι τέτοιο δεν είναι ουσιαστικά εφικτό όταν ένα ανοιχτό μοντέλο έχει ήδη διανεμηθεί και τα αρχεία του βρίσκονται στα χέρια πολλών ανεξάρτητων χρηστών.

Ο Στάουφερ θεωρεί ότι, καθώς οι δυνατότητες των ανοιχτών μοντέλων αυξάνονται, η ύπαρξη μηχανισμών ανάκλησης ή περιορισμού της διάδοσής τους θα μπορούσε να αποκτήσει ιδιαίτερη σημασία.

Τι δείχνουν οι έρευνες των Stanford, Princeton και βρετανικών αρχών

Οι προβληματισμοί για την ασφάλεια των ανοιχτών μοντέλων αποτυπώνονται και σε επιστημονικές μελέτες.

Έρευνα που πραγματοποιήθηκε από επιστήμονες των πανεπιστημίων Stanford και Princeton εξέτασε χαρακτηριστικά των ανοιχτών μοντέλων, όπως η ευρεία προσβασιμότητα, η δυνατότητα τροποποίησης και οι περιορισμένες δυνατότητες ελέγχου από τους αρχικούς δημιουργούς τους.

Ιδιαίτερη σημασία αποδίδεται στα λεγόμενα «βάρη» των μοντέλων, δηλαδή στις αριθμητικές παραμέτρους που διαμορφώνονται κατά τη διαδικασία εκπαίδευσής τους.

Όταν τα βάρη ενός μοντέλου διατίθενται ελεύθερα, οι αρχικοί προγραμματιστές δεν μπορούν να ελέγχουν πλήρως τον τρόπο με τον οποίο χρησιμοποιούνται από τρίτους ούτε να ανακαλούν αντίγραφα που έχουν ήδη διανεμηθεί.

Οι ερευνητές διαπιστώνουν ότι τα χαρακτηριστικά αυτά μπορούν να αυξήσουν τόσο τα δυνητικά οφέλη όσο και τους κινδύνους της ανοιχτής τεχνητής νοημοσύνης.

Παράλληλα, πρόσφατη μελέτη του Ινστιτούτου Ασφάλειας Τεχνητής Νοημοσύνης του Ηνωμένου Βασιλείου (UK AI Security Institute) εξέτασε τη χρησιμότητα διαφορετικών μοντέλων σε σενάρια απάτης και κυβερνοεγκληματικότητας.

Η έρευνα διαπίστωσε ότι ανοιχτά μοντέλα από τα οποία είχαν αφαιρεθεί οι μηχανισμοί ασφαλείας μπορούσαν να αποδειχθούν σημαντικά πιο χρήσιμα για εγκληματικές δραστηριότητες σε σύγκριση με συστήματα που διατηρούσαν τα προστατευτικά τους μέτρα.

Ωστόσο, υπάρχει μια ουσιαστική διευκρίνιση: καμία από τις δύο μελέτες δεν καταλήγει στο συμπέρασμα ότι τα ανοιχτά μοντέλα τεχνητής νοημοσύνης είναι από τη φύση τους πιο επικίνδυνα από τα κλειστά.

Τα ευρήματα αναδεικνύουν κυρίως τη σημασία του τρόπου διάθεσης, τροποποίησης και ελέγχου των δυνατοτήτων τους.

Διαφάνεια και ανεξάρτητη εποπτεία απέναντι στους κινδύνους

Ο Αντρέι Κοχαράβι αναγνωρίζει ότι η ανοιχτή τεχνητή νοημοσύνη δεν είναι απαλλαγμένη από κινδύνους.

«Τα μοντέλα AI είναι τεχνολογίες διπλής χρήσης. Μπορούν να αξιοποιηθούν τόσο για καλούς όσο και για κακούς σκοπούς», επισημαίνει.

Παράλληλα, υποστηρίζει ότι οι κίνδυνοι που συνδέονται με τα ανοιχτά μοντέλα μπορούν να αντιμετωπιστούν αποτελεσματικότερα ακριβώς λόγω της μεγαλύτερης διαφάνειας που χαρακτηρίζει την ανάπτυξη και τη λειτουργία τους.

Κατά την άποψή του, δεν είναι τυχαίο ότι τα πρόσφατα περιστατικά μη αναμενόμενης συμπεριφοράς αφορούσαν προηγμένα συστήματα που αναπτύχθηκαν σε κλειστά εργαστήρια.

«Το βασικό πρόβλημα είναι η έλλειψη εποπτείας των εξελιγμένων μοντέλων», τονίζει.

Ο ίδιος ζητεί ισχυρότερους μηχανισμούς ελέγχου, μεγαλύτερη διαφάνεια και σαφέστερους κανόνες για όλους τους φορείς ανάπτυξης τεχνητής νοημοσύνης, ανεξάρτητα από το εάν πρόκειται για δημόσια ή ιδιωτικά εργαστήρια και για ανοιχτά ή κλειστά μοντέλα.

«Αυτό που πραγματικά χρειαζόμαστε είναι έλεγχος και νομοθεσία που να διέπει τις δραστηριότητες όλων των δημιουργών AI», αναφέρει.

Η θέση αυτή μετατοπίζει τη συζήτηση από το δίλημμα μεταξύ ανοιχτής και κλειστής τεχνολογίας στο ευρύτερο ζήτημα της λογοδοσίας όσων αναπτύσσουν και διαθέτουν ολοένα ισχυρότερα συστήματα.

Η συγκέντρωση εξουσίας στη Silicon Valley προβληματίζει τους ειδικούς

Πέρα από τους τεχνικούς κινδύνους, η συζήτηση για την ασφάλεια της τεχνητής νοημοσύνης συνδέεται με ένα ακόμη σημαντικό ζήτημα: τη συγκέντρωση τεχνολογικής και οικονομικής ισχύος σε περιορισμένο αριθμό εταιρειών, κυρίως με έδρα τη Silicon Valley.

Για τη Νάθαλι Κλάουσερ, ειδικό σε ζητήματα ψηφιακής ηθικής, αυτή η ανισορροπία αποτελεί ακόμη μεγαλύτερη πηγή ανησυχίας από το εάν ένα μοντέλο τεχνητής νοημοσύνης είναι ανοιχτό ή κλειστό.

Κατά την άποψή της, οι μεγαλύτερες τεχνολογικές εταιρείες διαθέτουν δυσανάλογη επιρροή στη διαμόρφωση των πρακτικών και των προτύπων που διέπουν την ανάπτυξη της AI.

«Μια χούφτα μεγάλων τεχνολογικών εταιρειών καθορίζουν μόνες τους τους κανόνες για την τεχνητή νοημοσύνη, με σχεδόν ανύπαρκτη εξωτερική λογοδοσία», υποστηρίζει.

Η Κλάουσερ εκτιμά ότι η αντιμετώπιση του προβλήματος απαιτεί διεθνή ρυθμιστική παρέμβαση και όχι απλώς εθελοντικές δεσμεύσεις από τους ίδιους τους τεχνολογικούς ομίλους.

Ωστόσο, οι μέχρι σήμερα προσπάθειες διαμόρφωσης ενός κοινού πλαισίου για την τεχνητή νοημοσύνη χαρακτηρίζονται από διαφορετικές εθνικές προσεγγίσεις και αργούς ρυθμούς.

Στις Ηνωμένες Πολιτείες, ο πρόεδρος Ντόναλντ Τραμπ έχει ταχθεί κατά της υιοθέτησης μιας εκτεταμένης νομοθεσίας για την τεχνητή νοημοσύνη, προκρίνοντας την προσέγγιση της αυτορρύθμισης της βιομηχανίας.

Αντίστοιχα, η Ελβετία έχει εγκαταλείψει την προοπτική θέσπισης ενός ενιαίου και συνολικού νομοθετικού πλαισίου για την AI, επιλέγοντας περισσότερο στοχευμένες νομικές παρεμβάσεις ανά τομέα και μη δεσμευτικά μέτρα.

Η διαφορετική αυτή αντιμετώπιση του ζητήματος σε διεθνές επίπεδο δυσχεραίνει τη δημιουργία κοινών κανόνων για την εποπτεία των πλέον προηγμένων συστημάτων τεχνητής νοημοσύνης.

Η Σύνοδος της Γενεύης το 2027 και το αίτημα για διεθνείς κανόνες

Μέσα στο σημερινό γεωπολιτικό περιβάλλον, η Νάθαλι Κλάουσερ εκτιμά ότι η Ελβετία θα μπορούσε να αναλάβει σημαντικότερο ρόλο στις διεθνείς διαπραγματεύσεις για την ασφάλεια της τεχνητής νοημοσύνης.

Η χώρα διαθέτει ορισμένα ιδιαίτερα χαρακτηριστικά που, κατά την άποψή της, μπορούν να διευκολύνουν μια τέτοια πρωτοβουλία.

Η παραδοσιακή της ουδετερότητα, η παρουσία σημαντικών τεχνολογικών δραστηριοτήτων και η φήμη της για την αποτελεσματική λειτουργία των θεσμών της συνθέτουν ένα περιβάλλον που θα μπορούσε να ευνοήσει τη διεθνή συνεργασία.

Η Κλάουσερ υποστηρίζει ότι η Ελβετία έχει αυξανόμενη πολιτική ευθύνη να συμβάλει στη διαμόρφωση μιας διεθνούς συμφωνίας για τη διακυβέρνηση και την ασφάλεια της AI.

Στο επίκεντρο αυτής της προσπάθειας βρίσκεται η επικείμενη Σύνοδος Τεχνητής Νοημοσύνης της Γενεύης, τον Ιούνιο του 2027.

Βουλευτές από τις έξι κοινοβουλευτικές ομάδες της Ελβετίας θεωρούν ότι η διοργάνωση αποτελεί σημαντική ευκαιρία για την ανάληψη διπλωματικών πρωτοβουλιών.

Για τον λόγο αυτό έχουν καλέσει την ελβετική κυβέρνηση να αξιοποιήσει τη Σύνοδο προκειμένου να προωθήσει την υιοθέτηση ελάχιστων διεθνών προτύπων για την αντιμετώπιση των ακραίων κινδύνων της τεχνητής νοημοσύνης.

Η συζήτηση αφορά ένα από τα σημαντικότερα διλήμματα της νέας τεχνολογικής εποχής: πώς μπορούν οι κοινωνίες να αξιοποιήσουν τις δυνατότητες ολοένα πιο ισχυρών και αυτόνομων συστημάτων χωρίς να δημιουργήσουν ανεξέλεγκτους κινδύνους για την ασφάλεια, την προστασία των δεδομένων και τη λειτουργία κρίσιμων υποδομών.

Καθώς οι πράκτορες τεχνητής νοημοσύνης αποκτούν μεγαλύτερη αυτονομία και τα ανοιχτά μοντέλα γίνονται ολοένα ισχυρότερα, η ανάγκη για αποτελεσματική εποπτεία, διαφάνεια και διεθνώς αποδεκτούς κανόνες αναδεικνύεται σε κεντρική πρόκληση για κυβερνήσεις, επιχειρήσεις και τεχνολογικούς οργανισμούς.

Πηγή: newmoney.gr