Offcanvas
Offcanvas
22 χώρες ζητούν διεθνές πλαίσιο ελέγχου της τεχνητής νοημοσύνης, με ανθρώπινη εποπτεία, διαφάνεια και κοινά πρότυπα ασφαλείας - Η πρωτοβουλία προτείνει μηχανισμό παρακολούθησης των ισχυρότερων μοντέλων AI, χωρίς περιορισμό της καινοτομίας
Μια νέα προσπάθεια για τη δημιουργία παγκόσμιων κανόνων γύρω από την ταχύτατη εξέλιξη της τεχνητής νοημοσύνης βρίσκεται στο επίκεντρο της διεθνούς συζήτησης, καθώς 22 χώρες συμφώνησαν σε κοινή διακήρυξη που θέτει ως βασική αρχή ότι οι κρίσιμες αποφάσεις πρέπει να παραμένουν υπό ανθρώπινη καθοδήγηση, εποπτεία και έλεγχο.
Η πρωτοβουλία, η οποία υιοθετήθηκε στο περιθώριο της Γενικής Συνέλευσης των Ηνωμένων Εθνών, αναγνωρίζει ότι η AI μπορεί να αποτελέσει καταλύτη για την επιστημονική έρευνα, την οικονομική ανάπτυξη και τη βελτίωση της καθημερινότητας. Παράλληλα, όμως, επισημαίνει ότι η ανάπτυξη ολοένα ισχυρότερων μοντέλων δημιουργεί νέες προκλήσεις για την ασφάλεια, εφόσον δεν συνοδεύεται από αποτελεσματικούς μηχανισμούς ελέγχου.
Ιδιαίτερη σημασία αποκτά το γεγονός ότι μεταξύ των χωρών που δεν υπέγραψαν τη διακήρυξη βρίσκονται οι Ηνωμένες Πολιτείες και η Κίνα, οι δύο μεγαλύτερες δυνάμεις στην ανάπτυξη προηγμένων συστημάτων τεχνητής νοημοσύνης. Η απουσία τους αναδεικνύει τη δυσκολία επίτευξης διεθνούς συμφωνίας σε έναν τομέα όπου η τεχνολογική υπεροχή συνδέεται πλέον άμεσα με την οικονομική και στρατηγική ισχύ.
Τα μέτρα που προτείνονται για τα προηγμένα μοντέλα AI
Η διακήρυξη καλεί τις εταιρείες που αναπτύσσουν συστήματα τεχνητής νοημοσύνης να υιοθετήσουν αυστηρότερα πρωτόκολλα ασφαλείας πριν από την κυκλοφορία νέων μοντέλων.
Μεταξύ των προτάσεων περιλαμβάνονται:
- υποχρεωτικές δοκιμές ασφαλείας πριν από τη διάθεση νέων συστημάτων,
- ανεξάρτητες αξιολογήσεις από εξωτερικούς φορείς,
- μεγαλύτερη πρόσβαση των αξιολογητών στα μοντέλα ώστε να εντοπίζονται πιθανοί κίνδυνοι,
- κοινά διεθνή πρότυπα για τη διαφάνεια και την ανταλλαγή πληροφοριών.
Παράλληλα, οι χώρες προτείνουν τη δημιουργία ενός διεθνούς μηχανισμού που θα παρακολουθεί την εξέλιξη των πιο προηγμένων μοντέλων AI και θα συμβάλλει στον συντονισμό των κυβερνήσεων σε περιπτώσεις σοβαρών περιστατικών ασφαλείας.
Η πρόταση δεν προβλέπει «πάγωμα» της ανάπτυξης της τεχνολογίας, αλλά επιχειρεί να δημιουργήσει ένα πλαίσιο μέσα στο οποίο η καινοτομία θα συνεχιστεί με μεγαλύτερη λογοδοσία.
Πρόταση για διεθνή οργανισμό εποπτείας
Σημαντικό μέρος της πρωτοβουλίας αφορά την πιθανότητα δημιουργίας ενός νέου διεθνούς θεσμού για την εποπτεία της AI, στα πρότυπα οργανισμών που λειτουργούν σε άλλους κρίσιμους τεχνολογικούς ή ενεργειακούς τομείς.
Ο πρόεδρος της Φινλανδίας Αλεξάντερ Στουμπ, ένας από τους βασικούς υποστηρικτές της προσπάθειας, έχει αναφέρει ότι μια τέτοια δομή θα μπορούσε να λειτουργήσει ως μηχανισμός συντονισμού μεταξύ κρατών, χωρίς όμως να προκαθοριστεί από τώρα η τελική μορφή της.
Στόχος είναι να δημιουργηθεί ένα πλαίσιο που θα μπορεί να συγκεντρώνει δεδομένα, να αξιολογεί κινδύνους και να ενισχύει τη συνεργασία μεταξύ κυβερνήσεων και τεχνολογικών εταιρειών.
Ο πρωθυπουργός της Νορβηγίας Γιόνας Γκαρ Στέρε, που συμμετείχε επίσης στην πρωτοβουλία, υποστήριξε ότι μια ευρύτερη υιοθέτηση από διεθνείς οργανισμούς όπως η G7 και η G20 θα μπορούσε να ενισχύσει την αποτελεσματικότητα των κανόνων.
Οι κίνδυνοι που προκαλούν ανησυχία
Οι υποστηρικτές της διακήρυξης εστιάζουν σε τρεις βασικές κατηγορίες κινδύνων που συνδέονται με την ανεξέλεγκτη ανάπτυξη προηγμένων συστημάτων AI.
Η πρώτη αφορά τη δυνατότητα χρήσης της τεχνολογίας για τη δημιουργία βιολογικών απειλών. Η δεύτερη σχετίζεται με κυβερνοεπιθέσεις που θα μπορούσαν να πραγματοποιούνται από αυτόνομα συστήματα. Η τρίτη αφορά τη χρήση ρομποτικών συστημάτων σε επιχειρήσεις με πιθανές θανατηφόρες συνέπειες.
Παρά τις ανησυχίες αυτές, οι χώρες που στηρίζουν τη διακήρυξη υπογραμμίζουν ότι η τεχνητή νοημοσύνη μπορεί να προσφέρει σημαντικά οφέλη, από την αντιμετώπιση ασθενειών και την αύξηση της παραγωγικότητας έως τη βελτίωση της πρόσβασης στη γνώση.
Η δύσκολη ισορροπία ανάμεσα στην καινοτομία και την ασφάλεια
Η διεθνής συζήτηση γύρω από την AI μετακινείται πλέον από το δίλημμα «ανάπτυξη ή περιορισμός» σε ένα πιο σύνθετο ερώτημα: πώς μπορεί η τεχνολογική πρόοδος να συνεχιστεί χωρίς να δημιουργήσει ανεξέλεγκτους κινδύνους.
Η διακήρυξη των 22 χωρών επιχειρεί να θέσει τις βάσεις για ένα κοινό πλαίσιο με έμφαση στη διαφάνεια, την υπευθυνότητα και τον τελικό ρόλο του ανθρώπου στις κρίσιμες αποφάσεις.
Το μεγάλο στοίχημα, ωστόσο, παραμένει η συμμετοχή των μεγαλύτερων τεχνολογικών δυνάμεων, καθώς χωρίς τη συνεργασία των χωρών που βρίσκονται στην κορυφή της κούρσας της τεχνητής νοημοσύνης, η δημιουργία ενός πραγματικά παγκόσμιου συστήματος εποπτείας παραμένει δύσκολη.
Πηγή: newmoney.gr
ΔΙΑΒΑΣΤΕ ΑΚΟΜΑ
