Οι επικεφαλής των τεχνολογικών κολοσσών διαφωνούν για το μέλλον της τεχνητής νοημοσύνης - Άλλοι ζητούν αυστηρότερη εποπτεία και πιο αργή ανάπτυξη, ενώ άλλοι υποστηρίζουν την καινοτομία με ανεξάρτητους ελέγχους ασφαλείας

Πριν από λίγα χρόνια, η συζήτηση για τους κινδύνους της τεχνητής νοημοσύνης περιοριζόταν κυρίως σε κύκλους ερευνητών που προειδοποιούσαν ότι η ανεξέλεγκτη εξέλιξη των πιο ισχυρών μοντέλων θα μπορούσε να δημιουργήσει απρόβλεπτες συνέπειες. Σήμερα, η προειδοποίηση αυτή έχει μεταφερθεί στο κέντρο της παγκόσμιας τεχνολογικής βιομηχανίας, με τους ίδιους τους ανθρώπους που αναπτύσσουν την AI να ζητούν νέους μηχανισμούς ελέγχου.

Η αφετηρία της νέας φάσης της συζήτησης ήρθε από στελέχη και ερευνητές εταιρειών αιχμής, με χαρακτηριστικό παράδειγμα την Anthropic, όπου εργαζόμενοι εξέφρασαν δημόσια ανησυχίες ότι τα προηγμένα συστήματα μπορεί να εξελιχθούν ταχύτερα από τις δικλίδες ασφαλείας. Ο διευθύνων σύμβουλος της εταιρείας Ντάριο Αμοντέι υποστήριξε ότι η ανάπτυξη των πιο ισχυρών μοντέλων χρειάζεται μεγαλύτερο συντονισμό, ανεξάρτητες αξιολογήσεις και κοινά πρότυπα ασφαλείας.

Η παρέμβαση αυτή άνοιξε έναν νέο κύκλο αντιπαράθεσης που κορυφώθηκε αυτή την εβδομάδα, καθώς κορυφαία ονόματα της τεχνολογίας βρέθηκαν σε διαφορετικές πλευρές της συζήτησης. Από τον Έλον Μασκ και τον Σαμ Άλτμαν, που τάσσονται υπέρ αυστηρότερων ελέγχων και αξιολογήσεων, έως τον Τζένσεν Χουάνγκ της Nvidia και τον Μαρκ Ζούκερμπεργκ της Meta, που απορρίπτουν την ιδέα μιας γενικευμένης επιβράδυνσης και προκρίνουν διαφορετικές μορφές εποπτείας.

Στο επίκεντρο πλέον βρίσκεται ένα δύσκολο ερώτημα για ολόκληρη τη βιομηχανία: μπορεί η τεχνητή νοημοσύνη να συνεχίσει να εξελίσσεται με την ίδια ταχύτητα χωρίς να προηγηθούν οι μηχανισμοί ελέγχου; Οι επικεφαλής των μεγαλύτερων εταιρειών AI επιχειρούν να ισορροπήσουν ανάμεσα στην ανάγκη για καινοτομία και στην πίεση να διασφαλιστεί ότι η τεχνολογία παραμένει υπό ανθρώπινο έλεγχο.

Από τη μία πλευρά, οι επικεφαλής των μεγαλύτερων εταιρειών τεχνολογίας θέλουν να αναγνωρίσουν δημόσια τους πιθανούς κινδύνους της τεχνητής νοημοσύνης και να προτείνουν μέτρα προστασίας, ακόμη και επιβράδυνση της ανάπτυξής της. Από την άλλη, οι ίδιες εταιρείες έχουν επενδύσει εκατοντάδες δισεκατομμύρια δολάρια στον κλάδο και προσπαθούν να καθησυχάσουν επενδυτές και πελάτες χωρίς να δημιουργήσουν αβεβαιότητα γύρω από την αγορά.

Η δημόσια αντιπαράθεση εντάθηκε μετά την αποχώρηση του ερευνητή της Anthropic, Τζέικομπ Κόξον, ο οποίος προειδοποίησε ότι οι επιστήμονες που αναπτύσσουν προηγμένα μοντέλα AI «πιστεύουν ειλικρινά ότι θα μπορούσαν να μας σκοτώσουν όλους μέχρι το τέλος της δεκαετίας».

Ανάλογες ανησυχίες εξέφρασε και ο Έβαν Χούμπινγκερ, επικεφαλής επιστήμονας ευθυγράμμισης (alignment science) της Anthropic, ο οποίος ανέφερε ότι θεωρεί πως υπάρχει πιθανότητα άνω του 10% η τεχνολογία να οδηγήσει σε εξαφάνιση της ανθρωπότητας μέσα στην επόμενη δεκαετία.

Η διαφωνία για τους κανόνες ασφαλείας

Στη συζήτηση παρενέβη και ο Πρόεδρος Ντόναλντ Τραμπ, απορρίπτοντας την ανάγκη για νέους περιορισμούς στην τεχνητή νοημοσύνη και ασκώντας κριτική στον διευθύνοντα σύμβουλο της Anthropic, Ντάριο Αμοντέι.

Ο Αμοντέι είχε υποστηρίξει ότι οι δυνατότητες της AI εξελίσσονται ταχύτερα από τα μέτρα ασφαλείας και ζήτησε ανεξάρτητη εποπτεία, καθώς και μεγαλύτερο συντονισμό μεταξύ εταιρειών και κυβερνήσεων.

Αντίθετα, ο διευθύνων σύμβουλος της Nvidia, Τζένσεν Χουάνγκ, τάχθηκε κατά της θέσπισης νέων κανονισμών, υποστηρίζοντας ότι οι δυνάμεις της αγοράς μπορούν να καθοδηγήσουν τις εταιρείες προς ασφαλέστερη καινοτομία.

Ο ιδρυτής της Meta, Μαρκ Ζάκερμπεργκ, υποστήριξε μια διαφορετική προσέγγιση, προκρίνοντας τη χρήση ανεξάρτητων αξιολογητών και συμβούλων αντί για γενικευμένη επιβράδυνση της ανάπτυξης της AI.

Τι λένε οι επικεφαλής των μεγάλων εταιρειών AI

Ο Έλον Μασκ των SpaceX / xAI  τάχθηκε υπέρ της άποψης του Ντάριο Αμοντέι, γράφοντας σε ανάρτησή του ότι «ο Ντάριο έχει δίκιο».

Ο επικεφαλής της OpenAI, Σαμ Άλτμαν, δήλωσε ότι συμφωνεί πως χρειάζεται «έλεγχος του ρυθμού ανάπτυξης των πιο προηγμένων μοντέλων AI».

Παράλληλα, χαρακτήρισε θετική ιδέα την ύπαρξη ανεξάρτητων αξιολογητών με πρόσβαση αντίστοιχη με αυτή των εργαζομένων, σημειώνοντας ότι η OpenAI εξετάζει αντίστοιχες πρακτικές.

Ο διευθύνων σύμβουλος της Cohere, Άινταν Γκόμεζ, υποστήριξε ότι ένας μηχανισμός που θα επιβραδύνει όλους τους παίκτες χωρίς να αλλάζει τα υφιστάμενα ανταγωνιστικά πλεονεκτήματα δεν κάνει την τεχνητή νοημοσύνη ασφαλέστερη.

Όπως ανέφερε, οι δικλίδες ασφαλείας είναι απαραίτητες, αλλά η ανάπτυξη πρέπει να συνεχιστεί με ρυθμό που μπορεί να ακολουθήσει η κοινωνία.

Ο διευθύνων σύμβουλος της Microsoft, Σάτια Ναντέλα, ανέφερε ότι κάθε προσπάθεια για την επίτευξη υπερνοημοσύνης-superintelligence πρέπει να βασίζεται στην αρχή ότι η τεχνητή νοημοσύνη πρέπει να υπηρετεί την ανθρωπότητα και να παραμένει υπό ανθρώπινο έλεγχο.

Ο επικεφαλής της Hugging Face, Κλεμάν Ντελάνγκ, τόνισε ότι η ευθυγράμμιση της AI με τις ανθρώπινες αξίες είναι κρίσιμη και δεν μπορεί να αντιμετωπιστεί μόνο από λίγα κλειστά εργαστήρια ανάπτυξης προηγμένων μοντέλων.

Παρουσίασε την Open Alignment Initiative της εταιρείας και δήλωσε ότι η Hugging Face επιδιώκει να συμμετάσχει σε προγράμματα ανεξάρτητης αξιολόγησης.

Ο επικεφαλής της CrowdStrike, Τζορτζ Κερτζ, υποστήριξε ότι η επιβράδυνση της ανάπτυξης δεν αντιμετωπίζει τις απειλές που ήδη υπάρχουν.

Όπως ανέφερε, η προτεραιότητα πρέπει να είναι η δημιουργία ισχυρότερων μηχανισμών κυβερνοασφάλειας, ανεξάρτητων δοκιμών και ανθρώπινης εποπτείας στις αποφάσεις υψηλού αντίκτυπου.

Nvidia και Meta απορρίπτουν την επιβράδυνση

Ο Τζένσεν Χουάνγκ της Nvidia απέρριψε την ανάγκη για νέους νόμους ή κανονισμούς, υποστηρίζοντας ότι οι εταιρείες θα συνεχίσουν να αυτορυθμίζονται μέσα από τις απαιτήσεις της αγοράς.

«Δεν χρειαζόμαστε νέους νόμους, δεν χρειαζόμαστε νέους κανονισμούς», ανέφερε, σημειώνοντας ότι οι εταιρείες προχωρούν με βάση το αν οι εφαρμογές τους είναι αποδεκτές από την αγορά.

Ο Μαρκ Ζάκερμπεργκ της Meta υποστήριξε ότι η συνεργασία με ανεξάρτητους αξιολογητές αποτελεί βέλτιστη πρακτική για τον κλάδο.

Παράλληλα, ανέφερε ότι η Meta καθυστέρησε την κυκλοφορία του εργαλείου Muse AI για λόγους ασφάλειας και προστασίας, χωρίς όμως να ζητήσει από άλλες εταιρείες να ακολουθήσουν την ίδια πορεία.

Ο Ζάκερμπεργκ έχει υποστηρίξει ότι η τεχνητή νοημοσύνη είναι ασφαλέστερη όταν η πρόσβαση σε αυτήν διαχέεται ευρύτερα και δεν συγκεντρώνεται σε λίγες εταιρείες.

Η κούρσα της τεχνητής νοημοσύνης περνά πλέον από το εργαστήριο στην πολιτική και οικονομική αρένα. Οι ηγέτες της τεχνολογίας συμφωνούν ότι η ασφάλεια αποτελεί κρίσιμο ζήτημα, όμως διαφωνούν στον τρόπο αντιμετώπισής της: από αυστηρότερους ελέγχους έως αυτορρύθμιση και συνέχιση της καινοτομίας.

Πηγή: newmoney.gr

ΔΙΑΒΑΣΤΕ ΑΚΟΜΑ

Αγορές: Ηρεμία πριν τη «μεγάλη» απόφαση της Fed – Μετοχές και ομόλογα ανακάμπτουν, φρένο στο πετρέλαιο