Ο διευθύνων σύμβουλος της OpenAI αφήνει για πρώτη φορά ανοιχτό το ενδεχόμενο επιβράδυνσης της ανάπτυξης προηγμένων συστημάτων τεχνητής νοημοσύνης μετά τις ηχηρές παραιτήσεις και προειδοποιήσεις ερευνητών για τους κινδύνους ασφάλειας και την ανεξέλεγκτη εξέλιξη της τεχνολογίας

Η OpenAI εξετάζει το ενδεχόμενο να επιβραδύνει την ανάπτυξη των πιο προηγμένων συστημάτων τεχνητής νοημοσύνης, ενώ ο διευθύνων σύμβουλος της εταιρείας Σαμ Άλτμαν επιδιώκει να ακολουθήσουν την ίδια πορεία και άλλες εταιρείες του κλάδου.

Κατά τη διάρκεια εσωτερικής συνάντησης με το σύνολο των εργαζομένων αυτή την εβδομάδα, ο Άλτμαν ανέφερε ότι η OpenAI θα μπορούσε ενδεχομένως να επιβραδύνει τον ρυθμό ανάπτυξης των μοντέλων τεχνητής νοημοσύνης, πιθανώς σε συντονισμό με αρκετά ακόμη εργαστήρια AI. Ωστόσο, αναγνώρισε ότι ορισμένες εταιρείες ενδέχεται να μην συμφωνήσουν σε μια τέτοια προσέγγιση, σύμφωνα με πρόσωπα που γνωρίζουν το θέμα και ζήτησαν να μην κατονομαστούν, καθώς οι πληροφορίες αφορούν ιδιωτικές συζητήσεις.

Το τελευταίο διάστημα, εργαζόμενοι σε κορυφαίες εταιρείες τεχνητής νοημοσύνης έχουν εκφράσει δημόσια ανησυχίες για τους αυξανόμενους κινδύνους που συνδέονται με τα προηγμένα συστήματα AI, ενισχύοντας τον προβληματισμό στο εσωτερικό αυτών των οργανισμών.

Τόσο η OpenAI όσο και η ανταγωνίστριά της Anthropic έχουν καταθέσει εμπιστευτικά έγγραφα για πιθανή εισαγωγή τους στο χρηματιστήριο νωρίτερα φέτος.

Η OpenAI αρνήθηκε να σχολιάσει τις πληροφορίες.

Ο κορυφαίος επιστήμονας της εταιρείας, Γιάκουμπ Πατσόκι, είχε πρόσφατα δημοσιεύσει κείμενο στο οποίο προειδοποιούσε για τους κινδύνους της τεχνητής νοημοσύνης και υποστήριζε ότι οι εταιρείες AI θα πρέπει να «συντονίζονται ώστε να επιβραδύνουν την ανάπτυξη στο μέλλον, όταν αυτό είναι απαραίτητο».

Ο Πατσόκι πρόσθεσε ότι ελπίζει οι «εθελοντικές επιβραδύνσεις» να γίνουν συνηθισμένη πρακτική έως ότου καθοριστούν κοινά πρότυπα ασφάλειας.

Η OpenAI έχει αναφέρει ότι έχει ήδη επιβραδύνει ορισμένα τμήματα της ανάπτυξης μοντέλων της και έχει διακόψει προσωρινά συγκεκριμένες εσωτερικές διαδικασίες εκπαίδευσης τεχνητής νοημοσύνης λόγω ανησυχιών ασφαλείας.

Τον Ιούλιο, ο Άλτμαν είχε επίσης δηλώσει ότι είχε συζητήσει με αξιωματούχους του Λευκού Οίκου για την «ανάγκη» να υπάρξει πιο ελεγχόμενος ρυθμός ανάπτυξης της τεχνολογίας.

Αυξάνονται οι φόβοι για την Superintelligent AI

Οι ανησυχίες εντάθηκαν την Τρίτη, όταν ο Τζέικομπ Κόξον, ερευνητής τεχνητής νοημοσύνης, παραιτήθηκε από τη θέση του και κατηγόρησε δύο πρώην εργοδότες του — την Anthropic και την OpenAI — ότι «παίζουν με τις ζωές μας» επιδιώκοντας την ανάπτυξη υπερευφυούς τεχνητής νοημοσύνης.

Ο Κόξον ανέφερε σε ανάρτησή του στα μέσα κοινωνικής δικτύωσης ότι οι άνθρωποι που αναπτύσσουν την τεχνητή νοημοσύνη πιστεύουν πως η τεχνολογία θα μπορούσε να «μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας».

Οι δηλώσεις του έγιναν viral, συγκεντρώνοντας περισσότερες από 150 εκατ. προβολές και προκαλώντας την προσοχή κορυφαίων πολιτικών και δημόσιων προσώπων.

Ο Έβαν Χάμπινγκερ, ερευνητής που είχε εργαστεί στην Anthropic, σχολίασε ότι «ο Τζέικομπ έχει δίκιο», υποστηρίζοντας ότι οι κίνδυνοι είναι πραγματικοί και πως η εταιρεία δεν διαθέτει ακόμη σαφές σχέδιο για την αντιμετώπιση των προβλημάτων ευθυγράμμισης της υπερευφυούς τεχνητής νοημοσύνης.

Την Πέμπτη, δύο ακόμη ερευνητές που αποχώρησαν πρόσφατα από την Anthropic και το τμήμα DeepMind της Google δημοσιοποίησαν ανησυχίες για τον γρήγορο ρυθμό ανάπτυξης της τεχνολογίας, υποστηρίζοντας ότι οι εταιρείες AI πρέπει να είναι πιο διαφανείς σχετικά με τους κινδύνους.

Παράλληλα, στα τέλη Ιουλίου, περισσότεροι από 1.000 εργαζόμενοι από όλες τις μεγάλες εταιρείες τεχνητής νοημοσύνης υπέγραψαν αίτημα για τη δημιουργία μηχανισμού που θα επιβραδύνει την πρόοδο στον κλάδο.

Αρκετοί εργαζόμενοι που ασχολούνται με την ασφάλεια της τεχνητής νοημοσύνης έχουν παραιτηθεί από μεγάλες εταιρείες τεχνολογίας τους τελευταίους μήνες.

Κυβερνοασφάλεια και φόβοι για απώλεια ελέγχου

Αν και πολλοί επικεφαλής και εργαζόμενοι στον κλάδο προειδοποιούν εδώ και χρόνια για τους υπαρξιακούς κινδύνους της τεχνητής νοημοσύνης, οι ανησυχίες έχουν ενισχυθεί μετά τις αποκαλύψεις ότι AI agents της OpenAI συνεργάστηκαν μεταξύ τους για να παραβιάσουν μηχανισμούς περιορισμού και να εισέλθουν σε ιστοσελίδα τρίτου μέρους.

Το περιστατικό, όπως και άλλα παρόμοια συμβάντα ασφαλείας, ενίσχυσε τους φόβους για τις κυβερνοδυνατότητες των νέων μοντέλων τεχνητής νοημοσύνης και για τις αδυναμίες των εταιρειών να εμποδίσουν τα συστήματα να λειτουργήσουν ανεξέλεγκτα.

Η συζήτηση για την ταχύτητα ανάπτυξης της AI περνά πλέον από το επίπεδο των εσωτερικών προβληματισμών σε μια ευρύτερη δημόσια αντιπαράθεση, καθώς οι μεγαλύτερες εταιρείες του κλάδου καλούνται να ισορροπήσουν ανάμεσα στον ανταγωνισμό για την τεχνολογική πρωτοπορία και στις αυξανόμενες απαιτήσεις για ασφάλεια και έλεγχο.

Πηγή: newmoney.gr

ΔΙΑΒΑΣΤΕ ΑΚΟΜΑ

Τα data centers ταράζουν τις ΗΠΑ: Αντιπαράθεση για κόστος ρεύματος, θέσεις εργασίας και περιβάλλον