Offcanvas
Offcanvas

Tech

Οι «νονοί του AI» προειδοποιούν για επερχόμενη επικίνδυνη «έκρηξη νοημοσύνης»

Οι «νονοί του AI» προειδοποιούν για επερχόμενη επικίνδυνη «έκρηξη νοημοσύνης»

Κάνουν λόγο για ταχύτατη και ανεξέλεγκτη επιτάχυνση της ανάπτυξης τεχνολογιών ΑI ζητώντας άμεση λήψη μέτρων.

Δύο από τους «νονούς» της τεχνολογίας τεχνητής νοημοσύνης προειδοποιούν τις κυβερνήσεις να προετοιμαστούν για μια «έκρηξη νοημοσύνης» (intelligence explosion) την οποία χαρακτηρίζουν ως μια εξέλιξη που θα μπορούσε να είναι η σημαντικότερη στην ιστορία της τεχνολογίας.

Μια έκθεση την οποία συνυπογράφουν ο νομπελίστας Τζέφρι Χίντον και ο Καναδός επιστήμονας πληροφορικής Γιόσουα Μπέντζιο οι οποίοι θεωρούνται «νονοί» της σύγχρονης AI λόγω της πρωτοποριακής δουλειάς τους στον τομέα καλούν τους πολιτικούς να δράσουν τώρα προτού η πρόοδος στην τεχνολογία καταστεί ανεξέλεγκτη.

Οι συγγραφείς της έκθεσης δηλώνουν ότι ανησυχούν για μια «έκρηξη νοημοσύνης», την οποία περιγράφουν ως «μια δραματική επιτάχυνση της προόδου της AI που προκαλείται από την ίδια την AI συμπιέζοντας εξελίξεις που υπό άλλες συνθήκες θα απαιτούσαν χρόνια σε διάστημα μηνών ή και λιγότερο».

Η έκθεση με τίτλο «Τι θα γινόταν αν η αυτοματοποίηση της έρευνας και ανάπτυξης της AI προκαλούσε μια έκρηξη νοημοσύνης;» έχει περισσότερους από 20 συγγραφείς είναι ο Τζακ Κλάρκ συνιδρυτής της Anthropic και ο Τζακούμπ Πατσόκι επικεφαλής επιστήμονας της OpenAI.

Οι ανησυχίες τους επικεντρώνονται στο ενδεχόμενο τα συστήματα AI να αποκτήσουν την ικανότητα να βελτιώνουν τον εαυτό τους χωρίς ανθρώπινη παρέμβαση — μια διαδικασία γνωστή ως «αναδρομική αυτοβελτίωση» (recursive self-improvement). Στη μελέτη αναφέρεται ευρύτερα ως αυτοματοποιημένη έρευνα και ανάπτυξη AI.

Η πηγή

Μόλις τα συστήματα AI αποκτήσουν ικανότητες επιπέδου ειδικού στην έρευνα και ανάπτυξη AI ένας και μόνο προγραμματιστής θα μπορούσε να αξιοποιήσει ένα εργατικό δυναμικό ισοδύναμο με «εκατομμύρια» κορυφαίους ανθρώπινους ερευνητές αναφέρει η μελέτη.

Οι συγγραφείς υποστηρίζουν ότι η αυτοματοποίηση της έρευνας και ανάπτυξης AI αποτελεί την πιθανότερη πηγή μιας «έκρηξης νοημοσύνης» επειδή οι AI ήδη συμβάλλουν στη βελτίωση της ίδιας τους της τεχνολογίας και τα βελτιωμένα συστήματα μπορούν να αναπτυχθούν γρήγορα μόλις δημιουργηθούν.

«Μια έκρηξη νοημοσύνης θα μπορούσε να είναι η σημαντικότερη τεχνολογική εξέλιξη στην ανθρώπινη ιστορία, συμπιέζοντας χρόνια προόδου σε διάστημα μηνών ή και λιγότερο, απειλώντας τον ανθρώπινο έλεγχο επί των συστημάτων AI και διαβρώνοντας σοβαρά τους μηχανισμούς ελέγχου της εξουσίας μεταξύ και εντός κρατών, εταιρειών και κυβερνητικών κλάδων» αναφέρει η μελέτη.

Καλώντας τις κυβερνήσεις να αναλάβουν γρήγορα δράση, οι συγγραφείς προειδοποιούν: «Μόλις ξεκινήσει μια έκρηξη νοημοσύνης, το περιθώριο για δράση μπορεί να κλείσει».

Προτείνουν τρεις βασικές προτεραιότητες πολιτικής:

*Να απαιτούνται διαφανείς αναφορές προόδου σχετικά με την έρευνα και ανάπτυξη AI, μεταξύ άλλων με την τοποθέτηση ανεξάρτητων ελεγκτών μέσα στις εταιρείες.
*Να βρεθούν τρόποι περιορισμού της ξέφρενης ανάπτυξης της AI.
*Να υπάρξει προετοιμασία για την προσαρμογή σε μια ενδεχόμενη έκρηξη νοημοσύνης.

Τόσο η Anthropic όσο και η OpenAI έχουν συμφωνήσει να επιτρέψουν σε ανεξάρτητους αξιολογητές να εξετάζουν τα μοντέλα τους, μετά τις προειδοποιήσεις ότι η ανάπτυξη της AI έχει φτάσει σε κρίσιμο σημείο όσον αφορά την ασφάλεια.

Η Anthropic υποστηρίζει ότι η AI παράγει πλέον το 80% του κώδικά της ενώ η OpenAI χρησιμοποιεί αυτόνομους πράκτορες AI (AI agents) σε τομείς όπως η εκπαίδευση νέων μοντέλων. «Τα προκαταρκτικά στοιχεία υποδεικνύουν ότι μια έκρηξη νοημοσύνης που καθοδηγείται από λογισμικό είναι πιθανή», αναφέρει η μελέτη, προσθέτοντας ότι κάτι τέτοιο θα οδηγούσε στην «εξαιρετικά ταχεία ανάπτυξη εξαιρετικά ικανών ή υπεράνθρωπων συστημάτων AI».

Πηγή: naftemporiki.gr

ΔΙΑΒΑΣΤΕ ΑΚΟΜΑ

AI

Τελευταία Νέα

Τελευταία νέα

Μ. Χατζημανώλη: Σταδιακά και με ρεαλισμό η πράσινη μετάβαση στη ναυτιλία

Μ. Χατζημανώλη: Σταδιακά και με ρεαλισμό η πράσινη μετάβαση στη ναυτιλία

Η Υφυπουργός Ναυτιλίας ζητά πρακτικά εφαρμόσιμες λύσεις που δεν θα υπονομεύουν την ανταγωνιστικότητα του κλάδου – Η στρατηγική…

Λ. Χριστοφόρου: Στις πρώτες θέσεις απορρόφησης ευρωπαϊκών κονδυλίων η Κύπρος

Λ. Χριστοφόρου: Στις πρώτες θέσεις απορρόφησης ευρωπαϊκών κονδυλίων η Κύπρος

Το μέλος του Ευρωπαϊκού Ελεγκτικού Συνεδρίου παρέδωσε την ετήσια έκθεση του Συνεδρίου στην πρόεδρο της Βουλής

ΕΕ προς Βρετανία: «Αποφασίστε αν θέλετε να γυρίσετε και ξανακάνουμε μακροπρόθεσμες συνομιλίες»

ΕΕ προς Βρετανία: «Αποφασίστε αν θέλετε να γυρίσετε και ξανακάνουμε μακροπρόθεσμες συνομιλίες»

Η Ευρώπη ζητά σαφήνεια από το Λονδίνο

Προειδοποίηση από Γκεοργκίεβα για τη μεγάλη παγίδα της AI – Υπερβολικές προσδοκίες και χρηματοδοτήσεις $1 τρισ.

Προειδοποίηση από Γκεοργκίεβα για τη μεγάλη παγίδα της AI – Υπερβολικές προσδοκίες και χρηματοδοτήσεις $1 τρισ.

Η επικεφαλής του Διεθνούς Νομισματικού Ταμείου προειδοποιεί για περαιτέρω διόρθωση στις αγορές λόγω AI, επισημαίνοντας κινδύνους…

Υπ. Εργασίας: Στην τελική ευθεία η συνταξιοδοτική μεταρρύθμιση – Επιφυλάξεις από ΔΕΟΚ

Υπ. Εργασίας: Στην τελική ευθεία η συνταξιοδοτική μεταρρύθμιση – Επιφυλάξεις από ΔΕΟΚ

Διαφορετικές προσεγγίσεις στο 19ο συνέδριο της ΔΕΟΚ, με την κυβέρνηση να προβάλλει τις θετικές πρόνοιες της μεταρρύθμισης…

Bundesbank: Επιτάχυνση της ανάπτυξης στη Γερμανία – Στο 1,3% η πρόβλεψη για το 2026

Bundesbank: Επιτάχυνση της ανάπτυξης στη Γερμανία – Στο 1,3% η πρόβλεψη για το 2026

Η επεκτατική δημοσιονομική πολιτική και η ανάκαμψη του παγκόσμιου εμπορίου στηρίζουν τη μεγαλύτερη οικονομία της Ευρώπης…

ΑΗΚ: Προτεραιότητα οι επενδύσεις σε φωτοβολταϊκά και αποθήκευση

ΑΗΚ: Προτεραιότητα οι επενδύσεις σε φωτοβολταϊκά και αποθήκευση

Σύμφωνα με τον πρόεδρο της ΑΗΚ οι μπαταρίες αποθήκευσης ενέργειας θα εγκατασταθούν μέχρι τον Σεπτέμβριο του 2027, συμπληρώνοντας,…

Alibaba: Άλμα 10% στα έσοδα, στα 40,7 δισ. δολάρια με ώθηση από AI

Alibaba: Άλμα 10% στα έσοδα, στα 40,7 δισ. δολάρια με ώθηση από AI

Ο κινεζικός γίγαντας ξεπέρασε τις προβλέψεις επενδύοντας δυναμικά στην AI — Οι αμερικανικοί περιορισμοί στα chips, η επέκταση…

CLOSE X
CLOSE X
CLOSE X