AI: Πάνω από 1.100 στελέχη του κλάδου ζητούν «φρένο» στα πιο ισχυρά μοντέλα – Προειδοποιούν για κούρσα εκτός ελέγχου

Η ανησυχία για την ταχύτητα με την οποία εξελίσσεται η Τεχνητή Νοημοσύνη περνά πλέον από τα επιστημονικά συνέδρια και τις θεωρητικές συζητήσεις στο εσωτερικό της ίδιας της βιομηχανίας.
 Περισσότεροι από 1.100 εργαζόμενοι και υψηλόβαθμα στελέχη κορυφαίων εταιρειών AI υπέγραψαν ανοικτή επιστολή προς την αμερικανική κυβέρνηση, ζητώντας να αναληφθεί διεθνής πρωτοβουλία που θα επιτρέψει, εφόσον χρειαστεί, την ελεγχόμενη επιβράδυνση της ανάπτυξης των πιο προηγμένων μοντέλων Τεχνητής Νοημοσύνης.

Μεταξύ των υπογραφόντων βρίσκεται ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, καθώς και ερευνητές και στελέχη από την OpenAI, τη Meta και την Google DeepMind.
 Η πρωτοβουλία έρχεται σε μια περίοδο κατά την οποία ο ανταγωνισμός μεταξύ των μεγάλων εταιρειών αλλά και των κρατών για την ανάπτυξη ολοένα ισχυρότερων μοντέλων AI έχει ενταθεί σημαντικά.
Η OpenAI και η Anthropic εξέφρασαν δημόσια τη στήριξή τους στην πρωτοβουλία μέσω αναρτήσεων στις πλατφόρμες κοινωνικής δικτύωσης, ενώ η επιστολή οργανώθηκε με τη συνδρομή οργανισμών που δραστηριοποιούνται στην ασφάλεια της Τεχνητής Νοημοσύνης.

Οι εξελίξεις που ενίσχυσαν τις ανησυχίες

Η νέα παρέμβαση δεν έγινε σε κενό αέρος. Προηγήθηκαν σειρά περιστατικών που ενίσχυσαν τις ανησυχίες για τις δυνατότητες των πιο εξελιγμένων μοντέλων.

Στις αρχές Ιουνίου, η Anthropic παρουσίασε το νέο μοντέλο Mythos και την έκδοση Fable 5, τα οποία θεωρούνται από τα ισχυρότερα συστήματα AI που έχουν αναπτυχθεί μέχρι σήμερα.

Η εταιρεία επέλεξε αρχικά ιδιαίτερα περιορισμένη διάθεση, υποστηρίζοντας ότι οι δυνατότητές τους απαιτούσαν αυξημένες δικλείδες ασφαλείας.

Λίγες ημέρες αργότερα, η αμερικανική κυβέρνηση επέβαλε προσωρινά περιορισμούς στην εξαγωγή και διάθεση των συγκεκριμένων μοντέλων, επικαλούμενη λόγους εθνικής ασφάλειας.

Η Anthropic αναγκάστηκε να διακόψει πλήρως την πρόσβαση, καθώς δεν μπορούσε να εφαρμόσει άμεσα τους νέους κανόνες. Μετά από διαπραγματεύσεις και πρόσθετα μέτρα ασφαλείας, οι περιορισμοί ήρθησαν στα τέλη Ιουνίου και η διάθεση των μοντέλων επανεκκίνησε την 1η Ιουλίου.

Παράλληλα, μέσα στον Ιούλιο προκάλεσαν έντονη συζήτηση τα περιστατικά κατά το οποία πειραματικά μοντέλα της OpenAI φέρονται να αυτονομήθηκαν και να παραβίασαν (χάκαραν) το απομονωμένο περιβάλλον δοκιμών (sandbox) αποκτώντας πρόσβαση στην πλατφόρμα Hugging Face, γεγονός που χρησιμοποιείται πλέον από πολλούς ως παράδειγμα των νέων κινδύνων που δημιουργούνται όσο αυξάνονται οι δυνατότητες των συστημάτων AI.

Ο φόβος της «αναδρομικής αυτοβελτίωσης»

Στην επιστολή τους, οι υπογράφοντες προειδοποιούν ότι η πρόοδος της Τεχνητής Νοημοσύνης ενδέχεται να επιταχυνθεί ταχύτερα από την ανθρώπινη δυνατότητα κατανόησης και ελέγχου των νέων συστημάτων.
«Υπάρχει κίνδυνος η ανάπτυξη των δυνατοτήτων των μοντέλων να επιταχύνεται πέρα από την ικανότητά μας να τα κατανοούμε και να τα ελέγχουμε», αναφέρουν χαρακτηριστικά, υποστηρίζοντας ότι η κοινωνία, οι κυβερνήσεις και η βιομηχανία ίσως χρειαστούν χρόνο για να αναπτύξουν νέους μηχανισμούς ασφαλείας και αποτελεσματικότερη εποπτεία.

Στο επίκεντρο των ανησυχιών βρίσκεται η λεγόμενη «αναδρομική αυτοβελτίωση» (recursive self-improvement), δηλαδή η δυνατότητα ενός συστήματος Τεχνητής Νοημοσύνης να συμβάλλει στη δημιουργία ολοένα ισχυρότερων διαδόχων του με περιορισμένη ή και χωρίς ανθρώπινη παρέμβαση.

Σύμφωνα με τους ερευνητές, οι κορυφαίες εταιρείες AI βρίσκονται πλέον πολύ κοντά στην αυτοματοποίηση της ίδιας της έρευνας για την ανάπτυξη νέων μοντέλων. Αν αυτό επιτευχθεί, ο ρυθμός εξέλιξης θα μπορούσε να αυξηθεί θεαματικά, δυσκολεύοντας σημαντικά τόσο τον έλεγχο όσο και την κατανόηση των νέων τεχνολογιών από τους ίδιους τους δημιουργούς τους.

Ζητούν διεθνή συντονισμό

Οι υπογράφοντες αναγνωρίζουν ότι καμία χώρα δεν μπορεί να επιβραδύνει μονομερώς την ανάπτυξη της AI, καθώς ο διεθνής ανταγωνισμός δημιουργεί ισχυρά κίνητρα για συνεχή επιτάχυνση.
Για τον λόγο αυτό καλούν την Ουάσινγκτον να ηγηθεί μιας διεθνούς πρωτοβουλίας με στόχο τη δημιουργία τεχνικών και θεσμικών εργαλείων που θα επιτρέπουν, όταν απαιτείται, τη συντονισμένη επιβράδυνση της ανάπτυξης των πλέον προηγμένων συστημάτων Τεχνητής Νοημοσύνης.

Η πρωτοβουλία αυτή έρχεται να προστεθεί στις προτάσεις που είχαν παρουσιάσει τον Ιούνιο, στο περιθώριο της Συνόδου Κορυφής της G7, ο Ντάριο Αμοντέι της Anthropic, ο Σαμ Άλτμαν της OpenAI και ο Ντέμις Χασάμπις της Google DeepMind, οι οποίοι είχαν εισηγηθεί τη δημιουργία μόνιμου διεθνούς φόρουμ για τον συντονισμό της πολιτικής γύρω από την Τεχνητή Νοημοσύνη.
Διαφωνίες μέσα στη βιομηχανία

Η νέα επιστολή, πάντως, δεν εκφράζει το σύνολο του κλάδου. Τις τελευταίες ημέρες περισσότερες από 20 μεγάλες τεχνολογικές εταιρείες, μεταξύ των οποίων οι Nvidia, Microsoft και Meta, υπέγραψαν διαφορετική ανοικτή επιστολή, με την οποία προειδοποιούν τις κυβερνήσεις να μην επιβάλουν πρόωρους περιορισμούς στα λεγόμενα «open-weight» μοντέλα, υποστηρίζοντας ότι η υπερβολική ρύθμιση θα μπορούσε να περιορίσει την καινοτομία και να ενισχύσει τον διεθνή ανταγωνισμό.

Η αντιπαράθεση αυτή αναδεικνύει το βαθύ ρήγμα που διαμορφώνεται πλέον στο οικοσύστημα της Τεχνητής Νοημοσύνης: από τη μία όσοι θεωρούν ότι απαιτείται άμεση ενίσχυση των μηχανισμών ασφαλείας πριν τα μοντέλα γίνουν ακόμη ισχυρότερα και από την άλλη όσοι φοβούνται ότι η υπερβολική κρατική παρέμβαση θα ανακόψει την τεχνολογική πρόοδο και θα μειώσει την ανταγωνιστικότητα της Δύσης απέναντι σε άλλες χώρες.
 

Πηγή: skai.gr

Διαβάστε τις Ειδήσεις σήμερα και ενημερωθείτε για τα πρόσφατα νέα.
Ακολουθήστε το Skai.gr στο Google News και μάθετε πρώτοι όλες τις ειδήσεις.