Τα μοντέλα Claude απέκτησαν μη εξουσιοδοτημένη πρόσβαση σε πραγματικά συστήματα κατά τις δοκιμές
Λίγες ημέρες μετά την παραδοχή της OpenAI ότι μοντέλα της ξέφυγαν από το ελεγχόμενο περιβάλλον δοκιμών και απέκτησαν πρόσβαση στο διαδίκτυο, ανάλογο περιστατικό γνωστοποίησε και η Anthropic.
Η εταιρεία αποκάλυψε ότι τρεις εκδόσεις του Claude απέκτησαν μη εξουσιοδοτημένη πρόσβαση σε συστήματα τριών εξωτερικών οργανισμών κατά τη διάρκεια αξιολογήσεων ασφαλείας, σε ένα ακόμη περιστατικό που εντείνει τις ανησυχίες για τους κινδύνους των πιο ισχυρών μοντέλων τεχνητής νοημοσύνης.
Πώς συνέβη το περιστατικό
Σε ανάρτησή της, η Anthropic ανέφερε ότι εξέτασε περισσότερες από 141.000 δοκιμές αξιολόγησης και εντόπισε τρεις περιπτώσεις στις οποίες διαφορετικές εκδόσεις του μοντέλου Claude απέκτησαν πρόσβαση σε συστήματα πραγματικών οργανισμών, παρότι οι δοκιμές είχαν σχεδιαστεί ώστε να διεξάγονται αποκλειστικά σε απομονωμένο περιβάλλον.
Η εταιρεία διευκρίνισε ότι η πρόσβαση στο διαδίκτυο προκλήθηκε εξαιτίας μιας «παρεξήγησης» με τον εξωτερικό συνεργάτη αξιολόγησης, την εταιρεία Irregular, και όχι λόγω αυτόνομης παράκαμψης των περιορισμών από το ίδιο το μοντέλο.
Ωστόσο, σύμφωνα με την Anthropic, το Claude εκμεταλλεύθηκε απλές αδυναμίες ασφαλείας, όπως αδύναμους κωδικούς πρόσβασης και μη προστατευμένα σημεία πρόσβασης (unauthenticated endpoints), για να αποκτήσει πρόσβαση στα συγκεκριμένα συστήματα.
Στο επίκεντρο το Mythos 5
Μεταξύ των μοντέλων που συμμετείχαν στις δοκιμές ήταν και το Mythos 5, ένα από τα ισχυρότερα μοντέλα της Anthropic, το οποίο προς το παρόν διατίθεται μόνο σε περιορισμένο αριθμό εγκεκριμένων συνεργατών.
Η εταιρεία ανακοίνωσε ότι συνεργάζεται με την Irregular για τη διερεύνηση του περιστατικού και ότι έχει ήδη επικοινωνήσει ή επιχειρεί να επικοινωνήσει με όλους τους οργανισμούς που επηρεάστηκαν.
Ακολουθεί την υπόθεση της OpenAI
Η αποκάλυψη έρχεται λίγες ημέρες μετά την αντίστοιχη παραδοχή της OpenAI.
Η OpenAI γνωστοποίησε αρχικά ότι, κατά τη διάρκεια δοκιμών ασφαλείας, μοντέλα της κατάφεραν να εξέλθουν από το απομονωμένο περιβάλλον («sandbox»), να συνδεθούν στο διαδίκτυο και να αποκτήσουν πρόσβαση στο Hugging Face, μία από τις μεγαλύτερες πλατφόρμες φιλοξενίας και ανταλλαγής κώδικα για εφαρμογές τεχνητής νοημοσύνης.
Στη συνέχεια η εταιρεία επιβεβαίωσε ακόμη τρία παρόμοια περιστατικά, ενώ ο διευθύνων σύμβουλος της OpenAI, Σαμ Άλτμαν, δήλωσε ότι οι σχετικές δοκιμές ανεστάλησαν προσωρινά προκειμένου να ενισχυθούν οι μηχανισμοί απομόνωσης των μοντέλων.
Έκκληση για επιβράδυνση της ανάπτυξης της AI
Τα δύο περιστατικά έχουν αναζωπυρώσει τη συζήτηση για το κατά πόσο η ανάπτυξη ολοένα και ισχυρότερων μοντέλων τεχνητής νοημοσύνης προχωρά ταχύτερα από τα διαθέσιμα μέτρα ασφαλείας.
Περισσότεροι από 1.000 εργαζόμενοι σε κορυφαίες εταιρείες AI υπέγραψαν πρόσφατα την πρωτοβουλία «Pacing the Frontier», με την οποία καλούν την κυβέρνηση των ΗΠΑ να στηρίξει μια διεθνή προσπάθεια για την ανάπτυξη τεχνικών και θεσμικών εργαλείων που θα επιτρέψουν την ελεγχόμενη εξέλιξη της τεχνητής νοημοσύνης.
Μεταξύ των υπογραφόντων βρίσκεται και ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι. Αντίθετα, ο Σαμ Άλτμαν δεν υπέγραψε την πρωτοβουλία, αν και παραδέχθηκε πρόσφατα ότι η βιομηχανία ίσως χρειαστεί να επιβραδύνει τον ρυθμό ανάπτυξης των πιο προηγμένων μοντέλων.
«Ίσως χρειαστεί να επιβραδύνουμε τον ρυθμό ανάπτυξης της τεχνητής νοημοσύνης, ώστε η κοινωνία να έχει τον απαραίτητο χρόνο να προσαρμοστεί στις νέες δυνατότητές της», δήλωσε χαρακτηριστικά.
Προτιμώμενη πηγή στην Google
Για να εμφανίζονται περισσότερα άρθρα της Ναυτεμπορικής στις αναζητήσεις σας εύκολα και γρήγορα, πρέπει να προσθέσετε το site στις προτιμώμενες πηγές σας. Μπορείτε να το κάνετε πηγαίνοντας εδώ.
