Μοντέλο AI της Meta παραβίασε συστήματα εταιρείας κατά τη διάρκεια δοκιμών

Η Meta προστίθεται στη λίστα των εταιρειών των οποίων οι πράκτορες τεχνητής νοημοσύνης ξεφεύγουν από τον έλεγχό τους. Ένα μοντέλο AI της μητρικής εταιρείας του Facebook και του Instagram εισέβαλε στα συστήματα μιας άλλης εταιρείας κατά τη διάρκεια δοκιμών κυβερνοασφάλειας, όπως επιβεβαίωσε εκπρόσωπος του τεχνολογικού κολοσσού.

Η Meta ανακοίνωσε ότι η παραβίαση οφείλεται σε ένα ακούσιο σφάλμα κατά τη διάρκεια των δοκιμών του μοντέλου, περιστατικό παρόμοιο με εκείνα που είχαν γνωστοποιηθεί πρόσφατα από τις OpenAI και Anthropic.

«Μια λανθασμένη ρύθμιση από την Irregular, μια ανεξάρτητη εταιρεία δοκιμών που χρησιμοποιεί η Meta, επέτρεψε κατά λάθος σε ένα από τα μοντέλα μας να αποκτήσει πρόσβαση στο διαδίκτυο κατά τη διάρκεια της αξιολόγησης», δήλωσε ο εκπρόσωπος της Meta.

Το μοντέλο Muse Spark της Meta «εκμεταλλεύτηκε ένα κενό ασφαλείας» σε άλλη εταιρεία «με τρόπο παρόμοιο με περιπτώσεις που είχαν αναφερθεί στο παρελθόν για άλλες εταιρείες», επισημαίνεται στην ανακοίνωση.

Σε δήλωσή της, η Irregular ανέφερε ότι το περιστατικό «αποτελεί ακριβώς το ίδιο πρόβλημα στο περιβάλλον αξιολόγησης» με αυτό που αποκάλυψε η Anthropic την περασμένη εβδομάδα, το οποίο επέτρεψε στα μοντέλα της να αποκτήσουν πρόσβαση στο διαδίκτυο και στη συνέχεια να παραβιάσουν τα συστήματα τριών διαφορετικών οργανισμών.

«Δεν επρόκειτο για διαφυγή από το sandbox ούτε για εξελιγμένη κυβερνοεπίθεση. Δεν υπάρχουν επί του παρόντος εκκρεμή ζητήματα. Η Irregular καταρτίζει ένα λευκό βιβλίο για να μοιραστεί τις βέλτιστες πρακτικές όσον αφορά τον περιορισμό των κινδύνων και την ασφαλή διεξαγωγή κυβερνοαξιολογήσεων», πρόσθεσε ο εκπρόσωπος.

Σύμφωνα με το The Information, το οποίο αποκάλυψε πρώτο το περιστατικό, το μοντέλο τεχνητής νοημοσύνης της Meta παραβίασε τα συστήματα μιας ανώνυμης εταιρείας και προέβη σε αλλαγές στο εσωτερικό της σύστημα.

Η Meta αναφέρει ότι η Irregular την ενημέρωσε για την παραβίαση: «Αυτή τη στιγμή διεξάγουμε έρευνα και θα δημοσιεύσουμε πλήρη ανασκόπηση μόλις συγκεντρώσουμε όλα τα στοιχεία».

Μια πηγή με γνώση της υπόθεσης δήλωσε στο CNN ότι τα μοντέλα έχουν περιορισμένη πρόσβαση στο διαδίκτυο σε ορισμένα περιβάλλοντα δοκιμών, προκειμένου να προσομοιάζουν σενάρια απειλών του πραγματικού κόσμου. Ωστόσο, στη συγκεκριμένη περίπτωση υπήρξε ένα σπάνιο «σφάλμα στη ρύθμιση».

«Αυτό που συμβαίνει είναι ότι τα μοντέλα γίνονται όλο και πιο ικανά, και ταυτόχρονα οι αξιολογήσεις για την εκτίμησή τους πρέπει να γίνουν πολύ πιο περίπλοκες», ανέφερε η πηγή. «Αυτό δημιουργεί περιθώρια για λάθη και μας αναγκάζει να αυξήσουμε σημαντικά τα πρότυπα ασφαλείας».

Η Meta έγινε έτσι η τρίτη μεγάλη εταιρεία τεχνητής νοημοσύνης, μέσα σε λίγες εβδομάδες, που αποκαλύπτει ότι ένα μοντέλο της εισέβαλε σε συστήματα άλλης εταιρείας κατά τη διάρκεια δοκιμών. Το γεγονός αυτό αναδεικνύει όχι μόνο τις προηγμένες δυνατότητες των πρακτόρων AI, αλλά και τους σοβαρούς κινδύνους που εγκυμονούν.
 

Πηγή: skai.gr

Διαβάστε τις Ειδήσεις σήμερα και ενημερωθείτε για τα πρόσφατα νέα.
Ακολουθήστε το Skai.gr στο Google News και μάθετε πρώτοι όλες τις ειδήσεις.