Το Gemini της Google προστίθεται στα μοντέλα AI που αυτονομήθηκαν και πραγματοποίησαν παραβιάσεις άλλων εταιρειών

Το μοντέλο Gemini απέκτησε πρόσβαση στο Διαδίκτυο και παραβίασε άλλες εταιρείες κατά τη διάρκεια μιας δοκιμής των δυνατοτήτων του στον τομέα της κυβερνοασφάλειας, στο πρώτο γνωστό περιστατικό κατά το οποίο συστήματα τεχνητής νοημοσύνης της Google προχώρησαν αυτόνομα σε μια τέτοια ενέργεια.

Οι παραβιάσεις σημειώθηκαν τον Μάιο κατά τη διάρκεια μιας δοκιμής κυβερνοασφάλειας που πραγματοποιήθηκε από την Irregular, μια ανεξάρτητη εταιρεία που διεξάγει αξιολογήσεις κυβερνοασφάλειας.

Κατά τη διάρκεια μιας τυπικής αξιολόγησης, το Gemini εντόπισε δημόσια διαθέσιμες πληροφορίες στο διαδίκτυο και μάντεψε διαπιστευτήρια πρόσβασης, προκειμένου να αποκτήσει πρόσβαση σε τρεις ιστοτόπους που θεωρούσε ότι περιλαμβάνονταν στο πεδίο της δοκιμής του αναφέρει σε ανακοίνωσή της η Χίδερ Άντκινς αντιπρόεδρος μηχανικής ασφάλειας της Google.

«Διασφαλίσαμε ότι οι τρεις οντότητες ενημερώθηκαν και συνεργαστήκαμε με τον συνεργάτη μας στον τομέα της εκπαίδευσης σχετικά με τις αλλαγές που έχει πλέον κάνει στις διαδικασίες δοκιμών του. Αυτά τα περιστατικά αναδεικνύουν τη σημασία της εκπαίδευσης ισχυρών μοντέλων τεχνητής νοημοσύνης ώστε να ενεργούν υπεύθυνα» λέει η Άντκινς.

Εκπρόσωπος της Irregular δήλωσε ότι το περιστατικό αφορούσε το ίδιο ζήτημα που επηρέασε και άλλα εργαστήρια τεχνητής νοημοσύνης και ότι όλα τα σχετικά εργαστήρια είχαν ενημερωθεί στα τέλη Ιουλίου. «Όλα τα γνωστά προβλήματα από τη δική μας πλευρά διορθώθηκαν και επιλύθηκαν πριν από εβδομάδες» δήλωσε ο εκπρόσωπος.

Παρόμοια περιστατικά που συνδέονται με την Irregular γνωστοποιήθηκαν από τις Meta, Anthropic και OpenAI. Η Meta δήλωσε τον Αύγουστο ότι το περιστατικό δεν περιλάμβανε διαφυγή από sandbox (ασφαλές, απομονωμένο περιβάλλον όπου μπορείς να δοκιμάσεις πράγματα ελεύθερα, χωρίς να κινδυνεύεις να προκαλέσεις ζημιά στο υπόλοιπο σύστημα ή τον πραγματικό κόσμο) ούτε εξελιγμένη κυβερνοεπίθεση, ενώ η Irregular δήλωσε ότι εργάζεται πάνω στη διαμόρφωση βέλτιστων πρακτικών για την ασφαλή διεξαγωγή αξιολογήσεων κυβερνοασφάλειας συστημάτων τεχνητής νοημοσύνης.

Τα περιστατικά έχουν εγείρει ερωτήματα σχετικά με τις δικλίδες ασφαλείας που απαιτούνται καθώς οι AI agents αποκτούν μεγαλύτερο βαθμό αυτονομίας και πρόσβαση στο διαδίκτυο και σε συστήματα υπολογιστών.

Σε μία από τις περιπτώσεις, το μοντέλο Gemini μάντευε κωδικούς πρόσβασης μέχρι να αποκτήσει πρόσβαση σε ένα προστατευμένο σύστημα. Στις άλλες δύο περιπτώσεις, το μοντέλο εντόπισε διαπιστευτήρια σε ένα δημόσιο αποθετήριο (repository) τα οποία του επέτρεψαν στη συνέχεια να αποκτήσει πρόσβαση σε προστατευμένα συστήματα, σύμφωνα με τη Wall Street Journal. Η Άντκινς δήλωσε ότι και στις τρεις περιπτώσεις το μοντέλο σταμάτησε την προσπάθεια παραβίασης.

Naftemporiki.gr

Προτιμώμενη πηγή στην Google

Για να εμφανίζονται περισσότερα άρθρα της Ναυτεμπορικής στις αναζητήσεις σας εύκολα και γρήγορα, πρέπει να προσθέσετε το site στις προτιμώμενες πηγές σας. Μπορείτε να το κάνετε πηγαίνοντας εδώ.