Οι AI agents της OpenAI που αυτονομήθηκαν κατασκόπευαν επί δύο μήνες την υπηρεσία που επιτέθηκαν για να εντοπίσουν αδυναμίες στα συστήματα ασφαλείας του

Οι βοηθοί τεχνητής νοημοσύνης (AI agents) της OpenAI που είχαν παρεκτραπεί από τον προβλεπόμενο σκοπό τους παραβίασαν λογαριασμούς χρηστών του Hugging Face και διερεύνησαν τον ίδιο τον ιστότοπο για ευπάθειες σχεδόν δύο μήνες πριν από την επίθεση του Ιουλίου στο αποθετήριο ανοιχτού κώδικα που προσέλκυσε την παγκόσμια προσοχή σύμφωνα με ερευνητές που εξέτασαν τη σχετική δραστηριότητα.

Η νέα δραστηριότητα κακόβουλου χαρακτήρα που αποκαλύφθηκε δείχνει ότι οι προσπάθειες των συγκεκριμένων AI agents να βρουν τρόπο πρόσβασης στο Hugging Face είχαν ξεκινήσει νωρίτερα απ’ όσο ήταν δημοσίως γνωστό.

Η OpenAI είχε αποκαλύψει προηγουμένως μία πτυχή της κακόβουλης δραστηριότητας — την κλοπή ενός ψηφιακού διαπιστευτηρίου χρήστη του Hugging Face, προκειμένου να αποκτηθεί πρόσβαση σε ένα αρχείο σχετικό με τη βιολογία — στην έκθεση που δημοσίευσε για το περιστατικό τον περασμένο μήνα. Ωστόσο, οι ερευνητές δήλωσαν ότι η διερεύνηση του Hugging Face φαίνεται να ήταν ευρύτερη από ό,τι περιέγραφε η έκθεση.

Ο ανεξάρτητος ερευνητής Τζόνας Βίντερμαν-Μέλερ δήλωσε στο Reuters ότι ανακάλυψε τη δραστηριότητα την περασμένη εβδομάδα. Όπως είπε, βρήκε στοιχεία που δείχνουν ότι οι πράκτορες της OpenAI παραβίασαν δύο λογαριασμούς χρηστών του Hugging Face και τους χρησιμοποίησαν για να στείλουν ασυνήθιστα μορφοποιημένα αρχεία στους διακομιστές της εταιρείας ήδη από τις 13 Μαΐου.

Ο ίδιος και άλλοι ερευνητές που εξέτασαν τα στοιχεία δήλωσαν ότι η συμπεριφορά έμοιαζε με προσπάθεια χαρτογράφησης ή δοκιμής τμημάτων του δικτύου του Hugging Face με στόχο να εντοπιστούν τρόποι διείσδυσης. Τόνισαν ωστόσο ότι δεν υπάρχουν στοιχεία πως αυτή η προσπάθεια οδήγησε σε πραγματική παραβίαση. Τόσο οι ερευνητές όσο και η OpenAI δήλωσαν ότι δεν βρήκαν στοιχεία που να συνδέουν αυτή την προηγούμενη διερεύνηση με το περιστατικό του Ιουλίου.

Ο εκπρόσωπος της OpenAI, Ντριου Πουσατέρι, δήλωσε ότι η εταιρεία είχε συμπεριλάβει το περιστατικό της 13ης Μαΐου στην έκθεση για το συμβάν και είχε ενημερώσει ιδιωτικά το Hugging Face για τη δραστηριότητα που εντόπισε ο Μέλερ και ήταν «δεσμευμένη στη διαφάνεια σχετικά με αυτά τα ζητήματα και στην κοινοποίηση όσων μαθαίνουμε καθώς συνεχίζεται η έρευνά μας».

Ο 27χρονος Μέλερ που ζει στο Μπίλεφελντ της Γερμανίας δήλωσε ότι η αποτυχία της OpenAI να εντοπίσει εγκαίρως τη διερευνητική δραστηριότητα της 13ης Μαΐου αποτέλεσε χαμένη ευκαιρία για να αποτραπεί η επακόλουθη εκστρατεία παραβιάσεων η οποία έχει προκαλέσει παγκόσμιο προβληματισμό σχετικά με τη δύναμη της τεχνητής νοημοσύνης.

«Φανταστείτε αν είχαν εντοπίσει αυτή τη συμπεριφορά τον ΜάιοΘα μπορούσε να είχε αποτρέψει το μεταγενέστερο περιστατικό, το οποίο ήταν πολύ μεγαλύτερο» υποστηρίζει ο ερευνητής. Η OpenAI έχει δηλώσει προηγουμένως ότι, εκ των υστέρων, «ορισμένα πρώιμα σημάδια» από τους πράκτορες τεχνητής νοημοσύνης της θα έπρεπε να είχαν οδηγήσει σε νωρίτερη αντίδραση.

Τα σημάδια

Δύο εξωτερικοί ειδικοί που εξέτασαν τα ευρήματα του Μέλερ δήλωσαν ότι αυτά ήταν συνεπή με δραστηριότητα που είχε προηγουμένως συνδεθεί με τους AI agents της OpenAI.

Ο Τομ Χέγκελ, ανώτερος ερευνητής απειλών στην SentinelOne, δήλωσε ότι η παραβίαση των λογαριασμών και η επακόλουθη διερεύνηση ταίριαζαν «απόλυτα» με τη γνωστή συμπεριφορά των συγκεκριμένων πρακτόρων. Στη δική του έκθεση για το περιστατικό υποστήριξε ότι τα κορυφαία εργαστήρια τεχνητής νοημοσύνης θα πρέπει να δημοσιοποιούν περισσότερα δεδομένα σχετικά με περιστατικά στα οποία οι πράκτορες «αλληλεπιδρούν με συστήματα τρίτων ή επηρεάζουν αυτά τα συστήματα».

Η Σίντνει Βον Άρξ της Nightingale Collective μιας ομάδας που ασχολείται με την ασφάλεια της τεχνητής νοημοσύνης συμφώνησε επίσης με την απόδοση της δραστηριότητας στους συγκεκριμένους πράκτορες. Η Βον Αρξ δήλωσε ότι η παραβίαση αποτελούσε «σαφή προειδοποιητική ένδειξη» που θα μπορούσε να είχε συμβάλει στην αποτροπή της παραβίασης του Ιουλίου.

Η OpenAI έχει βρεθεί αντιμέτωπη με ολοένα και μεγαλύτερο έλεγχο από τότε που η εταιρεία αποκάλυψε, στις 21 Ιουλίου, ότι παρεκτραπέντες πράκτορες τεχνητής νοημοσύνης κατάφεραν να παρακάμψουν εσωτερικούς ελέγχους, να αποκτήσουν πρόσβαση στο ανοιχτό διαδίκτυο και να συντονίσουν τις ενέργειές τους, σε ένα περιστατικό που η OpenAI χαρακτήρισε «άνευ προηγουμένου κυβερνοπεριστατικό».

Έκτοτε, εξωτερικοί ερευνητές έχουν εντοπίσει και άλλα περιστατικά που φέρεται να σχετίζονται με AI agents συνδεδεμένους με την OpenAI, μεταξύ άλλων δραστηριότητα που επηρέασε έναν ανενεργό γερμανικό ιστότοπο wiki και το αποθετήριο πακέτων λογισμικού RubyGems.

Η OpenAI έχει αναγνωρίσει ορισμένα από αυτά τα περιστατικά μόνο αφού είχαν δημοσιοποιηθεί από τρίτους. Δύο άτομα που γνωρίζουν την υπόθεση δήλωσαν ότι στην περίπτωση του RubyGems οι εργαζόμενοι της OpenAI συνειδητοποίησαν ότι η τεχνητή νοημοσύνη της εταιρείας ήταν υπεύθυνη για την κακόβουλη δραστηριότητα μόνο αφού το εντόπισε η Nightingale Collective.

Οι πρόσθετες αυτές αποκαλύψεις έχουν εντείνει τα ερωτήματα μεταξύ νομοθετών και υποστηρικτών της ασφάλειας της τεχνητής νοημοσύνης σχετικά με το αν έχει εντοπιστεί ολόκληρη η έκταση των περιστατικών. Ορισμένα από τα κορυφαία στελέχη της αμερικανικής βιομηχανίας τεχνητής νοημοσύνης έχουν έκτοτε ζητήσει επιβράδυνση της ανάπτυξης της AI, επικαλούμενα, μεταξύ άλλων, την απειλή καταστροφικών κυβερνοεπιθέσεων από ανεξέλεγκτους πράκτορες.

Ο Μέλερ δήλωσε ότι τα τελευταία ευρήματα ενισχύουν τις εκκλήσεις για προσωρινή επιβράδυνση της ανάπτυξης προηγμένων συστημάτων τεχνητής νοημοσύνης. «Μια παύση ίσως να έκανε καλό στον κόσμο ώστε το κομμάτι της ασφάλειας να προλάβει να καλύψει τη διαφορά».

Naftemporiki.gr με πληροφορίες από Reuters

Προτιμώμενη πηγή στην Google

Για να εμφανίζονται περισσότερα άρθρα της Ναυτεμπορικής στις αναζητήσεις σας εύκολα και γρήγορα, πρέπει να προσθέσετε το site στις προτιμώμενες πηγές σας. Μπορείτε να το κάνετε πηγαίνοντας εδώ.