Οι AI agents της OpenAI επιτέθηκαν στην κυβέρνηση των ΗΠΑ ενώ παράλληλα δημοσίευσαν εικόνες χρηστών του ChatGPT
Η OpenAI έκανε γνωστό ότι ορισμένοι βοηθοί της τεχνητής νοημοσύνης (ΑΙ agents) διέρρευσαν 53 εικόνες από χρήστες του ChatGPT την ίδια στιγμή που άλλοι AI agents της παραβίαζαν ορισμένα sites της αμερικανικής της αμερικανικής κυβέρνησης.
Οι AI agents της εταιρείας είχαν αποκτήσει πρόσβαση σε ιστότοπους της αμερικανικής κυβέρνησης, μεταξύ άλλων στους ιστότοπους της Επιτροπής Κεφαλαιαγοράς των ΗΠΑ (SEC) και του υπουργείου Εμπορίου, από το οποίο απέκτησαν πρόσβαση σε δεδομένα της Απογραφής των ΗΠΑ. Η εταιρεία διερευνούσε επίσης μια απόπειρα παραβίασης του ιστότοπου του υπουργείου Παιδείας, όπως ανέφεραν οι New York Times. Η αποκάλυψη έρχεται λίγα μόλις 24ωρα μετά την ανακοίνωση του πρωθυπουργού της Αυστραλίας στη συνεδρίαση του ΟΗΕ για παραβίαση των συστημάτων κυβερνητικών υπηρεσιών της χώρας από AI agents της OpenAI καταγγέλλωντας καθυστερημένη αντίδραση και κάκιστο χειρισμό της εταιρείας στο περιστατικό.
Όσον αφορά τη διαρροή εικόνων χρηστών του ChatGPT η OpenAI αρνήθηκε να διευκρινίσει αν οι εικόνες είχαν δημιουργηθεί με AI ή αν απεικόνιζαν πραγματικούς ανθρώπους. Επίσης δεν δίνει πληροφορίες για το πότε συνέβη το περιστατικό.
Οι αποκαλύψεις φέρνουν στο φως έναν νέο τομέα κινδύνου για την ιδιωτικότητα της εταιρείας και καταδεικνύουν πόσο δύσκολο είναι ακόμη και για μια εταιρεία τεχνητής νοημοσύνης που βρίσκεται στην αιχμή της τεχνολογίας να καταγράψει και να ελέγξει όλη τη μη εξουσιοδοτημένη δραστηριότητα που συνδέεται με τους πράκτορές της. Η συνεχιζόμενη προσπάθεια της OpenAI να αντιμετωπίσει το ζήτημα αντικατοπτρίζει επίσης ένα μεγάλο χάσμα ανάμεσα στις δυνατότητες των μοντέλων που δοκιμάζει η εταιρεία και στην ικανότητά της να επιβλέπει ή ακόμη και να παρακολουθεί τις ενέργειές τους.
Στα μέσα Σεπτεμβρίου, ένα άτομο που είχε ενημερωθεί σχετικά με το ζήτημα εκτίμησε ότι η OpenAI είχε εντοπίσει περίπου δύο δωδεκάδες περιστατικά στα οποία οι ΑΙ agents της είχαν ενεργήσει με ανεπιθύμητους τρόπους. Ωστόσο, ο αριθμός αυτός συνέχισε να αυξάνεται καθώς οι ομάδες της OpenAI εξετάζουν τα εσωτερικά αρχεία καταγραφής της δραστηριότητας των πρακτόρων και εντοπίζουν προηγουμένως άγνωστες περιπτώσεις, σύμφωνα με δύο άτομα που βρίσκονται κοντά στην εταιρεία.
Η OpenAI δήλωσε ότι η επανεξέτασή της θα χρειαστεί «μήνες» για να ολοκληρωθεί, δεδομένης της έκτασης της εργασίας και ότι έχει ενημερώσει «δεκάδες» τρίτους φορείς για μη επιτρεπόμενες δραστηριότητες. Οι περισσότερες από τις εικόνες που διέρρευσαν έχουν αφαιρεθεί και η OpenAI δήλωσε ότι ασκεί πιέσεις στους παρόχους φιλοξενίας ιστοτόπων ώστε να αφαιρέσουν και τις υπόλοιπες.
Οι πράκτορες της OpenAI είχαν πρόσβαση σε αυτές τις εικόνες επειδή η εταιρεία βασίζεται, για ένα μέρος της διαδικασίας εκπαίδευσης των μοντέλων της, σε ανωνυμοποιημένα δεδομένα χρηστών, σύμφωνα με την εταιρεία, πρώην εργαζομένους και εξωτερικούς ερευνητές. Τα δεδομένα των εταιρικών πελατών (Enterprise) δεν χρησιμοποιούνται για εκπαίδευση ενώ οι χρήστες του ChatGPT πρέπει να επιλέξουν να εξαιρεθούν (opt out) προκειμένου να μην επιτρέπουν στην εταιρεία να χρησιμοποιεί τα δεδομένα τους για εκπαίδευση.
Πριν οι αναρτήσεις των χρηστών χρησιμοποιηθούν για εκπαίδευση, υποβάλλονται σε διαδικασία ανωνυμοποίησης, η οποία αφαιρεί μεταδεδομένα, ονόματα και άλλες πληροφορίες επικοινωνίας και, σύμφωνα με την εταιρεία, θα πρέπει να καθιστά δύσκολο τον εντοπισμό τους και τη σύνδεσή τους με οποιονδήποτε μεμονωμένο χρήστη.
Ωστόσο η πρακτική αυτή ενέχει κινδύνους επειδή υπάρχει πιθανότητα τα δεδομένα να μην έχουν απαλλαγεί πλήρως από πληροφορίες που μπορούν να ταυτοποιήσουν ένα άτομο και να διαρρεύσουν κατά τη διάρκεια της λειτουργίας του μοντέλου σύμφωνα με τρία άτομα που γνωρίζουν τις πρακτικές της OpenAI.
Naftemporiki.gr
Προτιμώμενη πηγή στην Google
Για να εμφανίζονται περισσότερα άρθρα της Ναυτεμπορικής στις αναζητήσεις σας εύκολα και γρήγορα, πρέπει να προσθέσετε το site στις προτιμώμενες πηγές σας. Μπορείτε να το κάνετε πηγαίνοντας εδώ.
