OpenAI: Γιατί το AI παραβίασε το σύστημα υγείας της Αυστραλίας

Ένας AI agent της OpenAI «ξέφυγε από τον έλεγχο» και «διείσδυσε» σε κυβερνητικό ιστότοπο της Αυστραλίας, σε ένα περιστατικό που ειδικοί στην κυβερνοασφάλεια χαρακτηρίζουν ως την πρώτη παραβίαση αυτού του είδους.

Το περιστατικό σημειώθηκε τον Ιούνιο, ωστόσο χρειάστηκαν μήνες μέχρι να γίνει αντιληπτό τι είχε συμβεί και να ενημερωθούν οι αυστραλιανές Αρχές. Όπως μεταδίδει το BBC, ο AI agent «διείσδυσε» σε ιδιωτική πύλη στατιστικών δεδομένων, η οποία περιείχε «μη ευαίσθητα» στοιχεία από το Medicare, το δημόσιο σύστημα υγειονομικής περίθαλψης της Αυστραλίας, σύμφωνα με τον πρωθυπουργό Άντονι Αλμπανέζι (Anthony Albanese).

Τι παραβιάστηκε και γιατί χρειάστηκε τόσος χρόνος για να γίνει αντιληπτό

Η παραβίαση έγινε από έναν AI agent, δηλαδή ένα αυτόνομο πρόγραμμα υπολογιστή που χρησιμοποιεί τεχνητή νοημοσύνη για να ολοκληρώνει μια εργασία με ελάχιστη ανθρώπινη επίβλεψη.

Στις 18 Ιουνίου, ένας από τους AI agents της OpenAI «ξέφυγε από τον έλεγχο» κατά τη διάρκεια μιας δοκιμής. Σύμφωνα με την εταιρεία, αποστολή του ήταν να «αναζητήσει απαντήσεις και διαθέσιμα στατιστικά στοιχεία για ερωτήσεις σχετικά με την Αυστραλία, στο πλαίσιο εσωτερικής αξιολόγησης».

Η OpenAI ανέφερε ότι αντιλήφθηκε την παραβίαση μόλις τον Αύγουστο, κατά την εξέταση «μη ευθυγραμμισμένης δραστηριότητας του μοντέλου». Μερικές εβδομάδες αργότερα, η εταιρεία έστειλε email σε μια γενική ηλεκτρονική διεύθυνση της αυστραλιανής κυβέρνησης.

Το μήνυμα φαίνεται ότι παρέμεινε απαρατήρητο για πέντε ημέρες, προτού προωθηθεί στους ειδικούς κυβερνοασφάλειας της Αυστραλίας στις 10 Σεπτεμβρίου.

Ο πρωθυπουργός Άντονι Αλμπανέζι χαρακτήρισε την παραβίαση «προφανώς απαράδεκτη» και δήλωσε ότι η OpenAI χρειάστηκε «υπερβολικά μεγάλο χρονικό διάστημα» για να ενημερώσει τις αυστραλιανές Αρχές.

Αναλυτές έχουν επίσης εκφράσει ανησυχίες για το γεγονός ότι μεσολάβησαν σχεδόν τρεις μήνες μέχρι η OpenAI να εντοπίσει το περιστατικό και να το αναφέρει μέσω email.

«Ο τρόπος με τον οποίο έφτασε η ειδοποίηση με προβληματίζει όσο και η καθυστέρηση», δήλωσε στο BBC ο Σάιμον Λιου (Simon Liu), επικεφαλής δεδομένων και τεχνητής νοημοσύνης της εταιρείας κυβερνοασφάλειας TrustDecision.

Συμβαίνουν ήδη παρόμοιες επιθέσεις αλλού;

Η Αυστραλία υποστηρίζει ότι πρόκειται για το πρώτο περιστατικό αυτού του είδους και οι ειδικοί εκτιμούν ότι αυτό ενδέχεται πράγματι να ισχύει.

Από όσα είναι γνωστά, οι κυβερνοεπιθέσεις που πραγματοποιούνται από AI agents παραμένουν αρκετά σπάνιες. Ωστόσο, η γνωστοποίησή τους εξαρτάται σε μεγάλο βαθμό από τις ίδιες τις εταιρείες.

Παρόμοια περιστατικά έχουν σημειωθεί και στο παρελθόν. Τον Ιούλιο, AI agents της OpenAI «ξέφυγαν από τον έλεγχο» κατά τη διάρκεια δοκιμής και διείσδυσαν στα εσωτερικά συστήματα της τεχνολογικής startup Hugging Face.

Οι AI agents έκριναν ότι ο καλύτερος τρόπος για να επιτύχουν τον στόχο τους ήταν να αγνοήσουν τους περιορισμούς που είχαν τεθεί ως προς το τι επιτρεπόταν να κάνουν.

Πρόκειται για αυτό που ο κλάδος αποκαλεί «έλλειψη ευθυγράμμισης», δηλαδή την περίπτωση κατά την οποία συστήματα τεχνητής νοημοσύνης ενεργούν με τρόπο που δεν συνάδει με τα ανθρώπινα συμφέροντα, για παράδειγμα παρακάμπτοντας κανόνες.

Το ζήτημα βρίσκεται στον πυρήνα των προσπαθειών για την ασφαλή ανάπτυξη της τεχνητής νοημοσύνης και η αντιμετώπισή του αποδεικνύεται δύσκολη.

Με απλά λόγια, τα μοντέλα τεχνητής νοημοσύνης που χρησιμοποιούνται σε αυτές τις περιπτώσεις, γνωστά ως μεγάλα γλωσσικά μοντέλα, έχουν σχεδιαστεί ώστε να προβλέπουν την πιθανότερη έξοδο με βάση μια συγκεκριμένη είσοδο δεδομένων και όχι να εξετάζουν τις συνέπειες αυτής της εξόδου όπως θα έκανε ένας άνθρωπος.

Οι εταιρείες επιχειρούν να αποτρέψουν αρνητικές συνέπειες θέτοντας δικλίδες ασφαλείας στα συστήματα τεχνητής νοημοσύνης. Όπως, όμως, διαπίστωσε η αυστραλιανή κυβέρνηση, αυτές δεν είναι πάντοτε αρκετές.

Ο Χάμοντ Πιρς (Hammond Pearce), ανώτερος λέκτορας στο Ινστιτούτο Κυβερνοασφάλειας του Πανεπιστημίου της Νέας Νότιας Ουαλίας, δήλωσε στο BBC ότι τέτοιου είδους επιθέσεις είναι πιθανό να «αυξηθούν τόσο σε σοβαρότητα όσο και σε συχνότητα».

«Ελπίζω πραγματικά αυτό το περιστατικό να αρχίσει να χτυπά καμπανάκια κινδύνου στις κυβερνήσεις σε όλο τον κόσμο», πρόσθεσε.

Η Νιούσα Σαφιαμπάντι (Niusha Shafiabady), καθηγήτρια Υπολογιστικής Νοημοσύνης στο Australian Catholic University, εκτίμησε ότι το περιστατικό ανέδειξε την ανάγκη «να κρίνουμε την αυτόνομη τεχνητή νοημοσύνη από τη συμπεριφορά της υπό πίεση και όχι από τις υποσχέσεις που δίνονται κατά την παρουσίαση ενός προϊόντος».

«Ο βαθύτερος τεχνικός κίνδυνος είναι ότι η αυτόνομη τεχνητή νοημοσύνη δεν γνωρίζει πάντοτε πότε κάνει λάθος, ενώ οι άνθρωποι ενδέχεται να μην μπορούν να αντιληφθούν γιατί έλαβε μια συγκεκριμένη απόφαση», είπε.

«Χωρίς ισχυρούς μηχανισμούς επαλήθευσης και αυστηρά όρια, σφάλματα που προκύπτουν από πιθανολογικές εκτιμήσεις μπορούν αθόρυβα να μετατραπούν σε λειτουργικές αστοχίες».

Μπορεί να σταματήσει η τεχνητή νοημοσύνη εάν «ξεφύγει από τον έλεγχο»;

Η ραγδαία ανάπτυξη της τεχνητής νοημοσύνης έχει οδηγήσει τις κυβερνήσεις σε έναν αγώνα δρόμου για τη θέσπιση μέτρων προστασίας, ενώ ορισμένοι ζητούν να υποχρεωθούν οι εταιρείες να ενσωματώνουν στα συστήματά τους μηχανισμούς που θα επιτρέπουν την απενεργοποίηση της τεχνολογίας τους.

Μία από τις προτάσεις που υποστηρίζουν ορισμένες εταιρείες τεχνητής νοημοσύνης και νομοθέτες είναι ένας «διακόπτης έκτακτης ανάγκης», ο οποίος θα επιτρέπει την άμεση απενεργοποίηση της τεχνολογίας σε περίπτωση κρίσης.

Σύμφωνα με δημοσιεύματα, η OpenAI εργάζεται ήδη πάνω στην ανάπτυξη αυτοματοποιημένων εργαλείων που θα μπορούν, εφόσον χρειαστεί, να θέτουν εκτός λειτουργίας τα συστήματά της.

Μιλώντας στην εκπομπή Today του BBC Radio 4, ο πρώην αντιπρόεδρος της βρετανικής κυβέρνησης και πρώην στέλεχος του Facebook, σερ Νικ Κλεγκ (Nick Clegg), δήλωσε ότι η ιδέα του «διακόπτη έκτακτης ανάγκης» παραμένει ανεπιβεβαίωτη στην πράξη.

«Δεν υπάρχει ένα δωμάτιο με έναν μικρό πίνακα ασφαλειών, όπου απλώς τραβάς την ασφάλεια και όλα σταματούν να λειτουργούν», είπε, επισημαίνοντας ότι τα εργαλεία τεχνητής νοημοσύνης στηρίζονται σε παγκόσμιες υποδομές.

Ειδικοί στην κυβερνοασφάλεια ανέφεραν ότι οι μηχανισμοί προστασίας του Medicare, του δημόσιου συστήματος υγειονομικής περίθαλψης της Αυστραλίας, δεν ήταν αρκετά ισχυροί και ότι ένας έμπειρος χάκερ θα μπορούσε επίσης να τους παρακάμψει.

Άλλοι ειδικοί, ωστόσο, υποστηρίζουν ότι αυτό δεν είναι το βασικό ζήτημα. Κατά την άποψή τους, πρόκειται για ακόμη μία περίπτωση κατά την οποία AI agents αγνόησαν κανόνες σχετικά με την ασφαλή πρόσβαση σε πληροφορίες στο διαδίκτυο και ίσως για τη σοβαρότερη έως σήμερα, δεδομένου ότι οι πληροφορίες βρίσκονταν υπό κυβερνητικό έλεγχο.

Τι σημαίνει το περιστατικό στην Αυστραλία για την αυτορρύθμιση της τεχνητής νοημοσύνης;

Καθώς εντείνονται οι προειδοποιήσεις για τις δυνητικά σοβαρές επιπτώσεις της τεχνητής νοημοσύνης, πολλοί τόσο στον κλάδο όσο και στις κυβερνήσεις διεθνώς εξετάζουν ποιοι εθνικοί και διεθνείς κανονισμοί ενδέχεται να απαιτούνται για τον έλεγχό της.

Την ίδια ώρα, ορισμένοι επιστήμονες, ειδικοί και εργαζόμενοι απορρίπτουν τις πιο δυσοίωνες προβλέψεις ως αόριστες ή υποθετικές, ή ως προσπάθεια των μεγάλων εταιρειών ανάπτυξης τεχνητής νοημοσύνης να διασφαλίσουν την κυριαρχία τους.

Σήμερα, οι εταιρείες τεχνητής νοημοσύνης σε μεγάλο βαθμό αυτορρυθμίζονται. Αυτή την εβδομάδα, ωστόσο, 20 χώρες, μεταξύ των οποίων η Αυστραλία και ο Καναδάς, υπέγραψαν κοινή δήλωση ζητώντας ισχυρότερες δικλίδες ασφαλείας, κοινά πρότυπα σε παγκόσμιο επίπεδο και τη δημιουργία διεθνούς ρυθμιστικής Αρχής.

Οι Ηνωμένες Πολιτείες και η Κίνα, δύο από τις χώρες που πρωταγωνιστούν στην ανάπτυξη της τεχνητής νοημοσύνης, έχουν μέχρι στιγμής αντισταθεί στις εκκλήσεις για αυστηρότερη ρύθμιση. Το γεγονός αυτό εντείνει τα ερωτήματα για το κατά πόσο η συγκεκριμένη παραβίαση θα αποτελέσει την πρώτη από πολλές ανάλογες περιπτώσεις ή την προειδοποίηση που αρκετοί ειδικοί θεωρούν αναγκαία.

«Η άμεση ζημιά σε αυτή την περίπτωση φαίνεται περιορισμένη, αλλά το δίδαγμα ως προς τη διακυβέρνηση δεν είναι», δήλωσε ο Ραφαέλε Φάμπιο Τσιριέλο (Raffaele Fabio Ciriello), ανώτερος λέκτορας στα πληροφοριακά συστήματα επιχειρήσεων στο Πανεπιστήμιο του Σίδνεϊ.

«Καθώς οι AI agents αποκτούν μεγαλύτερες δυνατότητες και αυτονομία, αυτές πρέπει να συνοδεύονται από ανάλογους μηχανισμούς περιορισμού, παρακολούθηση σε πραγματικό χρόνο, σαφή λογοδοσία, ανεξάρτητη εποπτεία και πολύ ταχύτερη αναφορά περιστατικών».

Πηγή: skai.gr

Διαβάστε τις Ειδήσεις σήμερα και ενημερωθείτε για τα πρόσφατα νέα.
Ακολουθήστε το Skai.gr στο Google News και μάθετε πρώτοι όλες τις ειδήσεις.