Εξαιρετικά ικανή, αλλά και απρόβλεπτη – Πού βρίσκεται ο πραγματικός κίνδυνος

Πόσο βέβαιοι μπορούμε να είμαστε ότι ένα προηγμένο σύστημα Τεχνητής Νοημοσύνης θα κάνει ακριβώς αυτό που του ζητήσαμε – και μόνο αυτό;

Για τον Κωνσταντίνο Δασκαλάκη, η πλήρης απώλεια του ελέγχου της ΤΝ παραμένει σήμερα ένα υποθετικό σενάριο. Ένας άλλος κίνδυνος, όμως, δεν ανήκει πλέον στη σφαίρα της θεωρίας: η απρόβλεπτη ή ανεπιθύμητη συμπεριφορά προηγμένων μοντέλων είναι ήδη πραγματική.

Και όσο η ΤΝ περνά από τα chatbots που απλώς απαντούν σε ερωτήσεις σε αυτόνομους πράκτορες που μπορούν να σχεδιάζουν ενέργειες, να γράφουν και να εκτελούν κώδικα, να χρησιμοποιούν εργαλεία και να συνεργάζονται μεταξύ τους, τόσο μεγαλώνει και το διακύβευμα.

«Τα συστήματα αυτά είναι εξαιρετικά περίπλοκα. Είναι εξαιρετικά ικανά αλλά και απρόβλεπτα», τονίζει στο ΑΠΕ-ΜΠΕ ο καθηγητής Ηλεκτρολόγων Μηχανικών και Επιστήμης Υπολογιστών του MIT.

«Δεν νομίζω ότι ποτέ θα μπορούμε να πιστοποιήσουμε την αξιοπιστία τους»

Ο Κωνσταντίνος Δασκαλάκης διαχωρίζει σαφώς δύο διαφορετικά επίπεδα κινδύνου.

«Ο κίνδυνος να χάσουμε ουσιαστικά τον έλεγχο ενός συστήματος είναι ακόμα υποθετικός. Όμως, ο κίνδυνος απρόβλεπτης ή ανεπιθύμητης συμπεριφοράς είναι ήδη πραγματικός. Είναι εγγενής στον τρόπο που εκπαιδεύονται και λειτουργούν τα μεγάλα νευρωνικά δίκτυα», επισημαίνει.

Ειδικά για τα συστήματα παραγωγικής ΤΝ και τα μεγάλα γλωσσικά μοντέλα, εκτιμά ότι είναι εξαιρετικά δύσκολο να υπάρξει πλήρης πιστοποίηση της αξιοπιστίας τους.

Το μέγεθος του κινδύνου, εξηγεί, εξαρτάται από τη χρήση. Αν ένα γλωσσικό μοντέλο χρησιμοποιείται για αναζήτηση βιβλιογραφίας, μπορεί να επινοήσει μία ανύπαρκτη πηγή ή να αποδώσει λανθασμένα το περιεχόμενο μιας πραγματικής. Το λάθος μπορεί να εντοπιστεί με έλεγχο.

Σε εφαρμογές υψηλότερου κινδύνου, όμως, τα περιθώρια είναι πολύ μικρότερα και απαιτούνται αυστηρές ασφαλιστικές δικλίδες.

ΤΑΤΙΑΝΑ ΜΠΟΛΑΡΗ/EUROKINISSIΌταν η ΤΝ παύει να απαντά και αρχίζει να ενεργεί

Η κρίσιμη αλλαγή έρχεται με τους αυτόνομους πράκτορες ΤΝ.

Δεν πρόκειται πλέον για ένα σύστημα που περιμένει μία ερώτηση και επιστρέφει μία απάντηση. Οι πράκτορες μπορούν να σχεδιάζουν μία σειρά βημάτων, να χρησιμοποιούν λογισμικό και άλλα ψηφιακά εργαλεία, να γράφουν και να εκτελούν κώδικα και, υπό προϋποθέσεις, να επικοινωνούν ή να συνεργάζονται μεταξύ τους.

«Αν είναι ελεύθερα να γράφουν και να εκτελούν κώδικα στον υπολογιστή μας, όπως κάνουν οι αυτόνομοι πράκτορες Τεχνητής Νοημοσύνης, τότε η κατάσταση μπορεί να γίνει ανεξέλεγκτη αν οι πράκτορες δεν λειτουργούν υπό αυστηρά στεγανά, σε απομονωμένα περιβάλλοντα εκτός Διαδικτύου», προειδοποιεί ο Κωνσταντίνος Δασκαλάκης.

Ως χαρακτηριστικό παράδειγμα αναφέρει το περιστατικό του Ιουλίου με την OpenAI και τη Hugging Face.

Κατά τη διάρκεια εσωτερικών δοκιμών κυβερνοασφάλειας, μοντέλα της OpenAI παρέκαμψαν μηχανισμούς απομόνωσης, απέκτησαν πρόσβαση στο Διαδίκτυο, χρησιμοποίησαν μη εγκεκριμένους διαύλους επικοινωνίας και παραβίασαν τμήματα της εσωτερικής υποδομής της OpenAI και συστήματα της Hugging Face.

Οι στόχοι του χρήστη – και η πιθανότητα παρερμηνείας

Ο καθηγητής του MIT στέκεται και σε ένα ακόμη κρίσιμο χαρακτηριστικό των προηγμένων μοντέλων: το εύρος της γνώσης πάνω στην οποία έχουν εκπαιδευτεί.

Τα συστήματα έχουν επεξεργαστεί τεράστιους όγκους επιστημονικών, ιστορικών και λογοτεχνικών κειμένων, βάσεις κώδικα και δεδομένα από το Διαδίκτυο.

Όπως εξηγεί, έχουν επομένως τη δυνατότητα να αναπτύσσουν περίπλοκες στρατηγικές και, όταν λειτουργούν ως ομάδες πρακτόρων, να συντονίζονται για την επίτευξη ενός στόχου.

Το κρίσιμο ερώτημα είναι ποιος θέτει αυτόν τον στόχο.

Μπορεί να πρόκειται για κακόβουλο χρήστη. Ακόμη όμως και όταν η αρχική εντολή δεν είναι κακόβουλη, υπάρχει το ενδεχόμενο τα μοντέλα να την ερμηνεύσουν με τρόπο διαφορετικό από εκείνον που είχε στο μυαλό του ο άνθρωπος που την έδωσε.

Από το 1956 στην έκρηξη της παραγωγικής ΤΝ

Η συζήτηση γίνεται εβδομήντα χρόνια μετά τη συγκρότηση της Τεχνητής Νοημοσύνης ως αυτόνομου επιστημονικού πεδίου.

Το 1950 ο Άλαν Τούρινγκ έθεσε το περίφημο ερώτημα εάν μπορούν οι μηχανές να σκέφτονται και το 1956, στο θερινό ερευνητικό πρόγραμμα του Dartmouth, η ΤΝ απέκτησε ουσιαστικά τη θέση της ως ξεχωριστό ερευνητικό αντικείμενο.

Ακολούθησαν δεκαετίες προόδου αλλά και οι περίοδοι στασιμότητας που έμειναν γνωστές ως «χειμώνες της ΤΝ».

Το 1997 ο Deep Blue της IBM νίκησε τον Γκάρι Κασπάροφ στο σκάκι. Το 2012 το AlexNet σηματοδότησε άλμα στην αναγνώριση εικόνας και το 2016 το AlphaGo της Google DeepMind επικράτησε του Λι Σεντόλ στο Go.

Το 2017 παρουσιάστηκε η αρχιτεκτονική Transformer, πάνω στην οποία στηρίχθηκαν τα σύγχρονα μεγάλα γλωσσικά μοντέλα, ενώ η κυκλοφορία του ChatGPT από την OpenAI τον Νοέμβριο του 2022 έφερε την παραγωγική ΤΝ από τα ερευνητικά εργαστήρια στα χέρια εκατοντάδων εκατομμυρίων χρηστών.

REUTERS/Dado Ruvic/Illustration/File PhotoΗ εβδομάδα που ξανάφερε στο προσκήνιο το «φρένο»

Οι εξελίξεις των τελευταίων ημερών αναζωπύρωσαν διεθνώς τη συζήτηση για την ασφάλεια της ΤΝ.

Στις αρχές Σεπτεμβρίου ο ερευνητής Jacob Coxon ανακοίνωσε την αποχώρησή του από την Anthropic, εκφράζοντας βαθιά ανησυχία για την ταχύτητα ανάπτυξης ολοένα ισχυρότερων μοντέλων και για το κατά πόσο υπάρχουν επαρκείς μηχανισμοί ελέγχου.

Στις 12 Σεπτεμβρίου ο διευθύνων σύμβουλος της Anthropic, Dario Amodei, ζήτησε συντονισμένη επιβράδυνση του ρυθμού ανάπτυξης των ισχυρότερων συστημάτων και πρότεινε, μεταξύ άλλων, ανεξάρτητους αξιολογητές με ουσιαστική πρόσβαση στα εργαστήρια. Τη γενική κατεύθυνση στήριξαν και στελέχη ανταγωνιστικών εταιρειών, σε μια ασυνήθιστη σύμπλευση στον εξαιρετικά ανταγωνιστικό χώρο της ΤΝ.

Λίγες ημέρες αργότερα, ο Bilal Chughtai δημοσιοποίησε ότι αποχώρησε από την Google DeepMind, όπου εργαζόταν πάνω στην ασφάλεια και την ευθυγράμμιση της γενικής ΤΝ, εκφράζοντας επίσης έντονες ανησυχίες για την απόσταση ανάμεσα στην αύξηση των δυνατοτήτων των συστημάτων και στην πρόοδο των μεθόδων ασφαλείας.

Κυβερνοεπιθέσεις: Ένας από τους πιο άμεσους κινδύνους

Για τον Κωνσταντίνο Δασκαλάκη, ένας από τους περισσότερο άμεσους και τεκμηριωμένους κινδύνους είναι η αξιοποίηση της ΤΝ για κυβερνοεπιθέσεις.

«Ένα μέρος της τεχνολογίας έχει ήδη διαχυθεί, επομένως δεν μπορούμε να αντιμετωπίσουμε το πρόβλημα θεωρώντας ότι αρκεί να περιορίσουμε την ανάπτυξη των επόμενων μοντέλων», σημειώνει.

Ακόμη και εάν η εξέλιξη των ισχυρότερων μοντέλων επιβραδυνθεί, εξηγεί, υπάρχουν ήδη ισχυρά ανοιχτά μοντέλα τα οποία μπορούν να χρησιμοποιηθούν κακόβουλα.

Και όσο η ΤΝ ενσωματώνεται σε αυτοκίνητα, ρομπότ και συστήματα λήψης αποφάσεων, τόσο μεγαλύτερο μέρος του κινδύνου μεταφέρεται από τον ψηφιακό στον πραγματικό κόσμο.

Η ΤΝ ως όπλο και ως άμυνα

Η ίδια τεχνολογία που δημιουργεί νέες απειλές μπορεί, πάντως, να χρησιμοποιηθεί και για την αντιμετώπισή τους.

Ο Κωνσταντίνος Δασκαλάκης υπογραμμίζει ότι στην κυβερνοασφάλεια οι αμυνόμενοι μπορούν να αξιοποιήσουν προηγμένα μοντέλα για να εντοπίζουν ευπάθειες, να παρακολουθούν συστήματα και να διορθώνουν κενά προτού τα εκμεταλλευτούν οι επιτιθέμενοι.

«Σε μια εποχή που ισχυρά μοντέλα, ανοιχτά και μη, είναι διαθέσιμα στον οποιονδήποτε, πρέπει να χρησιμοποιήσουμε τα μοντέλα αυτά για να αναπτύξουμε ισχυρά αμυντικά συστήματα», αναφέρει.

Γιατί χρειάζονται κανόνες ανάλογα με το ρίσκο

Σε αυτό το περιβάλλον, ο καθηγητής του MIT θεωρεί κρίσιμο ένα ρυθμιστικό πλαίσιο που να διαφοροποιεί τις απαιτήσεις ανάλογα με τον κίνδυνο της κάθε εφαρμογής.

Η Ευρωπαϊκή Ένωση έχει ήδη κινηθεί προς αυτή την κατεύθυνση με τον AI Act, ο οποίος προβλέπει διαφορετικές υποχρεώσεις ανάλογα με το επίπεδο κινδύνου.

Από τις 2 Αυγούστου 2026 έχουν τεθεί σε εφαρμογή πρόσθετες εξουσίες εποπτείας του ευρωπαϊκού Γραφείου Τεχνητής Νοημοσύνης και των εθνικών αρχών, μεταξύ άλλων για τις απαγορευμένες πρακτικές, συγκεκριμένες απαιτήσεις διαφάνειας και τα μοντέλα ΤΝ γενικού σκοπού. Άλλες υποχρεώσεις του κανονισμού ενεργοποιούνται σταδιακά σε μεταγενέστερες ημερομηνίες.

Από τη Θεωρία Παιγνίων στην αιχμή της ΤΝ

Η παρέμβαση του Κωνσταντίνου Δασκαλάκη έχει ιδιαίτερη βαρύτητα λόγω και της επιστημονικής του διαδρομής.

Κατέχει την έδρα Avanessians στο Τμήμα Ηλεκτρολόγων Μηχανικών και Επιστήμης Υπολογιστών του MIT και είναι μέλος του Εργαστηρίου Επιστήμης Υπολογιστών και Τεχνητής Νοημοσύνης του πανεπιστημίου.

Αποφοίτησε από το Εθνικό Μετσόβιο Πολυτεχνείο, απέκτησε διδακτορικό στην Επιστήμη Υπολογιστών από το University of California, Berkeley και εντάχθηκε στο διδακτικό προσωπικό του MIT το 2009. Είναι επίσης συνιδρυτής και επικεφαλής ερευνητής του ερευνητικού κέντρου ΤΝ «Αρχιμήδης».

Το ερευνητικό του έργο βρίσκεται στη διασταύρωση της θεωρίας υπολογισμού με τη θεωρία παιγνίων, τα οικονομικά, τις πιθανότητες, τη στατιστική και τη μηχανική μάθηση, ενώ μεταξύ των διεθνών διακρίσεών του περιλαμβάνονται το Nevanlinna Prize της International Mathematical Union και το ACM Grace Murray Hopper Award.

Το ερώτημα αλλάζει: Όχι μόνο τι μπορεί να δημιουργήσει, αλλά τι μπορεί να κάνει

Η μεγάλη μετατόπιση βρίσκεται ακριβώς εκεί.

Για χρόνια η δημόσια συζήτηση γύρω από την ΤΝ περιστρεφόταν γύρω από το τι μπορούσε να παράγει: κείμενα, εικόνες, κώδικα, απαντήσεις, αναλύσεις.

Με τους αυτόνομους πράκτορες, το ερώτημα αλλάζει. Αφορά πλέον το τι μπορεί να κάνει ένα σύστημα όταν του επιτραπεί να ενεργήσει.

Από το ερώτημα του Άλαν Τούρινγκ το 1950 και το Dartmouth του 1956 έως τα σημερινά μεγάλα γλωσσικά μοντέλα, η Τεχνητή Νοημοσύνη έχει διανύσει μέσα σε επτά δεκαετίες μια απόσταση που για μεγάλο μέρος αυτής της περιόδου έμοιαζε περισσότερο με επιστημονική φαντασία.

Το επόμενο κεφάλαιο έχει ήδη αρχίσει. Και, όπως προκύπτει από την προειδοποίηση του Κωνσταντίνου Δασκαλάκη, το κρίσιμο ερώτημα δεν είναι μόνο πόσο ισχυρά μπορούν να γίνουν αυτά τα συστήματα. Είναι πόσο αξιόπιστα μπορούν να ελεγχθούν όταν είναι ήδη «εξαιρετικά ικανά αλλά και απρόβλεπτα».

Πηγή: ΑΠΕ – ΜΠΕ 

Προτιμώμενη πηγή στην Google

Για να εμφανίζονται περισσότερα άρθρα της Ναυτεμπορικής στις αναζητήσεις σας εύκολα και γρήγορα, πρέπει να προσθέσετε το site στις προτιμώμενες πηγές σας. Μπορείτε να το κάνετε πηγαίνοντας εδώ.