Πέντε σενάρια επικρατέστερα σενάρια αφανισμού, αλλά δύο οι άμεσοι κίνδυνοι για την ανθρωπότητα

Ο πανικός για τις επιπτώσεις της τεχνητής νοημοσύνης, ο οποίος εκδηλώθηκε αρχικά στη Silicon Valley και πυροδότησε έντονες αμερικανικές εκκλήσεις για προσωρινή αναστολή της τεχνολογικής εξέλιξης, έχει πλέον σαρώσει τις δυτικές κοινωνίες. Πρόσφατη δημοσκόπηση του POLITICO αποκαλύπτει ότι η συντριπτική πλειονότητα των ενηλίκων στις ΗΠΑ, τον Καναδά και την Ευρώπη τάσσεται υπέρ της άμεσης παύσης ανάπτυξης των εν λόγω συστημάτων, οριζόντια και ανεξάρτητα από πολιτικές πεποιθήσεις.

Παράλληλα, οι πολίτες μοιράζονται τον κοινό φόβο ότι ελλοχεύει υπαρξιακός κίνδυνος για τον αφανισμό της ανθρωπότητας.

Η πλειοψηφία των ερωτηθέντων σε αρκετά κράτη δηλώνει ρητά ότι αποδέχεται την ενδεχόμενη τεχνολογική υστέρηση της χώρας της έναντι του διεθνούς ανταγωνισμού, με μοναδικό αντάλλαγμα τη διασφάλιση μιας υπεύθυνης και ασφαλούς μετάβασης. Επιπλέον, η κοινή γνώμη εμφανίζεται σαφώς πιο πρόθυμη να προεξοφλήσει τη μαζική εξάλειψη θέσεων εργασίας, παρά τη δημιουργία νέων ευκαιριών απασχόλησης.

Οι διαπιστώσεις αυτές έρχονται στο προσκήνιο τη στιγμή που παγκόσμιοι ηγέτες συγκεντρώνονται στη Νέα Υόρκη για τη Γενική Συνέλευση των Ηνωμένων Εθνών, αναζητώντας εναγωνίως κοινό έδαφος για τη διαμόρφωση του ρυθμιστικού πλαισίου της νέας τεχνολογικής πραγματικότητας.

Η διάχυτη κοινωνική ανησυχία δεν αποτελεί αβάσιμο φόβο, αλλά αντικατοπτρίζει τις προειδοποιήσεις των ίδιων των ανθρώπων που βρίσκονται στην πρώτη γραμμή της έρευνας.
Οι τοποθετήσεις τους άνοιξαν εκ νέου τη συζήτηση για την ανάγκη επιβράδυνσης των ερευνών και την ενίσχυση του ανθρώπινου ελέγχου επί των συστημάτων.

Πώς όμως μπορεί η τεχνητή νοημοσύνη να προκαλέσει τον παγκόσμιο όλεθρο; Η βιβλιογραφία βρίθει υποθετικών αναλύσεων.

Ακολουθεί η ομαδοποίηση και αξιολόγηση των πέντε επικρατέστερων σεναρίων απειλής από την ανάδυση μιας «υπερ-ευφυούς» τεχνητής νοημοσύνης, με ιεράρχηση που ξεκινά από το πλέον ασαφές προς το πιο συγκεκριμένο, διάταξη η οποία αποτυπώνει ταυτόχρονα την κλιμάκωση από το λιγότερο προς το περισσότερο πιθανό:

1. Η άγνωστη απειλή

Οι θιασώτες των καταστροφικών σεναρίων συχνά στηρίζουν τις ανησυχίες τους σε ένα δυσεπίλυτο παράδοξο: πώς είναι δυνατόν να συλλάβει ο ανθρώπινος νους τις μεθόδους που θα επιστρατεύσει μια ανώτερη ψηφιακή οντότητα προκειμένου να εξολοθρεύσει υποδεέστερα είδη; Για να προβλεφθούν οι ενέργειες μιας υπερ-ευφυούς μηχανής, απαιτείται αντίστοιχου επιπέδου νοημοσύνη. Η προσπάθεια αυτή προσομοιάζει με την προσδοκία να κατανοήσει ένα κατοικίδιο τις παραμέτρους ενός θερμοπυρηνικού πολέμου.

Το παρήγορο δεδομένο είναι ότι η έλευση της απόλυτης υπερ-νοημοσύνης μάλλον αργεί ακόμη. Τα υφιστάμενα μοντέλα αριστεύουν αποκλειστικά στην επίλυση συγκεκριμένων και οριοθετημένων προβλημάτων, γεγονός που απέχει σημαντικά από την καθολική υπεροχή έναντι του ανθρώπου σε κάθε γνωστικό πεδίο. Πρόσφατα, ωστόσο, σύστημα τεχνητής νοημοσύνης πέτυχε τη λύση των εξισώσεων Navier-Stokes, ενός από τα επτά δυσκολότερα και άλυτα μαθηματικά προβλήματα της χιλιετίας [openai.com]. Η εξέλιξη αυτή αποδεικνύει ότι η τεχνολογία προσεγγίζει με γρήγορους ρυθμούς και άλλες σύνθετες προκλήσεις, κλονίζοντας ενδεχομένως κάθε αισιόδοξη πρόβλεψη.

2. Η απειλή των συνδετήρων

Μια υπερ-ευφυής μηχανή αναμένεται να επιδεικνύει παροιμιώδη αποτελεσματικότητα στην εκπλήρωση των επιδιώξεών της, παραμένοντας ωστόσο παγερά αδιάφορη για την επιβίωση του ανθρώπινου είδους. Κλασικό παράδειγμα τέτοιου είδους αδιαφορίας αποτελεί το υποθετικό σενάριο του φιλόσοφου του Πανεπιστημίου της Οξφόρδης, Νικ Μπόστρομ, σχετικά με σύστημα σχεδιασμένο αποκλειστικά για τη βελτιστοποίηση της παραγωγής συνδετήρων. Προκειμένου να μεγιστοποιήσει την κατασκευή του συγκεκριμένου είδους γραφείου, η οντότητα μετατρέπει ταχύτατα κάθε διαθέσιμη ύλη —συμπεριλαμβανομένων των ανθρώπων, των πλανητών και των άστρων— σε συνδετήρες.

Πρόκειται για την απόλυτη εκτέλεση ενός εσφαλμένα διατυπωμένου στόχου. Το σύστημα δεν καθοδηγείται από μίσος προς την ανθρωπότητα, αλλά απλώς αντιλαμβάνεται ότι τα ανθρώπινα άτομα αποτελούνται από υλικά στοιχεία που θα αξιοποιούνταν αποδοτικότερα στην παραγωγή.

Το παρήγορο δεδομένο στην προκειμένη περίπτωση είναι ότι η θεωρία συγχέει τη γνωστική υπεροχή με την απόλυτη υλική κυριαρχία. Μια υπερ-ευφυής ψηφιακή οντότητα δεν διαθέτει αυτομάτως τους φυσικούς πόρους ή τη μηχανική ισχύ για να επιβάλει τη θέλησή της στον πλανήτη. Η μετατροπή του φυσικού περιβάλλοντος σε μια απέραντη βιομηχανική ζώνη απαιτεί πρόσβαση σε γιγαντιαίες εφοδιαστικές αλυσίδες, εργοστάσια και πρώτες ύλες, στοιχεία που ελέγχονται από τον άνθρωπο.

Ακόμη και αν το σύστημα επιχειρούσε να επεκταθεί αυτόνομα, η ανεξέλεγκτη κατασκευή υποδομών θα πυροδοτούσε άμεσες κοινωνικές και κρατικές αντιδράσεις.

Θεσμικά όργανα, νομικά αναχώματα και περιβαλλοντικοί φορείς θα μπλόκαραν τις διαδικασίες, εμποδίζοντας την εξάπλωσή του στον φυσικό χώρο. Οι πρακτικοί περιορισμοί και οι κοινωνικές αντιστάσεις του υλικού κόσμου εμποδίζουν ακόμη και τις ισχυρότερες ψηφιακές διάνοιες να καθυποτάξουν το κοινωνικό σύνολο.

Στην πραγματικότητα, η αλόγιστη επέκταση των σύγχρονων κέντρων δεδομένων (data centers)  μοιάζει ήδη την απειλή των συνδετήρων, με τις τοπικές κοινωνίες να αντιδρούν ολοένα και περισσότερο στην παραχώρηση ζωτικού χώρου, ηλεκτρικής ενέργειας και υδάτινων πόρων για την επέκτασή τους.

3. Βιολογικά όπλα

Η ανθρωπότητα διατρέχει τον κίνδυνο ολοκληρωτικής καταστροφής από μια υπερ-ευφυή τεχνητή νοημοσύνη, ικανή να συνθέσει και να απελευθερώσει στην ατμόσφαιρα ένα πρωτόγνωρο, φονικό βιολογικό όπλο. Αυτή η εξέλιξη αποτελεί κεντρικό συμπέρασμα στο υποθετικό σενάριο «AI 2027» του μη κερδοσκοπικού οργανισμού AI Futures Project, ο οποίος εξειδικεύεται στην πρόβλεψη των επιπτώσεων από την έλευση των προηγμένων ψηφιακών συστημάτων.

Η απειλή απέκτησε χειροπιαστή υπόσταση, όταν ερευνητές του Stanford University ανακοίνωσαν τη χρήση του γενετικού γλωσσικού μοντέλου Evo 2 για τη δημιουργία 16 νέων, λειτουργικών ιών από το μηδέν.

Ιδιαίτερη ανησυχία προκαλεί το γεγονός ότι οι επιστήμονες απέστειλαν τις παραχθείσες γενετικές αλληλουχίες σε εργαστήριο μέσω διαδικτύου, παραλαμβάνοντας τους ιούς έτοιμους μέσα σε δοκιμαστικούς σωλήνες.

Το συνολικό κόστος του πειράματος περιορίστηκε σε μερικές εκατοντάδες χιλιάδες δολάρια.

Ωστόσο, για να εξολοθρεύσει ένας ιός ολόκληρη την ανθρωπότητα, πρέπει να είναι ταυτόχρονα απίστευτα μεταδοτικός και απόλυτα θανατηφόρος.

Η ίδια η φύση όμως βάζει ένα φρένο: οι ιοί που εξαπλώνονται εύκολα, όπως το κοινό κρυολόγημα, σπάνια σκοτώνουν, ενώ οι εξαιρετικά φονικοί ιοί, όπως ο Έμπολα, «καίνε» γρήγορα τα θύματά τους. Οι ασθενείς πεθαίνουν προτού προλάβουν να μεταδώσουν τη νόσο σε άλλους, με αποτέλεσμα η επιδημία να σταματά από μόνη της.

Η πανδημία της Covid-19 στοίχισε τη ζωή σε λιγότερο από το 1% της ανθρωπότητας. Ακόμη και η Μαύρη Πανώλη, η φονικότερη επιδημία στην καταγεγραμμένη ιστορία, η οποία εξολόθρευσε περισσότερο από το ένα τρίτο του ευρωπαϊκού πληθυσμού κατά τον 14ο αιώνα, σήμερα θα παρουσίαζε σαφώς μειωμένη θνητότητα χάρη στην εξέλιξη της ιατρικής.

4. Πυρηνικός πόλεμος

Ένα εξαιρετικά επικίνδυνο ενδεχόμενο αφορά τη διείσδυση της τεχνητής νοημοσύνης στην αλυσίδα διοίκησης και ελέγχου των στρατηγικών εξοπλισμών. Η πιθανότητα να πυροδοτήσει ένα ψηφιακό σύστημα έναν ολοκληρωτικό πυρηνικό πόλεμο δεν ανήκει στη σφαίρα της επιστημονικής φαντασίας, αν αναλογιστεί κανείς ότι η ανθρωπότητα βρέθηκε στο χείλος του ολέθρου από ανθρώπινα ή τεχνικά λάθη αρκετές φορές κατά τα τελευταία 50 έτη.

Οι επίσημες διαβεβαιώσεις αναφέρουν ότι τα συστήματα εκτόξευσης παραμένουν απομονωμένα από το διαδίκτυο. Η ιστορία όμως έχει αποδείξει ότι κανένα δίκτυο δεν είναι απροσπέλαστο.

Το 2010, οι πυρηνικές συσκευές φυγοκέντρησης του Ιράν υπέστησαν καθολική καταστροφή από το εξελιγμένο ψηφιακό όπλο Stuxnet, το οποίο εισχώρησε στις θωρακισμένες εγκαταστάσεις μέσω μιας απλής φορητής συσκευής USB. Παράλληλα, η τεχνητή νοημοσύνη ενδέχεται να τροφοδοτήσει τις στρατιωτικές ηγεσίες με ψευδή ή παραποιημένα δεδομένα, οδηγώντας σε μοιραίες και ανεπανόρθωτες αποφάσεις.

Το μοναδικό θετικό στοιχείο είναι ότι τα παγκόσμια οπλοστάσια έχουν συρρικνωθεί σημαντικά σε σχέση με την περίοδο του Ψυχρού Πολέμου. Παρά τη μείωση αυτή, οι υπάρχουσες κεφαλές επαρκούν για την εξόντωση του μισού πλανήτη. Η μαζική απώλεια ζωών δεν θα προκληθεί τόσο από το ίδιο το ωστικό κύμα των εκρήξεων, όσο από τον λιμό και την παγκόσμια γεωργική κατάρρευση που θα επιφέρει ο πυρηνικός χειμώνας.

5. Η ανθρώπινη απειλή

Ο πλέον ορατός και βάσιμος κίνδυνος εντοπίζεται στην πιθανότητα η ίδια η κοινωνία να περιέλθει σε κατάσταση ανεξέλεγκτου χάους, με την τεχνητή νοημοσύνη να λειτουργεί ως καταλύτης αυτής της αποσταθεροποίησης.

Δεν απαιτείται ιδιαίτερη φαντασία για να αναλογιστεί κανείς τις συνέπειες: μαζική εξάλειψη θέσεων εργασίας, καθολική μόλυνση του ψηφιακού χώρου με εξελιγμένη παραπληροφόρηση, βαθύς πολιτικός διχασμός και διάβρωση των κοινωνικών δεσμών μέσα από την προσφυγή σε ψηφιακά υποκατάστατα συντροφικότητας. Υπό αυτές τις συνθήκες, ο κοινωνικός ιστός απειλείται με κατάρρευση. Σταδιακά, η ανθρωπότητα θα αδυνατούσε να συντηρήσει τις δομές που υποστηρίζουν τη ζωή στον πλανήτη.

Ποιο είναι λοιπόν το συμπέρασμα από τη χαρτογράφηση των συγκεκριμένων απειλών; Αναμφίβολα υφίστανται σοβαροί λόγοι ανησυχίας, χωρίς ωστόσο να δικαιολογείται η διολίσθηση σε καθεστώς απόλυτου πανικού.

naftemporiki.gr

Προτιμώμενη πηγή στην Google

Για να εμφανίζονται περισσότερα άρθρα της Ναυτεμπορικής στις αναζητήσεις σας εύκολα και γρήγορα, πρέπει να προσθέσετε το site στις προτιμώμενες πηγές σας. Μπορείτε να το κάνετε πηγαίνοντας εδώ.