Γιατί η Anthropic παγιδεύεται στις ίδιες της τις προειδοποιήσεις για ψηφιακή δυστοπία

Παγιδευμένη στο «δίλημμα του φυλακισμένου» εμφανίζεται η Silicon Valley, καθώς η κούρσα για την κυριαρχία στην τεχνητή νοημοσύνη εξαναγκάζει ακόμη και τους υποστηρικτές της ασφάλειας να θυσιάσουν τις αρχές τους στον βωμό του ανταγωνισμού. Χαρακτηριστική είναι η περίπτωση της Anthropic, η οποία γεννήθηκε ως το απόλυτο ανάχωμα απέναντι σε μια πιθανή ψηφιακή δυστοπία, ιδρυόμενη από στελέχη που αποχώρησαν από την OpenAI ακριβώς επειδή διαφωνούσαν με την επικίνδυνα γρήγορη ανάπτυξη της τεχνολογίας.

Στόχος του διευθύνοντος συμβούλου της, Ντάριο Αμοντέι, ήταν να προλάβει εξαρχής τον εκτροχιασμό των συστημάτων αυτών. Αν και ο ίδιος κρούει τον κώδωνα του κινδύνου εδώ και καιρό, το Σάββατο επανήλθε με ένα καθηλωτικό, σχεδόν αποκαλυπτικό μανιφέστο, ευθυγραμμιζόμενος πλήρως με τους εφιάλτες και τις προειδοποιήσεις περί «Ημέρας της Κρίσης» που εξαπέλυσαν πρόσφατα νυν και πρώην στελέχη, καθώς οι εταιρείες τρέχουν τυφλά προς μια ανεξέλεγκτη υπερνοημοσύνη.

«Παλεύω με την δυαδικότητα κινδύνου και οφέλους»

«Μαζί με τους συνιδρυτές και τους υπαλλήλους, παλεύω με τη δυαδικότητα κινδύνου και οφέλους από τα σπάργανα της Anthropic», εξομολογήθηκε ο Αμοντέι. «Η μη ανάπτυξη της τεχνολογίας στερεί την ανθρωπότητα από πολύτιμα αντίδοτα ή, ακόμη χειρότερα, παραδίδει τα όπλα της τεχνητής νοημοσύνης σε αυταρχικά καθεστώτα. Από την άλλη πλευρά, η ιλιγγιώδης, τυφλή ταχύτητα οικοδόμησής της συνιστά καθαρή αυτοκτονία».

 Με το βλέμμα στην Wall Street

Ο ίδιος ανανέωσε την αγωνιώδη έκκλησή του προς τους ανταγωνιστές του να τραβήξουν χειρόφρενο στην κούρσα των εξοπλισμών της προηγμένης νοημοσύνης, ώστε να εξαγοραστεί ο απαραίτητος χρόνος για τη θωράκιση της ανθρωπότητας. Εντούτοις, ελάχιστες εβδομάδες πριν από τη διαφαινόμενη μεγαλύτερη αρχική δημόσια προσφορά στην ιστορία της Wall Street, ο Αμοντέι απέφυγε την προφανή, γενναία πράξη: να τραβήξει ο ίδιος την πρίζα ή έστω να επιβραδύνει τα εργαστήρια της Anthropic.

Η OpenAI και το δίλημμα του φυλακισμένου

Πρόκειται για την τέλεια αποτύπωση αυτού που στη θεωρία παιγνίων ονομάζεται «το δίλημμα του φυλακισμένου»: Μια κατάσταση όπου η συνεργασία και η ταυτόχρονη επιβράδυνση όλων των παικτών θα ήταν η ιδανική επιλογή για το κοινό καλό. Ωστόσο, ο φόβος ότι ο αντίπαλος δεν θα σταματήσει και θα κυριαρχήσει στην αγορά αναγκάζει τον καθένα να συνεχίσει να τρέχει, εγκλωβίζοντας τελικά ολόκληρο τον κλάδο σε μια καταστροφική κούρσα.

Εάν όλα τα εργαστήρια τεχνητής νοημοσύνης, συμπεριλαμβανομένης της OpenAI, συμφωνήσουν να ρίξουν τις ταχύτητές τους, η ανθρωπότητα θα μπορούσε να βγει κερδισμένη, εφόσον ευσταθούν οι προειδοποιήσεις του Αμοντέι. Μια τέτοια συλλογική επιβράδυνση θα προσέφερε στρατηγικό πλεονέκτημα στην Anthropic, η οποία ήδη κατέχει ηγετική θέση στον κλάδο.

Στον αντίποδα, αν η εταιρεία αποτελέσει τη μοναδική φωνή που θα εφαρμόσει την έκκληση στην πράξη, κινδυνεύει να μείνει πίσω από τον άσπονδο ανταγωνιστή της.

Το «φόβητρο» της Κίνας

Ακόμη όμως και στην περίπτωση που η OpenAI ευθυγραμμιστεί με αυτή τη γραμμή -όπως άφησε να εννοηθεί ο διευθύνων σύμβουλός της, Σαμ Άλτμαν- ελλοχεύει πάντα ο γεωπολιτικός κίνδυνος να απωλέσουν οι ΗΠΑ την πρωτοκαθεδρία από την Κίνα.

Είναι πολλά τα λεφτά – Αποτίμηση που προσεγγίζει τα 2 τρισεκατομμύρια δολάρια

Πέρα από τη γεωπολιτική σκακιέρα, καθοριστικό ρόλο διαδραματίζουν τα οικονομικά μεγέθη. Τα τρισεκατομμύρια δολάρια που διακυβεύονται αναμένεται να εκτοξεύσουν τον Αμοντέι μεταξύ των πλουσιότερων ανθρώπων του πλανήτη, θωρακίζοντας παράλληλα την κεφαλαιακή επάρκεια της επιχείρησης για την περαιτέρω επιτάχυνση των συστημάτων της.

Ήδη από τον Ιούνιο, έχουν υποβληθεί εμπιστευτικά έγγραφα ενόψει της εισαγωγής στο χρηματιστήριο, η οποία προγραμματίζεται για τον τρέχοντα μήνα ή τον Οκτώβριο. Σύμφωνα με δημοσίευμα της Wall Street Journal, ο στόχος είναι η άντληση κεφαλαίων ύψους έως και 100 δισεκατομμυρίων δολαρίων, με την αποτίμηση να προσεγγίζει τα 2 τρισεκατομμύρια δολάρια, σε μια προσπάθεια να προλάβει την αντίστοιχη αρχική δημόσια προσφορά της OpenAI.

Βλέποντας συνωμοσίες

Τα τεράστια οικονομικά συμφέροντα που διακυβεύονται αποτελούν, τελικά, τον κύριο λόγο για τον οποίο ορισμένοι κύκλοι στον τομέα της τεχνητής νοημοσύνης αρνούνται να λάβουν σοβαρά υπόψη τις προειδοποιήσεις. Αντίθετα, αποδίδουν τη στάση της Anthropic σε μια στρατηγική μάρκετινγκ, τυλιγμένη στον μανδύα ενός ψευδούς συναγερμού, ή αφήνουν αιχμές ότι η συγκεκριμένη ρητορική εντάσσεται σε μια ακόμη εκστρατεία ξένης επιρροής με στόχο να μείνουν οι ΗΠΑ πίσω από την Κίνα. Άλλοι πάλι υποστηρίζουν ότι πρόκειται για μέρος μιας εξελιγμένης προσπάθειας άσκησης πίεσης, προκειμένου να θεσπιστούν κανονισμοί που θα εδραιώσουν την ηγετική θέση της εταιρείας στην αγορά, αποκλείοντας τους νεότερους ανταγωνιστές.

Η μεγάλη αντίφαση στον δρόμο προς το χρηματιστήριο

Ωστόσο, μετά τις καταιγιστικές εξελίξεις της περασμένης εβδομάδας, φαντάζει εξαιρετικά δύσκολο να πιστέψει κανείς ότι η Anthropic είναι πραγματικά έτοιμη να περάσει το κατώφλι του χρηματιστηρίου τις επόμενες εβδομάδες. Δεν είναι δυνατόν να προγραμματίζεται μια τέτοια κίνηση όταν τα ίδια τα στελέχη της εταιρείας δηλώνουν δημόσια ότι η τεχνολογία την οποία αναπτύσσουν ενδέχεται να εξαλείψει την ανθρωπότητα τα επόμενα χρόνια. Μάλιστα, ο επικεφαλής του τμήματος επιστήμης ασφάλειας και ευθυγράμμισης της Anthropic, Εβάν Χούμπινγκερ, παραδέχθηκε ανοιχτά ότι η επιχείρηση δεν διαθέτει ακόμη ένα ολοκληρωμένο πλάνο για να ελέγξει και να θωρακίσει μια τέτοια υπερνοημοσύνη, προσδίδοντας πιθανότητα άνω του 10% στο σενάριο του απόλυτου αφανισμού εντός της επόμενης δεκαετίας.

Όπως είναι φυσικό, οι συγκεκριμένες αποκαλύψεις, σε συνδυασμό με τις πρόσφατες κακόβουλες κυβερνοεπιθέσεις μέσω συστημάτων τεχνητής νοημοσύνης, έχουν σημάνει συναγερμό. Δεκάδες Αμερικανοί νομοθέτες —τόσο από το Ρεπουμπλικανικό όσο και από το Δημοκρατικό Κόμμα— ζητούν πλέον επιτακτικά τη λήψη μέτρων, προκρίνοντας ακόμη και το προσωρινό πάγωμα της ανάπτυξης των προηγμένων μοντέλων. Εντούτοις, η πραγματικά εφιαλτική διάσταση των σεναρίων περί «Ημέρας της Κρίσης» δεν εντοπίζεται στην απειλή των μοντέλων της Anthropic, καθώς ανάλογες προειδοποιήσεις έχουν διατυπωθεί και στο παρελθόν.

Το πλέον ανησυχητικό στοιχείο είναι η ξεκάθαρη ένδειξη ότι οι μοναδικές δικλείδες ασφαλείας που σχεδίασε ο Αμοντέι για να θωρακίσει την εταιρεία απέναντι στις πιέσεις της ελεύθερης αγοράς καταρρέουν.

Τυφλή κούρσα για την πρωτιά

«Στην Anthropic, οι κίνδυνοι είναι απολύτως κατανοητοί, όμως έχουν παγιδευτεί σε μια τυφλή κούρσα για την πρωτιά. Πιστεύουν ότι κανένας άλλος δεν θα ενεργήσει υπεύθυνα,», προειδοποίησε χαρακτηριστικά ο παραιτηθείς κορυφαίος ερευνητής της εταιρείας, Τζέικομπ Κόξον, με ανάρτησή του στην πλατφόρμα X την περασμένη Τρίτη.

Ο ερευνητής, με θητεία και στην OpenAI στο παρελθόν, δημοσιοποίησε την αποχώρησή του σε συνέντευξη στη Wall Street Journal, για να ακολουθήσουν διαδοχικές εμφανίσεις στα δίκτυα CNN και Fox News. Η ευρεία απήχηση της προσωπικής του διαδρομής μετέτρεψε την κινδυνολογία γύρω από την τεχνητή νοημοσύνη  σε κυρίαρχο θέμα συζήτησης στην κοινή γνώμη, αιφνιδιάζοντας τον κλάδο.

Προτιμώμενη πηγή στην Google

Για να εμφανίζονται περισσότερα άρθρα της Ναυτεμπορικής στις αναζητήσεις σας εύκολα και γρήγορα, πρέπει να προσθέσετε το site στις προτιμώμενες πηγές σας. Μπορείτε να το κάνετε πηγαίνοντας εδώ.