Μια αγελάδα μπορεί να δει τον άνθρωπο που την ταΐζει. Δεν μπορεί, όμως, να αντιληφθεί την τραπεζική συναλλαγή με την οποία αλλάζει ιδιοκτήτη.
Η ζωή της καθορίζεται από ένα σύστημα που παραμένει αόρατο για εκείνη. Κάπως έτσι ενδέχεται να είναι η δική μας σχέση με την τεχνητή νοημοσύνη, προειδοποιεί ο Γιούβαλ Νόα Χαράρι.
«Είμαστε οι αγελάδες του μέλλοντος», δηλώνει ο ιστορικός και συγγραφέας του «Sapiens», σε συνέντευξή του στον Ντάνιελ Σταχ, στην εκπομπή Hyde Park Civilizace της τσεχικής δημόσιας τηλεόρασης.
Η παρομοίωση περιγράφει τον κίνδυνο να συνεχίσουμε να ζούμε μέσα σε οικονομικά και νομικά συστήματα, έχοντας χάσει την ικανότητα να καταλαβαίνουμε πώς λειτουργούν — και ποιος αποφασίζει για εμάς.
Από το εργαλείο στον αυτόνομο παράγοντα
Στον πυρήνα της σκέψης του βρίσκεται μια διάκριση: οι προηγούμενες τεχνολογίες εκτελούσαν ανθρώπινες αποφάσεις. Η AI, υποστηρίζει, μπορεί να λαμβάνει αποφάσεις και να παράγει νέες ιδέες.
Ακόμη και η ατομική βόμβα, παρά την καταστροφική ισχύ της, δεν επιλέγει μόνη της εάν θα χρησιμοποιηθεί ή ποιος θα είναι ο στόχος της. Την απόφαση παίρνει άνθρωπος.
Αντίστοιχα, όπως έχει εξηγήσει σε συνέντευξή του στο Wired, η τυπογραφική μηχανή δεν γράφει βιβλία ούτε επιλέγει ποια θα τυπωθούν. Η τεχνητή νοημοσύνη μπορεί να δημιουργεί περιεχόμενο και να επιλέγει ποιες ιδέες θα διαδίδει. Γι’ αυτό ο Χαράρι την αντιμετωπίζει ως παράγοντα δράσης, με δυνατότητα να μεταβάλλει τον κόσμο χωρίς ανθρώπινη καθοδήγηση σε κάθε βήμα.
Η εξουσία περνά από τη γραφειοκρατία
Το ανησυχητικό σενάριό του δεν χρειάζεται στρατιές ρομπότ στους δρόμους. Περνά μέσα από τράπεζες, διοικητικούς μηχανισμούς και κανόνες.
Η προειδοποίησή του αφορά τον ορίζοντα των επόμενων δέκα ή είκοσι ετών: συστήματα που δημιουργεί η AI θα μπορούσαν να αποκτήσουν τέτοια πολυπλοκότητα, ώστε οι άνθρωποι να αδυνατούν να τα κατανοήσουν. Η εξάρτησή μας θα μεγάλωνε, ενώ η δυνατότητα παρέμβασής μας θα συρρικνωνόταν.
Ποιος λογοδοτεί για την απόφαση;
Σε παλαιότερη συνέντευξή του στο Vox, ο Χαράρι δίνει ένα καθημερινό παράδειγμα: ζητάς τραπεζικό δάνειο, απορρίπτεσαι και, όταν ρωτάς γιατί, κανείς δεν μπορεί να εξηγήσει την απόφαση του αλγορίθμου.
Για τον ίδιο, εκεί ανακύπτει πρόβλημα δημοκρατίας. Η λογοδοσία προϋποθέτει ότι μπορούμε να κατανοούμε και να αμφισβητούμε τις αποφάσεις που μας αφορούν.
Δεν παρουσιάζει αυτή την έκβαση ως αναπόφευκτη. Επιμένει ότι ο σχεδιασμός και ο έλεγχος των συστημάτων αποτελούν ακόμη ανθρώπινη ευθύνη. Η προειδοποίησή του, όμως, είναι σαφής: μπορεί να χάσουμε τον έλεγχο πολύ πριν αντιληφθούμε ότι δεν καταλαβαίνουμε πια τους κανόνες.
Προτιμώμενη πηγή στην Google
Για να εμφανίζονται περισσότερα άρθρα της Ναυτεμπορικής στις αναζητήσεις σας εύκολα και γρήγορα, πρέπει να προσθέσετε το site στις προτιμώμενες πηγές σας. Μπορείτε να το κάνετε πηγαίνοντας εδώ.
