Η Τεχνητή Νοημοσύνη και η παγίδα της λειτουργικής τύφλωσης

Τoυ Κωνσταντίνου Ι. Φράγκου, μηχανικού Ηλεκτρονικών Υπολογιστικών Συστημάτων –
τραπεζικού, υποψήφιου διδάκτορα Πανεπιστημίου Δυτικής Αττικής

ΣΤΙΣ ΑΙΘΟΥΣΕΣ των διοικητικών συμβουλίων και στα στρατηγικά πλάνα των σύγχρονων επιχειρήσεων κυριαρχεί πλέον ένας ιδιότυπος «τεχνοκρατικός μεσσιανισμός».

ΟΙ «ΠΙΣΤΟΙ» αυτής της νέας τάσης ασπάζονται το «Αλάθητο των Δεδομένων» (Dataism), θεωρώντας ότι οι αλγόριθμοι είναι εξ ορισμού αντικειμενικοί, αμερόληπτοι και πάντα σωστοί, σε αντίθεση με τους ανθρώπους, που είναι συναισθηματικοί και κάνουν λάθη.

Αγνοούν, ωστόσο, επιδεικτικά ότι οι αλγόριθμοι σχεδιάζονται από ανθρώπους και συχνά απλώς αναπαράγουν και μεγεθύνουν υπάρχουσες κοινωνικές προκαταλήψεις.

ΥΠ’ ΑΥΤΟ το πρίσμα, το νέο αφήγημα είναι σαγηνευτικό, καθώς η μετάβαση σε μοντέλα ολοκληρωτικής χρήσης της Τεχνητής Νοημοσύνης δεν παρουσιάζεται απλώς ως εργαλείο, αλλά ως η απόλυτη λύση για την ελαχιστοποίηση του κόστους και τη μεγιστοποίηση της απόδοσης.

ΌΜΩΣ, πίσω από τη λάμψη της καινοτομίας, ελλοχεύει μια επικίνδυνη απλούστευση, καθώς το ζήτημα που ανακύπτει δεν είναι τεχνικό, αλλά βαθύτατα πολιτικό και υπαρξιακό για τον κόσμο της εργασίας.

Η ΕΙΣΑΓΩΓΗ ψηφιακών οντοτήτων που λαμβάνουν αποφάσεις, κατανέμουν πόρους και αξιολογούν την ανθρώπινη απόδοση συνιστά μια βίαιη αναδιανομή ισχύος, οδηγώντας όχι σε έναν απλό ψηφιακό μετασχηματισμό, αλλά στην εγκαθίδρυση ενός αόρατου «ψηφιακού τεϊλορισμού» – μιας συνθήκης, δηλαδή, όπου η απόλυτη ποσοτικοποίηση κάθε ανθρώπινης κίνησης και η αλγοριθμική μικρο-διαχείριση καταργούν κάθε ίχνος επαγγελματικής αυτονομίας, μετατρέποντας τον εργαζόμενο σε απλό εκτελεστή δεδομένων.

ΟΙ ΕΠΙΧΕΙΡΗΣΕΙΣ που σπεύδουν να υιοθετήσουν τυφλά την Τεχνητή Νοημοσύνη κινδυνεύουν να πέσουν στην παγίδα της «λειτουργικής τύφλωσης».

Τα παραδείγματα είναι ήδη ανησυχητικά: από συστήματα που παρακολουθούν τον «συναισθηματικό τόνο» των εργαζομένων σε call centers μέχρι αλγορίθμους που αξιολογούν την «αφοσίωση» μέσω της ανάλυσης των κινήσεων του προσώπου σε βιντεοκλήσεις.

Αυτό που παρουσιάζεται ως βελτιστοποίηση καταλήγει συχνά σε μια ψηφιακή πανοπτική φυλακή.

ΌΤΑΝ μια αλγοριθμική διοίκηση αναλαμβάνει να κρίνει την παραγωγικότητα ή να καθορίσει τις ανταμοιβές, δημιουργείται ένα στεγανό εξουσίας, ένα «μαύρο κουτί» απροσπέλαστο στον εργαζόμενο, εγείροντας το επιτακτικό ερώτημα για το ποιος ελέγχει τελικά τις ηθικές παραμέτρους της αυτοματοποίησης.

ΑΚΟΜΗ πιο ανησυχητική είναι η τάση για μια μορφή «αλγοριθμικής ψυχογράφησης», όπου η τεχνολογία καλείται να μετρήσει την αφοσίωση ή το κίνητρο.

Ωστόσο, το νέο ευρωπαϊκό πλαίσιο θέτει πλέον σαφή όρια, καθιστώντας απαγορευτική τη χρήση συστημάτων AI για την αναγνώριση συναισθημάτων στον χώρο εργασίας, υπενθυμίζοντας σε όλους πως η ανθρώπινη ψυχή και η συναισθηματική κατάσταση δεν αποτελούν μετρήσιμα μεγέθη προς βελτιστοποίηση.

ΣΕ ΑΥΤΟ το νέο τοπίο, η συμμόρφωση με τους κανονισμούς δεν πρέπει να αντιμετωπίζεται από τις επιχειρήσεις ως γραφειοκρατικό βαρίδι, αλλά ως ευκαιρία για θεσμική θωράκιση.

Ο νομικός χαρακτηρισμός συστημάτων αξιολόγησης ως «υψηλού κινδύνου» αποτελεί τη νομική αναγνώριση της ηθικής επιταγής ότι η ανθρώπινη αξιοπρέπεια δεν είναι διαπραγματεύσιμη.

ΟΙ ΕΠΙΧΕΙΡΗΣΕΙΣ οφείλουν να εγκαταλείψουν τη λογική του «αποφασίζουμε και διατάσσουμε» και να προχωρήσουν σε ουσιαστική διαβούλευση, ενημερώνοντας τους εκπροσώπους των εργαζομένων πριν από την εφαρμογή τέτοιων συστημάτων.

ΠΑΡΑΛΛΗΛΑ, η ουσιαστική κατανόηση της Τεχνητής Νοημοσύνης (AI Literacy) μετατρέπεται από προαιρετική παροχή σε αναγκαία συνθήκη, ώστε οι εργαζόμενοι να κατανοούν τα εργαλεία που ορίζουν την καθημερινότητά τους και να μην είναι απλώς χειριστές, αλλά συνειδητοί χρήστες.

Η ΔΙΑΣΦΑΛΙΣΗ της ανθρώπινης εποπτείας στην τελική κρίση παραμένει η μοναδική δικλίδα ασφαλείας απέναντι στην ψυχρή λογική του κώδικα.

ΣΤΗΝ ΠΡΑΞΗ, αυτό μεταφράζεται στο δικαίωμα αμφισβήτησης της αλγοριθμικής κρίσης, στην υποχρεωτική ανθρώπινη επανεξέταση κάθε απόφασης που επηρεάζει την εργασιακή υπόσταση και στην απόλυτη διαφάνεια των κριτηρίων που τροφοδοτούν τα συστήματα λήψης αποφάσεων.

Η ΕΠΟΧΗ που η τεχνολογία αποτελούσε άλλοθι για αυθαίρετες διοικητικές πρακτικές έχει παρέλθει και οι οργανισμοί που θα ξεχωρίσουν στο μέλλον δεν θα είναι αυτοί με τους ταχύτερους επεξεργαστές, αλλά εκείνοι που θα καταφέρουν να ενσωματώσουν την καινοτομία με όρους κοινωνικής συναίνεσης.

Η καινοτομία χωρίς ανθρωποκεντρικό πρόσημο είναι απλώς μια εκλεπτυσμένη βαρβαρότητα και η αγορά, αργά ή γρήγορα, τιμωρεί τη βαρβαρότητα.