Πρώην στέλεχος ασφαλείας της Google προειδοποιεί ότι η τεχνητή νοημοσύνη θα μπορούσε να βλάψει τα παιδιά περισσότερο από ό,τι τα social media

Ο ιδρυτής της ομάδας «εμπιστοσύνης και ασφάλειας» της Google ζήτησε αυτή την εβδομάδα να επιβραδυνθεί η ανάπτυξη της τεχνητής νοημοσύνης, προειδοποιώντας ότι ο κλάδος της τεχνολογίας επαναλαμβάνει τα ίδια λάθη της εποχής των μέσων κοινωνικής δικτύωσης, γεγονός που ενδέχεται να προκαλέσει ακόμη μεγαλύτερη βλάβη στα παιδιά.

Οι εταιρείες μέσων κοινωνικής δικτύωσης καταβάλλουν τεράστια ποσά και αντιμετωπίζουν χιλιάδες αγωγές σχετικά με ισχυρισμούς ότι έβλαψαν νεαρούς χρήστες, ενώ κυβερνήσεις ανά τον κόσμο εργάζονται για τον περιορισμό της πρόσβασης των ανηλίκων στις πλατφόρμες τους.

Το Reuters μετέδωσε πέρυσι, κατ’ αποκλειστικότητα, την είδηση ​​για ένα εσωτερικό έγγραφο πολιτικής της Meta, το οποίο ανέφερε ότι τα chatbots της εταιρείας θα μπορούσαν να «εμπλέξουν ένα παιδί σε συζητήσεις ρομαντικού ή αισθησιακού χαρακτήρα», γεγονός που οδήγησε σε έρευνα από το Κογκρέσο. Παρά ταύτα, το ρυθμιστικό πλαίσιο δεν έχει ακόμη προλάβει τους καταιγιστικούς ρυθμούς ανάπτυξης της τεχνητής νοημοσύνης.

«Βρισκόμαστε σε μια πραγματικά δεινή κατάσταση όσον αφορά τις επιπτώσεις της τεχνητής νοημοσύνης στα παιδιά», δήλωσε στο Reuters ο Τομ Σίγκελ, πρώην αντιπρόεδρος του τμήματος εμπιστοσύνης και ασφάλειας της Google. «Η ιδέα ότι ο κλάδος θα βρει λύση μόνος του, χωρίς εξωτερική βοήθεια, είναι μη ρεαλιστική».

Οι ανησυχίες του Σίγκελ αντικατοπτρίζουν τον αυξανόμενο φόβο ορισμένων στελεχών του κλάδου της τεχνολογίας και ακαδημαϊκών ερευνητών ότι η τεχνητή νοημοσύνη συνιστά σοβαρότερη απειλή για τα παιδιά σε σχέση με τα μέσα κοινωνικής δικτύωσης, σε μια χρονική στιγμή που οι εταιρείες του κλάδου ανταγωνίζονται για την προσθήκη ολοένα και πιο προηγμένων λειτουργιών στα chatbots, τα οποία χρησιμοποιούν ήδη καθημερινά εκατομμύρια νέοι.

Ο Σίγκελ εντάχθηκε στο «Youth AI Safety Institute»

Ο Σίγκελ ανακοίνωσε την Τρίτη ότι εντάχθηκε στο Common Sense Media, μια οργάνωση υπεράσπισης δικαιωμάτων που δραστηριοποιείται στο διαδίκτυο με επίκεντρο τα παιδιά. Ο μη κερδοσκοπικός αυτός οργανισμός, που ιδρύθηκε το 2003, διεξάγει έρευνες και αξιολογεί την καταλληλότητα διαφόρων μέσων για τα παιδιά. Τον Μάιο, ίδρυσε το Youth AI Safety Institute, έναν ερευνητικό φορέα για την αξιολόγηση της χρήσης της τεχνητής νοημοσύνης από παιδιά, στον οποίο ο Σίγκελ θα αναλάβει καθήκοντα πρώτου εκτελεστικού διευθυντή.

Η Anthropic και το OpenAI Foundation —ο μη κερδοσκοπικός οργανισμός που ελέγχει την OpenAI— συγκαταλέγονται στους υποστηρικτές του ινστιτούτου.

Ο Σίγκελ δήλωσε ότι σχεδιάζει να αναπτύξει πρότυπα βάσει των οποίων θα καθίστανται υπόλογες οι εταιρείες τεχνητής νοημοσύνης, επιδιώκοντας να το επιτύχει αυτό μέσω της συνεργασίας με τις εν λόγω εταιρείες και με ανεξάρτητους φορείς.

Παλαιότερα εργάστηκε στην Google (από το 2004 έως το 2019), αλλά αποχώρησε έχοντας καταλήξει στο συμπέρασμα ότι η ικανότητα του κλάδου της τεχνολογίας να δημιουργεί ασφαλείς διαδικτυακούς χώρους για τους καταναλωτές είχε φτάσει σε τέλμα. Στη συνέχεια, συνίδρυσε την TrustLab, μια νεοφυή επιχείρηση που ανέπτυξε εργαλεία για τον εντοπισμό κινδύνων ασφαλείας από εταιρείες, προτού αποχωρήσει από τη θέση του διευθύνοντος συμβούλου νωρίτερα αυτόν τον μήνα για να αναλάβει τη νέα του θέση.

Στην παρούσα φάση, οι μεγάλες εταιρείες τεχνητής νοημοσύνης διαθέτουν λειτουργίες σε παιδιά χωρίς να έχουν θεσπίσει επαρκείς δικλείδες ασφαλείας, δήλωσε ο Σίγκελ.

Οι κίνδυνοι κυμαίνονται από αυτοκτονία έως ψύχωση

«Πιστεύω ότι βρισκόμαστε αντιμέτωποι με σενάρια πρόκλησης πολύ σοβαρών βλαβών», δήλωσε.

Επισήμανε ότι οι εταιρείες έχουν τη δυνατότητα να λάβουν άμεσα μέτρα για την καλύτερη προστασία των νέων, αναφέροντας κινδύνους που κυμαίνονται από την αυτοκτονία και την ψύχωση έως τη «γνωστική αποφόρτιση» — έναν όρο που περιγράφει τη μείωση της κριτικής σκέψης λόγω της εξάρτησης από την τεχνητή νοημοσύνη για την παροχή απαντήσεων.

Η Anthropic και η OpenAI θα μπορούσαν να εφαρμόσουν αυστηρότερα μέτρα επαλήθευσης ηλικίας, ώστε να εμποδίσουν την πρόσβαση ανηλίκων στα chatbot τους, ανέφερε. Η Google, η εταιρεία όπου εργαζόταν παλαιότερα, θα μπορούσε εύκολα να εισαγάγει μια επιλογή απενεργοποίησης των λειτουργιών «AI Overviews» και «AI Mode» στη μηχανή αναζήτησής της, πρόσθεσε, κατά τον ίδιο τρόπο που διαθέτει ήδη σχετική ρύθμιση η οποία επιτρέπει στους χρήστες να φιλτράρουν το σεξουαλικά ρητό περιεχόμενο.

Αν και αυτά τα μέτρα θα μπορούσαν να επηρεάσουν τη χρήση ή τα κέρδη βραχυπρόθεσμα, οι εταιρείες τεχνητής νοημοσύνης που δεν αναλαμβάνουν δράση θα διατρέχουν τον κίνδυνο αγωγών και ρυθμιστικών παρεμβάσεων που θα μπορούσαν να έχουν σοβαρότερο αντίκτυπο στις δραστηριότητές τους, πρόσθεσε ο Σίγκελ.

Κληθείς να σχολιάσει τις δηλώσεις του Σίγκελ, εκπρόσωπος της Google δήλωσε ότι οι γονείς έχουν στη διάθεσή τους εργαλεία ελέγχου για να απενεργοποιήσουν πλήρως την πρόσβαση του παιδιού στη μηχανή αναζήτησης.

«Οι λειτουργίες αναζήτησης με τεχνητή νοημοσύνη αποτελούν έναν εξαιρετικά χρήσιμο τρόπο για να μαθαίνουν, να εξερευνούν και να κατανοούν τις πληροφορίες και τον κόσμο τα παιδιά και οι έφηβοι», ανέφερε ο εκπρόσωπος.
Εκπρόσωπος της OpenAI δήλωσε ότι η εταιρεία αξιοποιεί «ενδείξεις που αφορούν τον λογαριασμό και τη συμπεριφορά», πέρα ​​από τη δήλωση ηλικίας από τον ίδιο τον χρήστη, για τον εντοπισμό ανήλικων χρηστών. «Αν και καμία μέθοδος επαλήθευσης ηλικίας δεν είναι τέλεια, δοκιμάζουμε και βελτιώνουμε συνεχώς αυτά τα συστήματα, λαμβάνοντας υπόψη και τις προσπάθειες παράκαμψης των δικλείδων ασφαλείας».

Η Anthropic δεν ανταποκρίθηκε άμεσα σε αίτημα για σχολιασμό.

Ο Σίγκελ, από την πλευρά της Common Sense Media, δήλωσε ότι βασική προτεραιότητα θα είναι η καθιέρωση ανεξάρτητων προτύπων —αντίστοιχων με τις δοκιμές πρόσκρουσης στα αυτοκίνητα— για τη μέτρηση του κινδύνου που ενέχουν τα διαθέσιμα στο κοινό εργαλεία τεχνητής νοημοσύνης. Η αποτελεσματικότητα της προσπάθειας θα εξαρτηθεί εν μέρει από τη διάθεση των εταιρειών τεχνητής νοημοσύνης να συνεργαστούν, μια προοπτική που, κατά τον Σίγκελ, δεν είναι βέβαιη, αλλά κρίνεται αρκετά πιθανή ώστε να τον ωθήσει να αναλάβει τη συγκεκριμένη θέση.

Πηγή: Reuters 

Προτιμώμενη πηγή στην Google

Για να εμφανίζονται περισσότερα άρθρα της Ναυτεμπορικής στις αναζητήσεις σας εύκολα και γρήγορα, πρέπει να προσθέσετε το site στις προτιμώμενες πηγές σας. Μπορείτε να το κάνετε πηγαίνοντας εδώ.