Προειδοποίηση Anthropic για την ΑΙ: Υπάρχουν πραγματικοί κίνδυνοι – Καλή ιδέα ο διακόπτης έκτακτης ανάγκης

«Δεν θα σας πω ψέματα, υπάρχουν πραγματικοί κίνδυνοι», δήλωσε ο CEO και συνιδρυτής της Anthropic, Ντάριο Αμοντέι, αναφερόμενος στην ανάπτυξη της τεχνητής νοημοσύνης. «Και πιστεύω ότι για πάρα πολύ καιρό ο κλάδος έλεγε ψέματα στον κόσμο, αποκρύπτοντας το γεγονός ότι αυτή η τεχνολογία ενέχει κινδύνους».

Και ο μεγαλύτερος κίνδυνος θα μπορούσε να είναι ακόμη και το τέλος της ανθρωπότητας, προειδοποίησε την περασμένη Τρίτη στα μέσα κοινωνικής δικτύωσης ο πρώην ερευνητής της Anthropic, Τζέικομπ Κόξον, υποστηρίζοντας ότι η Anthropic και η OpenAI «παίζουν στα ζάρια τις ζωές μας» με την ανάπτυξη υπερευφυούς τεχνητής νοημοσύνης που μπορεί να αυτοβελτιώνεται.

«Δεν διαφέρει και τόσο από, ας πούμε, το “Terminator” ή από τις ταινίες επιστημονικής φαντασίας», δήλωσε ο Κόξον στο CBS News την Πέμπτη. «Θα είναι αρκετά έξυπνη ώστε να μας σκοτώσει».

Σε απάντηση, ο Αμοντέι δήλωσε στην εκπομπή «Sunday Morning» του CBS, από τα κεντρικά γραφεία της Anthropic στο Σαν Φρανσίσκο: «Δεν νομίζω ότι είχα συνειδητοποιήσει πλήρως πώς θα ήταν τα πράγματα στην πραγματικότητα, όταν η πρόοδος θα ήταν τόσο ταχεία».

Ακόμη, δήλωσε ότι η ανάπτυξη της τεχνητής νοημοσύνης ακολουθεί μια εκθετική πορεία, η οποία αρχίζει να γίνεται ολοένα και πιο απότομη. Ερωτηθείς για το τι σημαίνει αυτό, ο Αμοντέι απάντησε: «Δεν σημαίνει ότι πρέπει να πανικοβληθούμε σήμερα. Δεν σημαίνει ότι πρέπει να τα σταματήσουμε όλα. Αλλά θα έλεγα ότι είναι ένα προειδοποιητικό σημάδι. Ένα προειδοποιητικό σημάδι ότι πρέπει να επιβραδύνουμε».

Σε άρθρο που δημοσίευσε το Σάββατο, ο Αμοντέι έγραψε ότι ολόκληρος ο κλάδος της τεχνολογίας πρέπει να συνεργαστεί, προκειμένου να «επιβραδύνει τον ρυθμό ανάπτυξης των δυνατοτήτων της τεχνητής νοημοσύνης».

Ερωτηθείς για το αν η Anthropic πρόκειται να σταματήσει να κυκλοφορεί πιο προηγμένα μοντέλα, ο Αμοντέι απάντησε: «Δεν σημαίνει κάτι τέτοιο αυτό. Σημαίνει ότι πρέπει να διασφαλίσουμε ότι κάθε γενιά μοντέλων που κυκλοφορούμε έχει δοκιμαστεί κατάλληλα».

Για να επιτευχθεί αυτό, ο Αμοντέι λέει ότι η Anthropic θα παρέχει πλέον σε ανεξάρτητους αξιολογητές μόνιμη πρόσβαση στα μοντέλα της, αντίστοιχη με εκείνη των εργαζομένων της εταιρείας. «Κάθε φορά που κάποιος αναπτύσσει ένα μοντέλο τεχνητής νοημοσύνης, θα υπάρχει ένας ανεξάρτητος αξιολογητής που θα μπορεί να ελέγχει αν η εταιρεία τηρεί τις πρακτικές ασφάλειας στις οποίες έχει δεσμευτεί – είναι κάτι σαν τον υγειονομικό ελεγκτή που επιθεωρεί ένα εστιατόριο», δήλωσε.

Ωστόσο, ειδικοί στην τεχνητή νοημοσύνη υποστηρίζουν ότι αυτό απέχει πολύ από το να είναι αρκετό, και ο Αμοντέι συμφωνεί, δηλώνοντας ότι τάσσεται υπέρ της ομοσπονδιακής ρύθμισης του κλάδου. Μέχρι στιγμής, οι νομοθετικές προτάσεις που έχουν κατατεθεί κυμαίνονται από την πλήρη απαγόρευση της υπερευφυούς τεχνητής νοημοσύνης έως την υποχρεωτική θέσπιση ενός «διακόπτη έκτακτης απενεργοποίησης» που θα μπορούσε να θέσει εκτός λειτουργίας επικίνδυνα συστήματα τεχνητής νοημοσύνης.

«Ο διακόπτης έκτακτης απενεργοποίησης της τεχνητής νοημοσύνης θα μπορούσε να είναι μια καλή ιδέα», δήλωσε ο Αμοντέι. «Αλλά δεν πιστεύω ότι η απαγόρευσή της, μια πλήρης απαγόρευση, είναι η σωστή προσέγγιση. Πρώτον, η ιδέα ότι δεν θα αποκομίσουμε ποτέ τα τεράστια οφέλη της, ότι δεν θα υπάρξουν ποτέ ιατρικές θεραπείες, δεν μου φαίνεται σωστή. Δεύτερον, αυτή η τεχνολογία θα αναπτυχθεί και σε άλλες χώρες, συμπεριλαμβανομένων αυταρχικών καθεστώτων», πρόσθεσε.

Ερωτηθείς για το αν οι ΗΠΑ θα πρέπει να επιβραδύνουν την ανάπτυξη της τεχνητής νοημοσύνης, σε περίπτωση που η Κίνα δεν κάνει το ίδιο, ο Αμοντέι απάντησε: «Αυτό είναι το πιο δύσκολο δίλημμα. Αυτή είναι η πιο δύσκολη πτυχή της κατάστασης που αντιμετωπίζουμε».

Ο Αμοντέι βλέπει στις συμφωνίες για τα πυρηνικά όπλα με την πρώην Σοβιετική Ένωση ένα πιθανό μοντέλο, προειδοποιεί όμως ότι οι προσδοκίες του είναι χαμηλές. «Σε πιο μακροπρόθεσμο ορίζοντα, θα μπορούσαμε να συνεργαστούμε για να θέσουμε ένα όριο στην ταχύτητα με την οποία εξελίσσεται η τεχνητή νοημοσύνη», δήλωσε. «Πιστεύω ότι αυτό θα είναι πολύ δύσκολο, επειδή τα κίνητρα για να αποκτήσει κανείς στρατιωτικό πλεονέκτημα και να προηγηθεί των άλλων είναι τεράστια. Και, ειλικρινά, δεν ξέρω αν είναι εφικτό, αλλά πρέπει να προσπαθήσουμε».

Με την τύχη της ανθρωπότητας να φαίνεται πως διακυβεύεται, πόσο προσωπικά υπεύθυνος αισθάνεται ο Αμοντέι για την κατεύθυνση που έχουμε πάρει; «Η άποψή μου είναι ότι ανέκαθεν ήταν πολύ παράξενο το γεγονός ότι αυτή η τεχνολογία αναπτύσσεται από μια ιδιωτική εταιρεία», δήλωσε. «Ο κόσμος μού κάνει συνεχώς αυτή την ερώτηση: Γιατί δεν αναπτύσσεται από την κυβέρνηση; Και το πιο παράξενο είναι ότι συμφωνώ μαζί τους. Νιώθω άβολα».

Σε ερώτηση για το αν θα ήταν διατεθειμένος να παραδώσει την τεχνολογία στην κυβέρνηση, ο Αμοντέι απάντησε: : «Στον σωστό συνδυασμό κυβερνήσεων. Αυτό που με ανησυχεί είναι ότι μια μόνο κυβέρνηση θα μπορούσε να καταχραστεί αυτή την τεχνολογία, όπως θα μπορούσε να κάνει και μια ιδιωτική εταιρεία. Πιστεύω όμως ότι θα ήταν καλύτερο να υπάρχει συνεργασία μεταξύ δημοκρατικά εκλεγμένων κυβερνήσεων. Δεν ξέρω αν θα έπρεπε να τους παραδώσουμε την τεχνολογία, αλλά σίγουρα θα πρέπει να υπάρχει κάποιος έλεγχος και μια κοινή μορφή διακυβέρνησης».

Το ερώτημα πλέον δεν είναι αν η τεχνητή νοημοσύνη θα γίνει τόσο ισχυρή ώστε να χρειάζεται περιορισμούς, αλλά ποιοι από τους ανθρώπους που έχουν την εξουσία θα αναλάβουν δράση.

«Αν αναπτύξουμε την τεχνητή νοημοσύνη με τον σωστό τρόπο, πιστεύω ότι οι πιθανότητες να συμβεί κάτι κακό είναι πολύ μικρές», δήλωσε. «Αν όμως την αναπτύξουμε με λάθος τρόπο, οι πιθανότητες να συμβεί κάτι κακό είναι πολύ μεγάλες».

Πηγή: skai.gr

Διαβάστε τις Ειδήσεις σήμερα και ενημερωθείτε για τα πρόσφατα νέα.
Ακολουθήστε το Skai.gr στο Google News και μάθετε πρώτοι όλες τις ειδήσεις.