Το «πρόβλημα της Κόμπρας» και η Τεχνητή Νοημοσύνη

Όταν η βρετανική αποικιακή κυβέρνηση στην Ινδία απέτυχε να ελέγξει μια επιδρομή από κόμπρες προς τα τέλη του 19ου αιώνα, αποφάσισε να καταβάλει στον πληθυσμό μια αμοιβή για κάθε φίδι που σκοτωνόταν και παραδιδόταν στις αρχές.

Τελικά, όμως, αυτός ο κανονισμός αύξησε τον πληθυσμό των φιδιών, καθώς οι Ινδοί άρχισαν να εκτρέφουν τις κόμπρες και στη συνέχεια να τις σκοτώνουν για να εισπράξουν την αμοιβή.

Ο επιχειρηματίας Νταν Λαχάβ, ο οποίος διευθύνει το εργαστήριο ασφαλείας Irregular, ανέφερε στη Handelsblatt αυτό το ιστορικό παράδειγμα, γνωστό  ως «το Πρόβλημα της Κόμπρας», για να εξηγήσει τη δυσκολία της συζήτησης γύρω από τους κινδύνους της τεχνητής νοημοσύνης (AI), που πυροδότησε το περασμένο Σαββατοκύριακο ο Διευθύνων Σύμβουλος της Anthropic, Ντάριο Αμοντέι, με την έκκλησή του για περισσότερη ρύθμιση.

Την απαίτηση του Αμοντέι υποστήριξαν αμέσως μάλιστα, οι βασικοί αντίπαλοί του, ο Ελον Μασκ και ο Σαμ Αλτμαν της OpenAI.

«Το ερώτημα είναι βέβαια αν πρόκειται για μια τακτική αντιπερισπασμού;» λένε στη Ναυτεμπορική, ειδικοί στην Τεχνητή Νοημοσύνη και εξηγούν: «Μήπως οι εταιρείες ξεμένουν από χρήματα για νέα υπολογιστική ισχύ και χρειάζονται ένα μορατόριουμ στην ανάπτυξη της ΑΙ; Ή μήπως πρόκειται για πραγματική ανησυχία;»

Ο φόβος της ΑΙ

Πόσο δικαιολογημένος είναι ο φόβος της Τεχνητής Νοημοσύνης; Αυτό που είναι βέβαιο, ωστόσο, είναι ότι η τρέχουσα τεχνολογία δεν διαθέτει ούτε συνείδηση ​​ούτε σχεδιάζει το τέλος του κόσμου. Μπορεί, ωστόσο, να παρακάμψει τις ανθρώπινες εντολές, να συγκεντρώσει τους πόρους της, να μάθει ανεξάρτητα και να διαπράξει εγκλήματα.

Το πρόβλημα φαίνεται να έχει εντοπιστεί, αλλά δεν έχει λυθεί.

Ο Διευθύνων Σύμβουλος της OpenAI, Άλτμαν, ανέφερε ότι εντοπίστηκαν περαιτέρω «ξεσπάσματα» από δοκιμαστικά μοντέλα.

Οι μηχανές μπορούν να παρακάμψουν κανόνες, να οργανωθούν και να καταλάβουν ξένα συστήματα εάν οι άνθρωποι τους δώσουν έναν στόχο, εργαλεία και πάρα πολλά δικαιώματα.

Ηδη πάντως, το νομικό κενό στις Ηνωμένες Πολιτείες σχετικά με την ασφάλεια της τεχνητής νοημοσύνης  θα αρχίσει να αντιμετωπίζεται την επόμενη εβδομάδα. Τουλάχιστον, αυτή είναι η πρόθεση. Φαίνεται ότι η κορυφαία δύναμη του κόσμου επιτέλους συνέρχεται μπροστά στον ταχύ ρυθμό ανάπτυξης της ΤΝ και τον επακόλουθο κίνδυνο εκτροχιασμού της .

Κανονισμός ασφαλείας

Το πρώτο βήμα θα είναι η συζήτηση, στην Επιτροπή Εμπορίου του Κογκρέσου, ενός σχεδίου κανονισμού για την ασφάλεια της Τεχνητής Νοημοσύνης, στο πλαίσιο μιας προνομοθετικής φάσης.

Η επιτροπή με επικεφαλής τους βουλευτές Τζέι Ομπερνόλτε, Ρεπουμπλικάνο της Καλιφόρνια, και Λόρι Τράχαν, Δημοκρατικό της Μασαχουσέτης, έχει καταλήξει σε μια διακομματική πρόταση 269 σελίδων. Πρόκειται για τον Νόμο περί Μεγάλης Αμερικανικής Τεχνητής Νοημοσύνης (GAAIA), ένα προσχέδιο που έχει σχεδιαστεί για δημόσια συζήτηση.

Η διαδικασία απέχει βέβαια ακόμη πολύ από το να γίνει νόμος. Αλλά είναι μια αρχή.

Συνονθύλευμα νόμων

Σε αντίθεση με τον Νόμο περί Τεχνητής Νοημοσύνης της Ευρωπαϊκής Ένωσης, που ισχύει από τον περασμένο Αύγουστο, και τον αυστηρό κυβερνητικό έλεγχο της Κίνας στα εργαστήριά της, η κατάσταση στις Ηνωμένες Πολιτείες μοιάζει περισσότερο με ένα νομοθετικό συνονθύλευμα, με πολλαπλούς κανονισμούς σε κάθε πολιτεία, αλλά χωρίς ομοσπονδιακή ρύθμιση.

Οι μόνοι πολιτειακοί νόμοι στη χώρα περιορίζονται στη ρύθμιση της χρήσης deepfakes ή στην καταπολέμηση των αλγοριθμικών διακρίσεων στις ασφαλιστικές συμβάσεις. Περιλαμβάνουν επίσης προσωρινά μέτρα για την προστασία των παιδιών και ελάχιστα άλλα, προκειμένου να μην παρεμποδίζεται η καινοτομία. Οι λανθάνουσες απειλές της προηγμένης Τεχνητής Νοημοσύνης, μαζί με τους μηχανισμούς πρόληψης κινδύνων στη βιοτεχνολογία, τα όπλα, την προστασία κρίσιμων υποδομών ή τους πιθανούς υπαρξιακούς κινδύνους, παραμένουν ανεξέλεγκτες.

Τουλάχιστον τώρα, Ρεπουμπλικάνοι  και Δημοκρατικοί συμφωνούν στην ανάγκη θέσπισης κανόνων διαφάνειας στον κλάδο της Τεχνητής Νοημοσύνης, καθώς και στη σύσταση ανεξάρτητων ελέγχων για ορισμένα συστήματα.

Υποχρεωτική παρακολούθηση

Αυτά είναι τα είδη των εποπτικών φορέων που προτείνει ο Αμοντέι, Διευθύνων Σύμβουλος της Anthropic, για την παρακολούθηση των πιο φιλόδοξων μοντέλων Τεχνητής Νοημοσύνης πριν από την εμπορευματοποίηση.

Αυτή η παρακολούθηση θα πρέπει να είναι υποχρεωτική, όχι μόνο εθελοντική, με μόνιμους αξιολογητές ενσωματωμένους στις εταιρείες, όπως ακριβώς και κάθε άλλος εργαζόμενος. Ένα παρόμοιο σύστημα υπάρχει σε τομείς που σχετίζονται με την ασφάλεια των φαρμάκων, των εμβολίων, της αεροπορίας και της πυρηνικής ενέργειας – δραστηριότητες που πρέπει να περάσουν από αυστηρές τεχνικές δοκιμές πριν διατεθούν στην αγορά.

Τα μεγάλα εργαστήρια θα υποχρεούνται επίσης να ενημερώνουν την ομοσπονδιακή κυβέρνηση για τυχόν σοβαρά περιστατικά που ενδέχεται να εντοπίσουν.

Επιπλέον, οι αναδυόμενοι κανονισμοί των ΗΠΑ θα επιδιώξουν να συμφιλιώσουν την καινοτομία με την ασφάλεια μέσω κατευθυντήριων γραμμών των οποίων η εφαρμογή θα εξαρτηθεί από το Υπουργείο Εμπορίου των ΗΠΑ. Το μελλοντικό νομικό πλαίσιο θα επικεντρωθεί στη διακυβέρνηση και την ασφάλεια των πιο ισχυρών μοντέλων Τεχνητής Νοημοσύνης, χωρίς να ασχολείται με την Τεχνητή Νοημοσύνη των καταναλωτών ή τις μικρές νεοσύστατες επιχειρήσεις.

Διαβάστε ακόμα:

→ Η Τεχνητή Νοημοσύνη μόλις παραβίασε και την πόρτα της OpenAI — Ποιος κρατά τελικά τον έλεγχο;

Προτιμώμενη πηγή στην Google

Για να εμφανίζονται περισσότερα άρθρα της Ναυτεμπορικής στις αναζητήσεις σας εύκολα και γρήγορα, πρέπει να προσθέσετε το site στις προτιμώμενες πηγές σας. Μπορείτε να το κάνετε πηγαίνοντας εδώ.