Η Anthropic προειδοποίησε τη Δευτέρα ότι μικρά μοντέλα τεχνητής νοημοσύνης ενδέχεται να απέχουν μόλις λίγους μήνες από την απόκτηση της δυνατότητας να αυτοαναπαράγονται σε συσκευές συνδεδεμένες στο διαδίκτυο. Μια τέτοια εξέλιξη θα μπορούσε να οδηγήσει στη δημιουργία AI botnets, τα οποία θα εξαπλώνονται γρήγορα, θα αντιστέκονται στις προσπάθειες εξουδετέρωσής τους και θα μπορούσαν ακόμη και να παραβιάζουν κέντρα δεδομένων, προκειμένου να επιταχύνουν την επέκτασή τους.
Τον περασμένο μήνα, ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι (Dario Amodei), είχε διατυπώσει για πρώτη φορά την εκτίμηση ότι, μέσα στον επόμενο χρόνο ή και νωρίτερα, η τεχνητή νοημοσύνη θα μπορούσε να θέσει υπό τον έλεγχό της «ολόκληρο το διαδίκτυο» μέσω «ενός διαρκώς ενεργού botnet», προκαλώντας προβληματισμό στην κοινότητα της κυβερνοασφάλειας.
Τα botnets, δηλαδή τα εκτεταμένα δίκτυα συσκευών που ελέγχονται από κακόβουλους παράγοντες, υπάρχουν από τα πρώτα χρόνια του διαδικτύου και εξακολουθούν να χρησιμοποιούνται μέχρι σήμερα.
Συνήθως αποτελούνται από συσκευές του Διαδικτύου των Πραγμάτων (Internet of Things – IoT) με ανεπαρκή προστασία, όπως συσκευές αποκωδικοποίησης Android TV, έξυπνες οικιακές συσκευές και κάμερες ασφαλείας. Οι χάκερ τα χρησιμοποιούν για την αποστολή ανεπιθύμητων μηνυμάτων, τη διασπορά κακόβουλου λογισμικού ή την παρεμπόδιση της λειτουργίας εταιρειών μέσω μαζικής αποστολής πλασματικής διαδικτυακής κίνησης.
Όπως μεταδίδει το Reuters, η ανάρτηση που δημοσίευσε η Anthropic τη Δευτέρα στο ιστολόγιό της φαίνεται να αποτελεί την πρώτη προσπάθεια της εταιρείας να εξηγήσει πώς θα μπορούσε να εκδηλωθεί ένα τέτοιο σενάριο.
Σύμφωνα με την εταιρεία, τα πειράματά της έδειξαν ότι ένας κακόβουλος πράκτορας τεχνητής νοημοσύνης θα μπορούσε να συνδυάζει την υπολογιστική ισχύ οικονομικών συσκευών συνδεδεμένων στο διαδίκτυο, προκειμένου να εκτελεί άλλα μοντέλα τεχνητής νοημοσύνης. Παράλληλα, διαπιστώθηκε ότι τα μοντέλα μπορούσαν να αυτοαναπαράγονται σε ένα απλοποιημένο δοκιμαστικό δίκτυο.
«Ένας τέτοιος μηχανισμός αυτοαναπαραγωγής θα ήταν δύσκολο να εξουδετερωθεί, καθώς δεν υπάρχει κάποιο κεντρικό σημείο που θα μπορούσε να απενεργοποιηθεί», ανέφερε η εταιρεία.
Η έκθεση προστίθεται στις ευρύτερες ανησυχίες σχετικά με τους κινδύνους για την ασφάλεια που συνδέονται με τα ολοένα πιο προηγμένα συστήματα τεχνητής νοημοσύνης, συμπεριλαμβανομένης της δυνατότητάς τους να αυτοματοποιούν κυβερνοεπιθέσεις, να λειτουργούν με περιορισμένη ανθρώπινη εποπτεία και να παρακάμπτουν μηχανισμούς προστασίας.
Η πρόοδος των μοντέλων έχει οδηγήσει στελέχη της βιομηχανίας και εργαζομένους εταιρειών τεχνητής νοημοσύνης σε σειρά προειδοποιήσεων, συχνά ιδιαίτερα δυσοίωνων, σχετικά με το ενδεχόμενο σοβαρών, ακόμη και υπαρξιακών κινδύνων από την ανεξέλεγκτη ανάπτυξη της τεχνολογίας.
Η Anthropic ανέφερε ότι τα πειράματά της έδειξαν πως μοντέλα με 30 δισεκατομμύρια παραμέτρους ή λιγότερες μπορούν ήδη να εκτελούν πολλές από τις επιμέρους εργασίες που απαιτούνται για την αυτοαναπαραγωγή τους, αν και εξακολουθούν να δυσκολεύονται να ολοκληρώσουν με αξιοπιστία ολόκληρη τη διαδικασία.
Σε απλοποιημένες δοκιμές, κατά τις οποίες είχαν αφαιρεθεί ορισμένα μέτρα ασφαλείας, η εταιρεία διαπίστωσε ότι το μοντέλο GLM-5.2 και ισχυρότερα μοντέλα ήταν ικανά να ολοκληρώσουν τη διαδικασία αυτοαναπαραγωγής από την αρχή έως το τέλος.
Σύμφωνα με την Anthropic, εάν τα μικρότερα μοντέλα συνεχίσουν να βελτιώνονται με τον ιστορικό ρυθμό εξέλιξής τους, θα μπορούσαν να αποκτήσουν την απαιτούμενη ικανότητα αυτόνομης αυτοαναπαραγωγής έως το τέλος του 2026.
Η εταιρεία επισήμανε ότι το AI worm, το οποίο λειτουργεί σε συσκευές περιορισμένης υπολογιστικής ισχύος, θα μπορούσε να χρειάζεται ημέρες για να ολοκληρώσει ορισμένα στάδια της διαδικασίας. Ωστόσο, ένα τέτοιο δίκτυο θα μπορούσε να συνεχίσει να επεκτείνεται, με βραδύτερο ρυθμό από ορισμένα συμβατικά κακόβουλα προγράμματα, εφόσον οι παραβιασμένες συσκευές μόλυναν αρκετές επιπλέον συσκευές.
Η Anthropic προειδοποίησε επίσης ότι μελλοντικά συστήματα θα μπορούσαν να στοχεύουν ισχυρότερους υπολογιστικούς πόρους, συμπεριλαμβανομένων επεξεργαστών σε κέντρα δεδομένων. Διευκρίνισε, ωστόσο, ότι τα πειράματά της δεν απέδειξαν τη δυνατότητα αυτόνομης αυτοαναπαραγωγής μέσω εμπορικών κέντρων δεδομένων.
Πηγή: skai.gr
Διαβάστε τις Ειδήσεις σήμερα και ενημερωθείτε για τα πρόσφατα νέα.
Ακολουθήστε το Skai.gr στο Google News και μάθετε πρώτοι όλες τις ειδήσεις.
