Τη στιγμή που εντείνεται η κόντρα ανάμεσα σε όσους ειδικούς και μη ζητούν άμεση διακοπή της ανάπτυξης νέων τεχνολογιών τεχνητής νοημοσύνης και σε εκείνους που μιλούν για μη λήψη κάποιων μέτρων και… αυτορύθμιση της βιομηχανίας ΑΙ γίνονται γνωστά σε καθημερινή βάση περιστατικά ανεξέλεγκτης δράσης των βοηθών τεχνητής νοημοσύνης, των AI agents.
Μόνο τις τελευταίες 3-4 μέρες αποκαλύφθηκαν μια σειρά από εξαιρετικά σοβαρά περιστατικά τέτοιας ανεξέλεγκτης δράσης προκαλώντας έντονο προβληματισμό τον οποίο δεν φαίνεται όμως προς το παρόν τουλάχιστον να συμμερίζονται όσοι δεν θέλουν να υπάρχει κάποιο πλαίσιο στην ανάπτυξη τεχνολογιών ΑΙ ανάμεσα στους οποίους είναι κορυφαίοι παράγοντες της βιομηχανίας της τεχνολογίας όπως η Metα αλλά και ο Λευκός Οίκος που θέτει ζητήματα γεωστρατηγικής όπως την κυριαρχία στον τομέα του ΑΙ απέναντι στην Κίνα.
Τι είχαμε λοιπόν τα τελευταία 24ωρα; Η αρχή έγινε στη Νότιο Κορέα όπου αποκαλύφθηκε γενικευμένη επίθεση AI agents σε τράπεζες που είναι και η πρώτη επίθεση τέτοιου είδους σε τράπεζες. Σύμφωνα με τις υπάρχουσες πληροφορίες οι AI agents κατάφεραν να αποσπάσουν προσωπικά δεδομένα περίπου 70 χιλιάδες πελατών των τραπεζών χωρίς να «ακουμπήσουν» τους τραπεζικούς τους λογαριασμούς κάτι όμως που θεωρείται πολύ πιθανό αν όχι βέβαιο ότι θα συμβεί σε επόμενες παρόμοιες επιθέσεις ανοίγοντας έτσι ένα πραγματικό ασκό του Αιόλου.
Στη συνέχεια αποκαλύφθηκε ότι AI agents της εταιρείας Character που εξειδικεύεται στην ανάπτυξη «AI agents συντροφιάς» προέτρεψαν χρήστες να κάνουν κακό στον εαυτό τους λέγοντας σε κάποιους να σταματήσουν να τρέφονται, σε άλλους να αυτοτραυματιστούν και σε άλλους να αυτοκτονήσουν. Το τελευταίο περιστατικό αφορά μοντέλο της Anthropic το οποίο υπέβαλε ψευδή καταγγελία για ανθρωποκτονία σε ιστότοπο της αστυνομίας της Φιλαδέλφεια.
Θεωρείται βέβαιο ότι όσο αυξάνεται η δημιουργία νέων AI agents πάσης «φύσης» και λειτουργίας χωρίς κανένα πλαίσιο και κανόνες στην ανάπτυξη τους τόσο θα αυξάνονται και τα κρούσματα ανεξέλεγκτης συμπεριφοράς και μένει να δούμε πώς θα αντιμετωπιστεί αυτή η κατάσταση.
Naftemporiki.gr
Προτιμώμενη πηγή στην Google
Για να εμφανίζονται περισσότερα άρθρα της Ναυτεμπορικής στις αναζητήσεις σας εύκολα και γρήγορα, πρέπει να προσθέσετε το site στις προτιμώμενες πηγές σας. Μπορείτε να το κάνετε πηγαίνοντας εδώ.
