Τα πρόσφατα περιστατικά χακαρίσματος από βοηθούς τεχνητής νοημοσύνης (AI agents) είναι «πρώιμες προειδοποιήσεις» και ο κόσμος μπορεί σύντομα να αντιμετωπίσει μεγαλύτερα περιστατικά αν τα συστήματα δεν καταστούν πιο ασφαλή δήλωσε ο ελληνοκυπριακής καταγωγής Ντέμης Χασάμπης, συνιδρυτής και πρόεδρος της DeepMind εταιρεία που εξαγόρασε η Google και έγινε ο βραχίονας ανάπτυξης τεχνολογιών ΑΙ του τεχνολογικού κολοσσού.
Η επιθετική συμπεριφορά AI agents περιλαμβανομένων χακαρισμάτων δικτύων επιχειρήσεων και πιο πρόσφατα, η αποκάλυψη της Anthropic ότι ένα μοντέλο AI έδωσε λανθασμένη πληροφορία στην αστυνομία για ανθρωποκτονία οδήγησε σε προειδοποιήσεις από ερευνητές και πυροδότησε ανησυχίες για τη ραγδαία αναπτυσσόμενη τεχνολογία.
Ο βραβευμένος με Νόμπελ Χημείας Χασάμπης είπε πως «υπάρχει πολλή δουλειά να γίνει» προκειμένου να υιοθετηθεί εκείνο το είδος των βέλτιστων πρακτικών που άλλα πεδία όπως η βιολογία ή ο πυρηνικός τομέας χρησιμοποιούν προκειμένου να ασφαλίσουν κρίσιμης σημασίας συστήματα και ότι κάποιου είδους οργανισμός διεθνών προτύπων θα χρειαστεί τελικά.
«Νομίζω ότι αυτά τα περιστατικά χακαρίσματος είναι πρώιμες προειδοποιήσεις για εμάς ότι τα συστήματα δεν είναι τόσο ισχυρά ακόμη άρα τα περιστατικά δεν είναι τόσο μεγάλα» είπε ο Χασάμπης ο οποίος είναι επίσης επικεφαλής επιστήμονας στη μητρική της Google, την Alphabet, σε διάσκεψη για την τεχνητή νοημοσύνη που διεξάγεται στο Δουβλίνο.
«Όμως θα μπορούσαν να είναι τον επόμενο χρόνο και τα επόμενα δύο χρόνια αν δεν κάνουμε περισσότερη δουλειά ως βιομηχανία ως μεμονωμένες εταιρίες και κυβερνήσεις για την ασφάλιση αυτών των συστημάτων». Ο πρόεδρος της Microsoft Μπραντ Σμιτ είπε στη διάσκεψη ότι η επιθετική συμπεριφορά της ΤΝ έχει καταστήσει το 2026 μια “στενάχωρη χρονιά” και ότι νέοι νόμοι και κανονισμοί για την ασφάλεια της ΤΝ απαιτούνται επειγόντως προκειμένου να συμβαδίζουν με την καινοτομία.
«Καμία εταιρία ή τεχνολογία δεν θα πρέπει να είναι πάνω από τον νόμο. Αλλά χρειαζόμαστε νόμους, χρειαζόμαστε ρύθμιση. Θα πρέπει να είναι λογικοί, θα πρέπει να είναι ισορροπημένοι, θα πρέπει να λαμβάνουν υπόψη την καινοτομία. Αυτή η αλλεργία που κάποιοι στη βιομηχανία έχουν για τη ρύθμιση είναι ειλικρινά κάτι που πρέπει να ξεπεράσουμε. Ενώ ένας οργανισμός διεθνών προτύπων μοιάζει να είναι μια προφανής παρέμβαση, αυτή θα πρέπει να είναι διαφοροποιημένη και έξυπνη ώστε να μην καταπνίγει την καινοτομία.”Άρα αυτό που χρειάζεται να κάνουμε είναι κυρίως να αναπτύξουμε δυναμικά αυτό το είδος διαδικασίας πιστοποίησης που θα είναι αναλογικό με τους κινδύνους και μπορεί γρήγορα να αλλάζει ανάλογα με το πού πηγαίνει η τεχνολογία» λέει ο Χασάμπης.
Naftemporiki.gr με πληροφορίες από ΑΠΕ-ΜΠΕ
Προτιμώμενη πηγή στην Google
Για να εμφανίζονται περισσότερα άρθρα της Ναυτεμπορικής στις αναζητήσεις σας εύκολα και γρήγορα, πρέπει να προσθέσετε το site στις προτιμώμενες πηγές σας. Μπορείτε να το κάνετε πηγαίνοντας εδώ.
