Δικηγόρος χρησιμοποίησε ChatGPT σε έφεση για φόνο – «Εφηύρε» μάρτυρες και καταθέσεις
Δικηγόρος στο Νέο Μεξικό καταδικάστηκε για ασέβεια προς το δικαστήριο και καλείται να πληρώσει πρόστιμο 5.000 δολαρίων – Παραπέμπεται και στο πειθαρχικό συμβούλιο του δικηγορικού συλλόγου
Σε σοβαρό δικαστικό ατόπημα εξελίχθηκε η χρήση τεχνητής νοημοσύνης από δικηγόρο στο Νέο Μεξικό, καθώς έγγραφο που κατέθεσε στο πλαίσιο έφεσης για υπόθεση δολοφονίας περιείχε ανύπαρκτες καταθέσεις και πρόσωπα που δεν είχαν ποτέ καταθέσει στο δικαστήριο.
Το Ανώτατο Δικαστήριο του Νέου Μεξικού έκρινε ότι ο δικηγόρος Στίβεν Άαρονς χρησιμοποίησε υλικό που είχε παραχθεί από το ChatGPT χωρίς να προχωρήσει στους απαραίτητους ελέγχους και του επέβαλε πρόστιμο 5.000 δολαρίων. Παράλληλα, αποφάσισε να διαβιβάσει την υπόθεση στο πειθαρχικό συμβούλιο του δικηγορικού συλλόγου.
Σύμφωνα με την απόφαση, το δικόγραφο περιλάμβανε δήθεν μαρτυρίες προσώπων που δεν υπήρχαν, αλλά και αναφορές σε αστυνομικούς και περιστατικά τα οποία ουδέποτε είχαν καταγραφεί στη δικογραφία.
Η «παραισθητική» απάντηση της τεχνητής νοημοσύνης
Ο Άαρονς, ο οποίος διατηρεί δικηγορικό γραφείο στη Σάντα Φε, ανέλαβε την έφεση του Όσκαρ Ρενέ Σαντοβάλ, ο οποίος έχει δηλώσει αθώος για τη δολοφονία της μητέρας των παιδιών του.
Ο Σαντοβάλ καταδικάστηκε πέρυσι σε ισόβια κάθειρξη, ενώ η έφεσή του εξακολουθεί να εκκρεμεί. Στις αρχές Σεπτεμβρίου, πάντως, διορίστηκε νέα συνήγορος για την υπόθεση, η δημόσια υπερασπίστρια Κιμ Τσάβες Κουκ.
Κατά την προετοιμασία της έφεσης, ο Άαρονς χρησιμοποίησε το ChatGPT, όπως ο ίδιος εξήγησε, προκειμένου να συνοψίσει το υλικό της δίκης. Υποστήριξε ότι τροφοδότησε το σύστημα με απομαγνητοφωνημένες καταθέσεις και άλλα στοιχεία της υπόθεσης, θεωρώντας ότι το αποτέλεσμα θα ήταν μια αξιόπιστη περίληψη.
Η τεχνητή νοημοσύνη, ωστόσο, παρήγαγε πληροφορίες που δεν υπήρχαν στη δικογραφία. Μεταξύ άλλων, εμφανίστηκαν υποτιθέμενες δηλώσεις σχετικά με την εμφάνιση του δράστη, όπως ότι «φορούσε σκούρο παντελόνι και λευκό μπλουζάκι».
«Δεν γνώριζα πόσο μεγάλες ήταν οι παραισθήσεις»
Ο δικηγόρος παραδέχθηκε τη χρήση του ChatGPT και εξέφρασε τη μεταμέλειά του, υποστηρίζοντας ότι δεν είχε αντιληφθεί την έκταση των λεγόμενων «παραισθήσεων» της τεχνητής νοημοσύνης.
«Έχω μετανοήσει, αλλά διατηρώ την ελπίδα ότι το πειθαρχικό συμβούλιο θα λάβει υπόψη του ότι ήταν ένα ειλικρινές λάθος», δήλωσε στο Reuters.
Όπως ανέφερε, η υπόθεση αποτελεί πλέον ένα μάθημα όχι μόνο για τον ίδιο, αλλά και για τους επαγγελματίες που χρησιμοποιούν εργαλεία τεχνητής νοημοσύνης στην καθημερινή τους εργασία.
Η αυστηρή απάντηση των δικαστών
Οι δικαστές, πάντως, δεν πείστηκαν ότι ο Άαρονς αγνοούσε τους κινδύνους από τη χρήση τέτοιων εργαλείων χωρίς ανθρώπινη επαλήθευση.
Κατά τη διάρκεια της διαδικασίας, το δικαστήριο του ζήτησε να εξηγήσει πώς ακριβώς ενσωματώθηκαν στο δικόγραφο οι κατασκευασμένες μαρτυρίες. Ο ίδιος υποστήριξε ότι πίστευε πως το ChatGPT θα επεξεργαζόταν με ακρίβεια το υλικό που του είχε δώσει.
Η δικαστής Σ. Σάνον Μπέικον αντιμετώπισε με ιδιαίτερα αυστηρό τρόπο την εξήγηση αυτή, επισημαίνοντας ότι οι κίνδυνοι από τις ανακριβείς απαντήσεις της τεχνητής νοημοσύνης έχουν γίνει πλέον ευρέως γνωστοί.
Το δικαστήριο υπογράμμισε ουσιαστικά ότι ένας δικηγόρος δεν μπορεί να μεταφέρει την ευθύνη για την ακρίβεια ενός δικαστικού εγγράφου σε ένα εργαλείο τεχνητής νοημοσύνης.
Πληθαίνουν οι κυρώσεις για χρήση AI στα δικαστήρια
Η υπόθεση δεν αποτελεί μεμονωμένο περιστατικό στις ΗΠΑ. Το τελευταίο διάστημα, πολιτειακά και ομοσπονδιακά δικαστήρια έχουν επιβάλει κυρώσεις σε δικηγόρους που κατέθεσαν έγγραφα τα οποία είχαν συνταχθεί με τη βοήθεια εργαλείων τεχνητής νοημοσύνης, χωρίς να ελεγχθούν επαρκώς.
Σε αρκετές περιπτώσεις, τα συστήματα AI έχουν παραθέσει ανύπαρκτες δικαστικές αποφάσεις, εσφαλμένες νομικές αναφορές ή έχουν αποδώσει σε πραγματικά πρόσωπα δηλώσεις που ουδέποτε έκαναν.
Η υπόθεση του Άαρονς έρχεται να προσθέσει ακόμη ένα παράδειγμα στους αυξανόμενους προβληματισμούς για τη χρήση της τεχνητής νοημοσύνης στον νομικό κλάδο, όπου η ακρίβεια των πληροφοριών και η δυνατότητα επαλήθευσής τους αποτελούν βασική προϋπόθεση για κάθε δικαστική διαδικασία.
Προτιμώμενη πηγή στην Google
Για να εμφανίζονται περισσότερα άρθρα της Ναυτεμπορικής στις αναζητήσεις σας εύκολα και γρήγορα, πρέπει να προσθέσετε το site στις προτιμώμενες πηγές σας. Μπορείτε να το κάνετε πηγαίνοντας εδώ.
