Πρόστιμο σε δικηγόρο για επινοημένες μαρτυρίες από το ChatGPT

Το Ανώτατο Δικαστήριο του Νέου Μεξικού επέβαλε κυρώσεις σε δικηγόρο υπεράσπισης, ο οποίος κατέθεσε έφεση σε υπόθεση φόνου βασισμένη σε μαρτυρίες που είχε παραγάγει το ChatGPT. Οι μαρτυρίες αστυνομικών και μαρτύρων που περιλάμβανε το κείμενο αποδείχθηκαν εξ ολοκλήρου επινοημένες.

Σύμφωνα με στοιχεία που έχουν δει το φως της δημοσιότητας, ο δικηγόρος Στίβεν Άαρονς (Stephen Aarons) ανέφερε ότι χρησιμοποίησε το εργαλείο τεχνητής νοημοσύνης προκειμένου να συντάξει μία, όπως ο ίδιος περιέγραψε, «αλάνθαστη σύνοψη» για την υπόθεση του πελάτη του. Το αποτέλεσμα, ωστόσο, ήταν ένα νομικό έγγραφο γεμάτο ψευδείς αναφορές, καθώς το ChatGPT είχε «κατασκευάσει» καταθέσεις αστυνομικών και μαρτύρων που ουδέποτε υπήρξαν.

Η απόφαση του δικαστηρίου

Το Ανώτατο Δικαστήριο του Νέου Μεξικού επέβαλε πρόστιμο στον δικηγόρο, ενώ σύμφωνα με ορισμένες αναφορές κρίθηκε επίσης ένοχος για περιφρόνηση δικαστηρίου. Η υπόθεση αφορούσε έφεση σε καταδικαστική απόφαση για φόνο, στην οποία ο Άαρονς εκπροσωπούσε τον κατηγορούμενο.

Οι δικαστές διαπίστωσαν ότι οι μαρτυρίες που περιλαμβάνονταν στο κείμενο της έφεσης δεν αντιστοιχούσαν σε πραγματικά πρόσωπα ούτε σε πραγματικές καταθέσεις. Επρόκειτο για περιεχόμενο που είχε παραχθεί αυτόματα από το ChatGPT, χωρίς ο δικηγόρος να προχωρήσει στην απαραίτητη επαλήθευση πριν το καταθέσει επισήμως στο δικαστήριο.

Κίνδυνοι από τη χρήση τεχνητής νοημοσύνης στη δικαιοσύνη

Η υπόθεση προστίθεται σε μια σειρά περιστατικών διεθνώς όπου δικηγόροι έχουν χρησιμοποιήσει εργαλεία γενετικής τεχνητής νοημοσύνης για τη σύνταξη νομικών εγγράφων, με αποτέλεσμα να καταλήγουν στα δικαστήρια κείμενα με ανακριβή ή εντελώς επινοημένα στοιχεία. Τα εργαλεία αυτά, όπως το ChatGPT της OpenAI, είναι γνωστό ότι μπορούν να παράγουν πληροφορίες που μοιάζουν αληθοφανείς αλλά δεν ανταποκρίνονται στην πραγματικότητα, ένα φαινόμενο που περιγράφεται συχνά ως «ψευδαίσθηση» (hallucination).

Η απόφαση του δικαστηρίου του Νέου Μεξικού λειτουργεί ως προειδοποίηση προς τη νομική κοινότητα για τους κινδύνους που ενέχει η ανεπαρκής επαλήθευση περιεχομένου που παράγεται από συστήματα τεχνητής νοημοσύνης, ιδίως όταν πρόκειται για ευαίσθητες υποθέσεις όπως αυτές που αφορούν βαριά αδικήματα.