Το Ανώτατο Δικαστήριο εξέδωσε μια αυστηρή προειδοποίηση ενάντια στη χρήση «ανύπαρκτων, πλαστών και παραισθησιογόνων» κρίσεων που δημιουργούνται από AI, θέτοντας προηγούμενο ακυρώνοντας μια απόφαση NCLT που βασιζόταν σε τέτοιο μη επαληθευμένο υλικό που δημιουργήθηκε από AI.
Φωτογραφία: Rahul Singh/Annie Image
Βασικά σημεία
- Το Ανώτατο Δικαστήριο διέταξε μια προσέγγιση «μηδενικής ανοχής» κατά της παραπομπής ή της χρήσης προηγούμενων που δημιουργούνται από την τεχνητή νοημοσύνη χωρίς επαλήθευση, χαρακτηρίζοντάς την κακή συμπεριφορά από δικηγόρους και σοβαρό σφάλμα από δικαστές.
- Το δικαστήριο ακύρωσε την απόφαση NCLT στην υπόθεση πτώχευσης Essel Infraprojects, αφού διαπίστωσε ότι βασίστηκε σε ανύπαρκτα, ψευδή και παραισθησιογόνα προηγούμενα που δημιουργήθηκαν από την τεχνητή νοημοσύνη.
- Τέτοιες αποφάσεις, ακόμη και αν περιέχουν «ένα κομμάτι ψευδούς ή παραισθησιογόνου ουσίας», πρέπει να ακυρωθούν επειδή παραβιάζουν την ιερότητα της εκδίκασης υποθέσεων.
- Το Δικηγορικό Συμβούλιο της Ινδίας (BCI) έχει λάβει εντολή να συγκροτήσει μια επιτροπή για να συζητήσει το θέμα και να καθορίσει κατευθυντήριες γραμμές και πειθαρχικά μέτρα σε περίπτωση παραβάσεων.
- Η απόφαση δίνει έμφαση στη διατήρηση της ακεραιότητας στη λήψη αποφάσεων, ενώ δίνει έμφαση στη σωστή χρήση της τεχνητής νοημοσύνης για να βοηθήσει στην εκδίκαση υποθέσεων, υπό την προϋπόθεση ότι υπάρχει ανθρώπινος έλεγχος σε κάθε στάδιο.
Αφού επικαλέστηκε τη χρήση «ανύπαρκτων, ψευδών και παραισθησιογόνων» αποφάσεων τεχνητής νοημοσύνης, το Ανώτατο Δικαστήριο ακύρωσε την Πέμπτη απόφαση του Εθνικού Δικαστηρίου Εταιρικού Δικαίου (NCLT), λέγοντας ότι τα δικαστήρια πρέπει να υιοθετήσουν μηδενική ανοχή κατά της παραπομπής ή της χρήσης προηγούμενων που δημιουργούνται από την τεχνητή νοημοσύνη.
“Η παραγωγή πλαστών, ανύπαρκτων, παραισθησιογόνων ουσιών και η χρήση τους ως προηγούμενων στο νόμο είναι σαν να απελευθερώνετε ισοκυανικό μεθυλεστέρα στην επικράτεια του νόμου και της δικαιοσύνης: αόρατο, ύπουλο και καταστροφικό από τη στιγμή που το προσέξει κανείς. Όχι μόνο ρυπαίνει, αλλά αφαιρεί τη ζωή της δικαστικής απόφασης, είπε η Justice B&Araok.”
Διατήρηση της ακεραιότητας του δικαστικού σώματος
Ακύρωσε την απόφαση NCLT σχετικά με την αφερεγγυότητα της Essel Infraprojects αφού διαπίστωσε ότι το δικαστήριο βασίστηκε σε ανύπαρκτα, ψευδή και παραισθησιογόνα προηγούμενα δικαστικής απόφασης που δημιουργήθηκαν μέσω εργαλείων τεχνητής νοημοσύνης.
“Είναι επιτακτική ανάγκη τα δικαστήρια να υιοθετήσουν μια προσέγγιση μηδενικής ανοχής για την παραγωγή, την αναφορά ή τη χρήση προηγούμενων που δημιουργούνται από την τεχνητή νοημοσύνη χωρίς επαλήθευση. Είναι κακή συμπεριφορά εκ μέρους του δικηγόρου να αναφέρει τέτοιες αποφάσεις χωρίς επαλήθευση”, ανέφερε η απόφαση.
Η έδρα είπε ότι θα ήταν επίσης «σοβαρό λάθος» εάν ένας δικαστής βασιζόταν σε τέτοιο ψεύτικο ή παραισθησιογόνο υλικό που παράγεται από τεχνητή νοημοσύνη ως προηγούμενα για να υποστηρίξει την απόφαση.
Πρόσθεσε: «Δεν διστάζουμε να δηλώσουμε ότι μια τέτοια απόφαση δεν είναι απόφαση στα μάτια του νόμου, ανεξάρτητα από το αν τέτοια υλικά έχουν άμεσο ή έμμεσο αντίκτυπο στη λήψη αποφάσεων. Τέτοιες αποφάσεις πρέπει να αποκλείονται ακόμη και αν μπει στη διαδικασία λήψης απόφασης ένα κομμάτι πλασματικού ή παραισθησιογόνου υλικού, γιατί παραβιάζουν την ιερότητα της απόφασης».
Υπευθυνότητα και μελλοντικές κατευθύνσεις
Ο πάγκος είπε ότι ήταν εξαιρετικά απαραίτητο να διατηρηθεί η ακεραιότητα στη λήψη αποφάσεων. “Επαναλαμβάνουμε και δηλώνουμε μηδενική ανοχή για τον Δικηγορικό Σύλλογο και την Αρχή να παραπέμπουν, να αναφέρονται ή να βασίζονται σε τέτοιο υλικό. Γίνεται επίσης σαφές ότι η απόφασή μας δεν θα έχει αντίκτυπο στη νόμιμη χρήση τεχνητής νοημοσύνης, αλλά στην προβολή ή την εξάρτηση από ψευδές ή παραισθησιογόνο υλικό σαν να επρόκειτο για δικαστικό προηγούμενο.”
Το δικαστήριο είπε ότι η απλή ανακοίνωση της απαγόρευσης δεν αρκεί και ότι πρέπει να υπάρξει μια συνακόλουθη ενέργεια μετά την απόδοση ευθυνών.
«Σε ό,τι αφορά την ευθύνη του Δικηγορικού Συλλόγου, δίνουμε εντολή στο Συμβούλιο του Δικηγορικού Συλλόγου της Ινδίας (BCI), που είναι το κορυφαίο νομικό όργανο, να συγκροτήσει επιτροπή και να συζητήσει σχετικά με αυτό το θέμα των μελών του Μπαρ που παρουσιάζουν τέτοιο ψεύτικο και παραισθησιογόνο υλικό ενώπιον του δικαστηρίου σαν να ήταν νομικά προηγούμενα», ανέφερε.
Η απόφαση ανέφερε ότι ο Ανώτατος Δικηγορικός Σύλλογος θα πρέπει να αντιμετωπίσει αυτό το ζήτημα με τη μέγιστη σοβαρότητα και να θέσει κατευθυντήριες γραμμές για την πρόληψη τέτοιων περιστατικών, μαζί με πειθαρχικά μέτρα που θα ακολουθούσαν παραβίαση των κανόνων.
Το ιστορικό της υπόθεσης και οι επιπτώσεις της
Το ζήτημα προέκυψε από μια διαφωνία αφερεγγυότητας σχετικά με την Pooja Ramesh Singh, την Jammu and Kashmir Bank Ltd και την Essel Infraprojects Ltd. Η αναιρεσείουσα αμφισβήτησε τη διάταξη της NCLT Mumbai η οποία έκανε δεκτή την αίτηση αφερεγγυότητας σύμφωνα με την ενότητα 7.
Το Ανώτατο Δικαστήριο διαπίστωσε ότι πολλά από τα «προηγούμενα» που αναφέρει το NCLT για να δικαιολογήσει την απόφασή του απλώς δεν υπήρχαν. Αυτά περιελάμβαναν κατασκευασμένα ονόματα υποθέσεων και αποσπάσματα που αποδίδονταν εσφαλμένα σε πραγματικές παραπομπές. Για παράδειγμα, η απόφαση ανέφερε ICICI Bank Ltd κατά Urban Infrastructure Real Estate Ltd (2019) 16 SCC 528 και Sarbjit Singh κατά Union Bank of India (2022) 7 SCC 464, και οι δύο αποδείχθηκαν εντελώς ανύπαρκτες αναφορές.
Ενώ η εναγόμενη Bank of Jammu and Kashmir υπέβαλε ένορκη κατάθεση εξηγώντας ότι αυτά τα ζητήματα δεν αναφέρθηκαν από τον δικηγόρο τους και ότι το NCLT τα απέκτησε μέσω της «δικής του έρευνας», το Ανώτατο Δικαστήριο έκρινε ότι η πηγή του λάθους δεν μετρίασε τη ζημιά στο κράτος δικαίου.
«Περισσότερο από την αναπόφευκτη συνέπεια της παράβλεψης τέτοιων διατάξεων, αυτό που είναι κρίσιμο για τη διαδικασία λήψης αποφάσεων είναι η αποφασιστικότητά μας να υιοθετήσουμε τεχνολογία AI για να βοηθήσουμε στην εκδίκαση, ενώ ταυτόχρονα διεκδικούμε και δηλώνουμε πλήρη και απόλυτο έλεγχο επί της απόφασης, με έναν άνθρωπο στο βρόχο σε κάθε στάδιο», σημείωσε η έδρα.
