Sai lầm gây trì hoãn phiên tòa

Luật sư bào chữa Rishi Nathwani, người giữ danh hiệu danh giá King’s Counsel, thừa nhận “hoàn toàn trách nhiệm” vì nộp các tài liệu chứa thông tin không chính xác. Ông gửi lời xin lỗi trực tiếp đến thẩm phán James Elliott, nhấn mạnh bản thân và nhóm luật sư “cảm thấy vô cùng xấu hổ”.

Sai sót này khiến quá trình xét xử tại Tòa án Tối cao bang Victoria bị trì hoãn thêm 24 giờ. Đến ngày hôm sau, thẩm phán Elliott tuyên bố bị cáo – một thiếu niên (giấu tên) – không phạm tội giết người vì bị suy giảm chức năng tâm thần.

Trích dẫn “ma” từ AI

Theo hồ sơ, các văn bản do nhóm luật sư nộp có chứa:

• Trích dẫn được cho là từ một bài phát biểu trước cơ quan lập pháp tiểu bang, nhưng không tồn tại.
• Các vụ án được cho là phán quyết của Tòa án Tối cao, nhưng thực tế chưa từng có.

Những sai sót này bị phát hiện khi cộng sự của thẩm phán không tìm thấy hồ sơ thật và yêu cầu luật sư cung cấp bản sao. Khi kiểm tra lại, nhóm bào chữa phải thừa nhận các trích dẫn là “hư cấu” và có thể bắt nguồn từ AI.

Luật sư giải thích ban đầu họ có kiểm tra một số trích dẫn, nhưng sau đó lại chủ quan cho rằng các phần còn lại cũng chính xác. Ngay cả công tố viên cũng đã nhận được tài liệu này nhưng không đối chiếu tính xác thực.

AI và “ảo giác pháp lý”

Australia từng ban hành hướng dẫn từ năm 2024 về việc luật sư sử dụng AI: chỉ được chấp nhận khi có kiểm chứng độc lập và kỹ lưỡng. Tuy nhiên, tài liệu tòa không cho biết cụ thể hệ thống AI nào đã được nhóm luật sư sử dụng.

Đây không phải là lần đầu AI gây rắc rối cho ngành pháp lý.

• Năm 2023 tại Mỹ, vụ kiện hãng hàng không Avianca ở New York từng gây chấn động khi luật sư nộp bản tóm tắt pháp lý chứa nhiều vụ án giả do ChatGPT bịa ra. Kết quả: tòa bác đơn, đồng thời phạt hai luật sư và một công ty luật 5.000 USD.
• Cũng trong năm 2023, các luật sư của Michael Cohen – cựu luật sư của Donald Trump – đã trích dẫn các phán quyết giả trong hồ sơ pháp lý. Cohen thừa nhận không nhận ra rằng công cụ Google ông dùng có thể “tạo ảo giác AI”.
• Các trường hợp tương tự cũng được ghi nhận tại Canada và Anh.

Nguy cơ cho hệ thống tư pháp

AI có thể tạo ra các “ảo giác” – thông tin sai, trích dẫn giả, nhưng lại được trình bày như thật. Trong ngành pháp lý, điều này đặc biệt nguy hiểm vì có thể:

• Làm sai lệch lập luận, bằng chứng.
• Gây trì hoãn hoặc sai lầm trong xét xử.
• Làm suy giảm niềm tin của công chúng vào công lý.

Hiện nhiều tòa án, hiệp hội luật sư trên thế giới đã ban hành khuyến nghị hoặc thậm chí cấm sử dụng AI trong hoạt động tố tụng, trong khi chờ đợi một khung pháp lý toàn diện để kiểm soát công cụ đầy rủi ro này.