Mối lo ngại ‘Ảo giác AI’ trong ngành tòa án đang tăng trên thế giới

Công ty luật Morgan & Morgan đã gửi cảnh báo khẩn cấp đến hơn 1.000 luật sư của mình sau khi hai luật sư trong công ty bị thẩm phán liên bang ở bang Wyoming điều tra vì viện dẫn các vụ án không có thật trong một vụ kiện chống lại Walmart. Một trong hai luật sư đã thừa nhận sử dụng AI để tìm kiếm và xin lỗi vì sai sót vô ý này.

Đây không phải là lần đầu tiên AI tạo ra “ảo giác pháp lý”. Trước đó vào tháng 6/2023, hai luật sư tại New York đã bị phạt 5.000 USD vì sử dụng các vụ án giả do ChatGPT cung cấp.

Tháng 11/2023, một luật sư ở Texas cũng bị phạt 2.000 USD và buộc tham gia khóa học về AI pháp lý vì lỗi tương tự. Tháng trước, một chuyên gia về thông tin sai lệch ở Minnesota đã làm suy giảm uy tín của mình trước tòa vì sử dụng các trích dẫn giả mạo do AI tạo ra.

Việc AI được sử dụng trong nghiên cứu và soạn thảo hồ sơ pháp lý đang trở nên phổ biến. Theo khảo sát của Thomson Reuters, 63% luật sư đã sử dụng AI cho công việc, trong đó 12% sử dụng thường xuyên.

Các chuyên gia cảnh báo rằng AI tạo sinh có thể bịa đặt dữ liệu với sự tự tin cao, gây nguy cơ nghiêm trọng nếu không được kiểm tra kỹ lưỡng.

Hiệp hội Luật sư Mỹ đã nhấn mạnh rằng các luật sư có trách nhiệm xác minh thông tin vì có thể có sai sót xảy ra do AI. Giáo sư Andrew Perlman từ Đại học Suffolk cho rằng việc sử dụng AI mà không kiểm tra cẩn thận là hành vi “vô năng”.

Trong khi đó, Giáo sư Harry Surden từ Đại học Colorado cho rằng vấn đề không nằm ở công nghệ mà là sự thiếu hiểu biết về cách sử dụng AI một cách có trách nhiệm.

Vụ việc tại Morgan & Morgan là lời cảnh báo quan trọng đối với toàn ngành luật khi bước vào kỷ nguyên AI. Các công ty luật buộc phải tìm cách kiểm soát rủi ro và đào tạo nhân sự để tránh những hậu quả pháp lý nghiêm trọng trong tương lai.

Ngọc Ánh (theo Reuters, Abovethelaw)