Sốc: ChatGPT được dùng để đưa ra phán quyết tại tòa án

Một thẩm phán ở Colombia tuyên bố đã sử dụng ChatGPT để giúp quyết định một vụ án mà ông xét xử.

Theo Vice, một thẩm phán ở Colombia đã sử dụng ChatGPT để đưa ra phán quyết trong một phiên tòa, đây là lần đầu tiên một quyết định pháp lý được đưa ra bởi sự trợ giúp của trí tuệ nhân tạo.

Dựa trên một tài liệu phiên tòa ngày 30/1/2023, thẩm phán Juan Manuel Padilla Garcia, người chủ trì tòa án First Circuit Court ở thành phố Cartagena (Colombia), cho biết ông đã sử dụng dịch vụ trí tuệ nhân tạo ChatGPT để đặt ra các câu hỏi pháp lý về một vụ kiện và đưa các câu trả lời của AI vào quyết định của mình. Ông cũng nhấn mạnh mục đích của ông trong việc sử dụng văn bản do AI tạo ra không phải là để thay thế quyết định cuối cùng của thẩm phán.

Chatbot nổi tiếng của OpenAI tiếp tục lấn sân sang lĩnh vực pháp lý.

Vụ việc liên quan đến tranh chấp với một công ty bảo hiểm y tế về việc liệu một đứa trẻ mắc chứng tự kỷ có được bảo hiểm để điều trị y tế hay không. Theo tài liệu của tòa án, các câu hỏi được đặt ra với AI rằng “Trẻ vị thành niên mắc chứng tự kỷ có được miễn chi trả cho các liệu pháp điều trị hay không?” và “Liệu cơ quan tài phán của tòa án hiến pháp có được đưa ra các quyết định có lợi cho các trường hợp tương tự không?”.

Sau đó, Garcia đã đưa các câu trả lời đầy đủ từ chatbot vào quyết định của ông, đây cũng là lần đầu tiên một thẩm phán làm việc này và thừa nhận trước công chúng. Tất nhiên, quyết định cuối cùng được đưa ra vẫn dựa trên những hiểu biết và kinh nghiệm của vị thẩm phán, đồng thời ông cho biết AI chỉ được sử dụng để hỗ trợ mở rộng các lập luận của phán quyết.

Luật pháp Colombia không cấm sử dụng AI trong các phán quyết của tòa án, nhưng cũng có nhiều lo ngại được đưa ra do các hệ thống AI như ChatGPT thường cung cấp các câu trả lời thiên vị, phân biệt hoặc đơn giản là không đúng.

Công ty tạo ra ChatGPT, OpenAI, đã triển khai các bộ lọc để loại bỏ những câu trả lời có vấn đề. Nhưng các nhà phát triển cũng cảnh báo rằng công cụ này vẫn có những hạn chế đáng kể và không nên được sử dụng để đưa ra quyết định quan trọng.

Mặc dù đây là lần đầu tiên một thẩm phán thừa nhận việc sử dụng AI, nhưng một số tòa án cũng đã bắt đầu sử dụng các công cụ ra quyết định tự động để xác định mức án phạt hoặc quyết định quyền tại ngoại của các phạm nhân. Việc sử dụng các hệ thống này tại hệ thống tòa án đã bị chỉ trích nặng nề bởi các nhà đạo đức AI vì nhiều bất cập trong các câu trả lời do máy móc đưa ra.

Mặc dù hồ sơ tòa án Colombia chỉ ra rằng AI chủ yếu được sử dụng để tăng tốc độ soạn thảo phán quyết và các câu trả lời đã được kiểm tra thực tế, nhưng đó có thể là dấu hiệu cho thấy sự lớn mạnh của trí tuệ nhân tạo đang ngày càng quy mô hơn trong các lĩnh vực đời sống và xã hội.

Nguồn: [Link nguồn]Nguồn: [Link nguồn]