Một luật sư đại diện cho một người đàn ông trong một vụ kiện thương tích cá nhân ở Manhattan đã phạm một sai lầm lớn sau khi trình lên tòa án liên bang, trích dẫn ít nhất sáu trường hợp không tồn tại để chứng minh phần đúng cho thân chủ của mình. Đáng buồn thay, luật sư đã sử dụng AI chatbot ChatGPT và nó đã sai lầm, bịa đặt.
Luật sư trong vụ án là Steven A. Schwartz, đang đại diện cho một người đàn ông kiện Hãng hàng không Avianca sau khi một chiếc xe đẩy phục vụ bị cáo buộc đã đâm vào đầu gối của anh ta vào năm 2019. Schwartz cho biết anh ta chưa bao giờ sử dụng ChatGPT trước đây và không biết nó sẽ chỉ bịa ra các vụ kiện.
Trên thực tế, Schwartz cho biết mình thậm chí còn hỏi ChatGPT liệu các trường hợp này có thật hay không. Chatbot khẳng định là như vậy. Nhưng chỉ sau khi các luật sư của hãng hàng không chỉ ra trong một hồ sơ mới rằng các trường hợp không tồn tại thì Schwartz mới phát hiện ra lỗi của mình.
Thẩm phán trong vụ án là ông P. Kevin Castel sẽ tổ chức phiên điều trần vào ngày 8/6 về những việc cần làm liên quan đến vấn đề này.
ChatGPT được ra mắt vào cuối năm 2022 và ngay lập tức trở nên nổi tiếng. Chatbot là một phần của nhóm công nghệ mới được gọi là AI tổng quát có thể tổ chức các cuộc trò chuyện với người dùng trong nhiều giờ liên tục. Các cuộc hội thoại có cảm giác tự nhiên và bình thường đến mức đôi khi ChatGPT dường như có suy nghĩ của riêng nó. Nhưng công nghệ này nổi tiếng là không chính xác, đôi khi còn bịa đặt thông tin. Sản phẩm cạnh tranh của nó là Google Bard cũng gặp vấn đề tương tự.
Chatbot như ChatGPT đang gây tranh cãi vì một số lý do, trong đó có việc một số chuyên gia công nghệ lo ngại AI có thể vượt khỏi tầm kiểm soát. Một số người thậm chí còn tin rằng AI có thể bắt đầu có ý chí của riêng mình, tạo ra một loại kịch bản giống như Kẻ hủy diệt trong đó loài người bị hủy diệt hoàn toàn. Tỷ phú Elon Musk đã gợi ý về khả năng như vậy khi gần đây ông kêu gọi tạm dừng phát triển AI trong sáu tháng — thời gian tạm dừng có thể liên quan nhiều hơn đến việc ông đang chạy đua để xây dựng đối thủ cạnh tranh ChatGPT của riêng mình. Musk là một trong những người đồng sáng lập ban đầu của OpenAI vào năm 2015 trước khi ông bị đẩy ra sau khi cố gắng nắm quyền kiểm soát công ty vào năm 2018.
Anh Nguyễn (theo Forbes)
