• Một nghiên cứu mới được công bố trên tạp chí iScience cho thấy các chương trình AI được thiết kế để phát hiện nói dối có thể khiến con người dễ dàng buộc tội người khác gian dối hơn.
• Nghiên cứu do Nils Köbis, nhà khoa học hành vi tại Đại học Duisburg-Essen (Đức) dẫn đầu. Ông cho rằng AI có thể trở thành cái cớ để con người trốn tránh trách nhiệm khi đưa ra những cáo buộc.
• Các nhà nghiên cứu đã huấn luyện một thuật toán trên dữ liệu văn bản từ 986 tình nguyện viên. Mỗi người được yêu cầu đưa ra một phát biểu đúng và một phát biểu sai về kế hoạch cuối tuần của họ.
• Thuật toán này sau đó có thể phát hiện các phát biểu đúng và sai với độ chính xác 66%, cao hơn đáng kể so với khả năng của con người (thường không tốt hơn xác suất ngẫu nhiên).
• Tiếp theo, 2.040 tình nguyện viên khác được yêu cầu đọc các phát biểu và quyết định chúng đúng hay sai. Họ được chia thành 4 nhóm: nhóm đối chứng (không có sự hỗ trợ của AI), nhóm bắt buộc (luôn được cho biết đánh giá của AI), nhóm lựa chọn (có thể yêu cầu đánh giá của AI) và nhóm bị chặn (có thể yêu cầu nhưng không nhận được đánh giá của AI).
• Kết quả cho thấy nhóm bắt buộc có xu hướng buộc tội một phát biểu là sai nhiều hơn đáng kể so với nhóm đối chứng và nhóm bị chặn. Nếu AI nói một phát biểu là đúng, chỉ 13% người tham gia nói nó sai. Nếu AI nói nó sai, 40% người tham gia nói nó sai.
• Chỉ 1/3 số người tham gia trong nhóm lựa chọn yêu cầu đánh giá của AI. Tuy nhiên, những người này rất có khuynh hướng tin tưởng AI: khi AI nói một phát biểu là sai, 84% người tham gia đồng ý.
• Köbis cho rằng kết quả này rất đáng báo động và chúng ta nên thực sự cẩn thận với công nghệ này. Ông lo ngại rằng nhiều người tin các thuật toán AI rất mạnh mẽ và khách quan, có thể dẫn đến việc quá phụ thuộc vào chúng ngay cả khi chúng không hoạt động tốt.
• Các nhà nghiên cứu kêu gọi cần có một "khung chính sách toàn diện" để quản lý các AI phát hiện nói dối. Họ nêu ra những lo ngại về trách nhiệm pháp lý, niềm tin của công chúng và hậu quả của những cáo buộc sai.
📌 Nghiên cứu cho thấy AI phát hiện nói dối có độ chính xác 66%, cao hơn con người. Tuy nhiên, việc sử dụng AI này có thể khiến người ta dễ buộc tội người khác gian dối hơn (84% tin tưởng khi AI nói một phát biểu là sai). Cần có khung chính sách toàn diện để quản lý công nghệ này.
https://cosmosmagazine.com/technology/ai/lie-detecting-ai-accusation/