Mối quan hệ giữa sự sáng tạo và ảo giác trong các mô hình AI tạo sinh

• Bài viết thảo luận về "Tình thế tiến thoái lưỡng nan Promethean của AI" ở giao điểm giữa sáng tạo và ảo giác trong các mô hình AI tạo sinh (GenAI).

• Ảo giác trong GenAI được định nghĩa là việc tạo ra nội dung mà mô hình không được đào tạo hoặc đào tạo chưa đầy đủ do dữ liệu và tài nguyên tính toán hạn chế. Nó thường biểu hiện dưới dạng nội dung không thực tế hoặc không phù hợp với gợi ý đầu vào.

• Các tác giả đặt câu hỏi liệu ảo giác có thể là chìa khóa để hiểu cách tổng hợp đầu ra sáng tạo từ GenAI hay không.

• Bản chất của việc đưa ra gợi ý ảnh hưởng đến mức độ sáng tạo hoặc ảo giác chấp nhận được trong đầu ra. Gợi ý chủ quan với ngữ cảnh mơ hồ có thể tăng khả năng ảo giác, trong khi gợi ý khách quan có thể được kiểm chứng dễ dàng hơn.

• Phân biệt giữa sáng tạo và ảo giác trong GenAI là một thách thức, đặc biệt đối với các nhiệm vụ chủ quan như tạo nghệ thuật. Các tác giả đề xuất rằng cần có một hệ thống chuẩn với zero ảo giác để đánh giá sự xuất hiện của sáng tạo trong GenAI.

• Khả năng hiểu và áp dụng các chuẩn mực xã hội được cho là quan trọng để GenAI có thể phân biệt giữa tính mới và ảo giác. Tuy nhiên, GenAI hiện tại thiếu khả năng tự vượt qua các điểm kiểm soát của con người.

• Các hướng nghiên cứu trong tương lai bao gồm:
- So sánh sự thay đổi kết quả khi thay đổi gợi ý cho các nhiệm vụ mở/chủ quan
- Mở rộng quy trình Học tăng cường từ phản hồi của con người để bao gồm gợi ý chủ quan và chuẩn mực xã hội
- Cập nhật kiến thức của GenAI một cách linh hoạt
- Cải thiện hiểu biết về cách các tham số thu được kiến thức và cách diễn giải kiến thức đó khi được gợi ý

• Các tác giả đề xuất rằng thiết kế giao diện GenAI trong tương lai có thể cho phép người dùng chỉ định mức độ cân bằng mong muốn giữa tính nhất quán và tính mới dựa trên mục tiêu của họ.

📌 Bài viết thảo luận về mối quan hệ phức tạp giữa sáng tạo và ảo giác trong AI tạo sinh, đặt ra nhiều câu hỏi thú vị. Các tác giả đề xuất hướng nghiên cứu tương lai như so sánh kết quả với các gợi ý khác nhau và mở rộng quy trình học tăng cường từ phản hồi của con người để cải thiện khả năng sáng tạo của AI.

https://cacm.acm.org/opinion/the-promethean-dilemma-of-ai-at-the-intersection-of-hallucination-and-creativity/