Lập luận tự động - vũ khí bí mật của Amazon trong cuộc chiến chống ảo giác AI
- Amazon đang sử dụng phương pháp "lập luận tự động" để giải quyết vấn đề ảo giác trong AI - khi chatbot đưa ra các câu trả lời sai lệch một cách tự tin
- Lập luận tự động là một nhánh của AI tượng trưng, có nguồn gốc từ logic toán học 2.000 năm trước của Socrates và Plato
- Hiện chỉ có khoảng 3.000 chuyên gia trong lĩnh vực này trên toàn cầu. Amazon đã tuyển dụng phần lớn các chuyên gia, bao gồm 97 thực tập sinh tiến sĩ trong năm qua
- AWS đầu tiên áp dụng lập luận tự động trong lĩnh vực an toàn mạng để chứng minh tính đúng đắn của mã hóa cho khách hàng doanh nghiệp
- Công cụ Automated Reasoning Checks của AWS yêu cầu khách hàng thiết lập các chính sách làm chuẩn mực cho sự thật tuyệt đối, ví dụ như sổ tay hướng dẫn nội bộ về phúc lợi nhân viên
- PricewaterhouseCoopers đang sử dụng công cụ này để ngăn chặn ảo giác cho khách hàng trong các ngành được quản lý như dược phẩm
- Microsoft và Google cũng cung cấp các công cụ tương tự. Google Vertex AI không sử dụng lập luận tự động nhưng tập trung vào độ chính xác của mô hình
- Các chuyên gia khuyến nghị kết hợp nhiều phương pháp để giảm thiểu ảo giác, bao gồm tạo sinh được tăng cường bởi truy xuất dữ liệu ngoài và điều chỉnh tinh chỉnh mô hình
📌 Amazon đang dẫn đầu trong việc ứng dụng lập luận tự động - một lĩnh vực chỉ có 3.000 chuyên gia toàn cầu để giảm thiểu ảo giác AI. Mặc dù không thể loại bỏ hoàn toàn, phương pháp này kết hợp với các công nghệ khác đang giúp doanh nghiệp tin tưởng hơn vào AI.
https://www.wsj.com/articles/why-amazon-is-betting-on-automated-reasoning-to-reduce-ais-hallucinations-b838849e
#WSJ
Thảo luận
Follow Us
Tin phổ biến
