- XGBoost vẫn là lựa chọn hàng đầu cho các tác vụ liên quan đến dữ liệu dạng bảng, đặc biệt trong lĩnh vực tài chính và y tế.
- Các nhà đầu tư đang đổ xô vào AI tạo sinh và LLM, nhưng phần lớn lợi nhuận vẫn tập trung vào các kỹ thuật ML dự đoán như XGBoost và Random Forest.
- Một nghiên cứu vào tháng 7/2022 cho thấy các mô hình dựa trên cây quyết định như XGBoost và Random Forest vẫn vượt trội hơn mạng nơ-ron sâu khi áp dụng cho dữ liệu dạng bảng.
- RAG ra đời năm 2020, giúp cải thiện vấn đề "ảo giác" của LLM bằng cách bổ sung thêm dữ liệu. Tuy nhiên, kỹ thuật này vẫn chưa hoàn toàn khắc phục được vấn đề và còn gặp nhiều thách thức về bảo mật, quyền riêng tư dữ liệu.
- Truyền thống có 2 nhóm trong hệ sinh thái ML: nhóm tập trung vào dữ liệu dạng bảng sử dụng XGBoost và nhóm LLM. Gần đây, xu hướng là sử dụng embedding từ LLM làm đầu vào cho các mô hình dạng bảng truyền thống như XGBoost.
📌 XGBoost vẫn giữ vị trí dẫn đầu trong xử lý dữ liệu dạng bảng với khả năng diễn giải, hiệu quả và đa dạng ứng dụng. Trong khi đó, RAG và LLM phù hợp cho các tác vụ đòi hỏi kiến thức chuyên sâu, nhưng việc triển khai gặp nhiều thách thức về bảo mật và quyền riêng tư dữ liệu. Xu hướng tích hợp embedding từ LLM vào các mô hình dạng bảng truyền thống đang ngày càng phổ biến.
https://analyticsindiamag.com/when-to-rag-and-when-not-to-xgboost/