8,5% câu hỏi AI tạo sinh từ nhân viên chứa dữ liệu nhạy cảm của doanh nghiệp

- Nghiên cứu của Harmonic phân tích hàng ngàn câu hỏi nhập vào các nền tảng AI tạo sinh như Microsoft Copilot, OpenAI ChatGPT, Google Gemini, Anthropic's Clause và Perplexity.

- Kết quả cho thấy 8,5% câu hỏi chứa dữ liệu nhạy cảm, gây rủi ro bảo mật cho doanh nghiệp.

- Dữ liệu nhạy cảm được chia thành 5 loại chính:
  -  Dữ liệu khách hàng: chiếm 45,77%
  -  Dữ liệu nhân viên: 27%
  -  Thông tin pháp lý và tài chính: 14,88%
  -  Thông tin bảo mật: 6,88%
  -  Mã nguồn nhạy cảm: 5,64%

- Dữ liệu khách hàng bị rò rỉ nhiều nhất, bao gồm thông tin thanh toán, xác thực, hồ sơ khách hàng, giao dịch, thẻ tín dụng.

- Dữ liệu nhân viên bị lộ gồm đánh giá hiệu suất, quyết định tuyển dụng, thưởng, hồ sơ việc làm, thông tin cá nhân, lương.

- Thông tin pháp lý và tài chính bị lộ ít hơn nhưng gây rủi ro lớn, bao gồm chi tiết đường ống bán hàng, thông tin sáp nhập và mua lại, dữ liệu tài chính.

- Thông tin bảo mật và mã nguồn bảo mật chiếm tỷ lệ thấp nhưng đang tăng nhanh và gây lo ngại. Bao gồm kết quả kiểm tra thâm nhập, cấu hình mạng, kế hoạch sao lưu.

- Các chuyên gia cho rằng doanh nghiệp khó có thể từ bỏ AI tạo sinh vì lợi ích cạnh tranh.

- Stephen Kowski, CTO tại SlashNext Email Security+, cho rằng không áp dụng AI tạo sinh sẽ khiến doanh nghiệp mất lợi thế về hiệu quả, năng suất và đổi mới.

- Tuy nhiên, Kris Bondi, CEO của Mimoto, cho rằng sử dụng AI chỉ vì muốn dùng AI sẽ thất bại nếu không phục vụ nhu cầu thực sự.

- Để giảm thiểu rủi ro, Harmonic đề xuất các giải pháp:
  -  Triển khai hệ thống theo dõi đầu vào AI tạo sinh theo thời gian thực
  -  Xác định và sử dụng các gói trả phí cho công việc
  -  Giám sát toàn diện các công cụ AI
  -  Phân loại dữ liệu nhạy cảm
  -  Tạo và thực thi quy trình làm việc
  -  Đào tạo nhân viên về thực hành tốt nhất và rủi ro khi sử dụng AI tạo sinh

📌 Nghiên cứu cho thấy 8,5% câu hỏi AI tạo sinh chứa dữ liệu nhạy cảm, chủ yếu là thông tin khách hàng (45,77%) và nhân viên (27%). Doanh nghiệp cần cân bằng giữa lợi ích cạnh tranh và rủi ro bảo mật khi áp dụng AI, đồng thời triển khai các giải pháp quản trị AI hiệu quả.

https://www.darkreading.com/threat-intelligence/employees-sensitive-data-genai-prompts

Thảo luận

© Sóng AI - Tóm tắt tin, bài trí tuệ nhân tạo