Cách phát hiện nội dung giả mạo tạo bởi AI: hướng dẫn chi tiết từ chuyên gia

• Các nhà lãnh đạo thế giới lo ngại thông tin sai lệch và thông tin xuyên tạc có thể "gây gián đoạn nghiêm trọng các quy trình bầu cử ở một số nền kinh tế trong hai năm tới", theo báo cáo của Diễn đàn Kinh tế Thế giới.

• Hany Farid từ Đại học California, Berkeley cho biết vấn đề với thông tin xuyên tạc do AI tạo ra là quy mô, tốc độ và sự dễ dàng mà các chiến dịch có thể được phát động. Chỉ cần một cá nhân có quyền truy cập vào một số sức mạnh tính toán khiêm tốn cũng có thể tạo ra một lượng lớn nội dung giả mạo.

• Nghiên cứu của Nicholas Dufour tại Google và các đồng nghiệp cho thấy sự gia tăng nhanh chóng tỷ lệ hình ảnh do AI tạo ra trong các tuyên bố thông tin sai lệch được kiểm chứng từ đầu năm 2023 trở đi.

• Một nghiên cứu năm 2024 của Negar Kamali và đồng nghiệp tại Đại học Northwestern đã xác định 5 loại lỗi phổ biến trong hình ảnh do AI tạo ra: phi lý về mặt văn hóa xã hội, phi lý về giải phẫu, hiệu ứng phong cách, phi lý về chức năng và vi phạm vật lý.

• Để phát hiện video deepfake, cần chú ý đến chuyển động miệng và môi, lỗi giải phẫu, khuôn mặt, ánh sáng, tóc và chớp mắt. Các video hoàn toàn do AI tạo ra thường có khuôn mặt biến dạng hoặc chuyển động cơ thể kỳ lạ.

• Nghiên cứu của Paul Brenner tại Đại học Notre Dame cho thấy tình nguyện viên chỉ có thể phân biệt bot AI với con người khoảng 42% thời gian. Một số chiến lược để nhận biết bot AI bao gồm: sử dụng emoji và hashtag quá mức, cụm từ không phổ biến, lặp lại và cấu trúc, đặt câu hỏi và giả định trường hợp xấu nhất.

• Công nghệ nhân bản giọng nói AI đã dẫn đến sự gia tăng các vụ lừa đảo deepfake âm thanh. Để phát hiện, cần kiểm tra tính nhất quán với thông tin công khai, so sánh với các clip âm thanh đã được xác thực trước đó, chú ý đến khoảng lặng kỳ lạ và cách nói chuyện không tự nhiên.

• Rachel Tobac, đồng sáng lập SocialProof Security, khuyên nên "lịch sự hoang tưởng" và nhận ra rằng AI có thể thao túng và chế tạo hình ảnh, video và âm thanh nhanh chóng - chỉ trong vòng 30 giây hoặc ít hơn.

• Hany Farid cho rằng các cơ quan quản lý chính phủ phải buộc các công ty công nghệ lớn nhất chịu trách nhiệm về việc phát triển nhiều công cụ đang làm tràn ngập internet với nội dung giả mạo do AI tạo ra.

📌 AI tạo sinh đang tạo ra thách thức lớn trong việc phân biệt nội dung thật-giả. Nghiên cứu cho thấy người dùng chỉ phát hiện được khoảng 70% hình ảnh AI giả và 42% bot AI. Cần nâng cao nhận thức và kỹ năng kiểm tra nội dung kỹ lưỡng để tránh bị lừa dối.

https://www.geeky-gadgets.com/?p=436564