Vụ hack Muah.AI phơi bày quy mô đáng báo động của việc lạm dụng AI tạo nội dung khiêu dâm trẻ em

• Muah.AI là trang web cho phép người dùng tạo "bạn gái AI" có thể trò chuyện và gửi hình ảnh theo yêu cầu. Trang web này có gần 2 triệu người đăng ký và tự mô tả công nghệ của mình là "không kiểm duyệt".

• Một hacker ẩn danh đã lấy được dữ liệu từ Muah.AI và chia sẻ với báo chí. Dữ liệu này cho thấy nhiều người dùng đã yêu cầu AI tạo nội dung lạm dụng tình dục trẻ em (CSAM).

• Troy Hunt, chuyên gia bảo mật, đã phân tích dữ liệu và tìm thấy hơn 30.000 kết quả cho từ khóa "13 tuổi", nhiều kết quả đi kèm với mô tả hành vi tình dục. Từ khóa "tiền dậy thì" cho 26.000 kết quả.

• Hunt ước tính có hàng chục nghìn, thậm chí hàng trăm nghìn yêu cầu tạo CSAM trong bộ dữ liệu. Một số người dùng thậm chí không cố gắng che giấu danh tính khi yêu cầu nội dung này.

• Người điều hành Discord của Muah.AI, Harvard Han, xác nhận trang web đã bị hack nhưng phủ nhận con số ước tính của Hunt, cho rằng "không thể có 5% người dùng là ấu dâm".

• Han cho biết Muah.AI có ít hơn 5 nhân viên và nguồn lực hạn chế để giám sát người dùng. Trang web từng áp dụng hệ thống lọc tự động chặn tài khoản sử dụng từ khóa nhạy cảm, nhưng sau đó điều chỉnh do người dùng phàn nàn bị chặn oan.

• Muah.AI không kiểm tra liệu họ có đang tạo ra CSAM cho người dùng hay không. Han cho rằng nhiều yêu cầu có thể đã bị từ chối, nhưng thừa nhận người dùng có thể tìm cách vượt qua bộ lọc.

• Han biện minh rằng một số người dùng có thể đang tạo hình ảnh trẻ em đã mất để tưởng nhớ. Ông cũng viện dẫn quyền tự do ngôn luận và so sánh AI với súng - có thể được sử dụng tốt hoặc xấu.

• Luật liên bang Mỹ cấm hình ảnh khiêu dâm trẻ em được tạo bằng máy tính nếu sử dụng hình ảnh trẻ em thật. Tuy nhiên, việc áp dụng luật hiện hành với AI tạo sinh vẫn đang được tranh luận.

• Vụ hack Muah.AI cho thấy quy mô của vấn đề lạm dụng AI để tạo CSAM, vốn trước đây chỉ tồn tại ở những góc tối của internet, nay đã trở nên dễ tiếp cận hơn và khó ngăn chặn.

📌 Vụ hack Muah.AI phơi bày quy mô đáng báo động của việc lạm dụng AI tạo nội dung khiêu dâm trẻ em, với hàng chục nghìn yêu cầu bị phát hiện. Vấn đề này đặt ra thách thức lớn về pháp lý, đạo đức và kiểm soát công nghệ AI tạo sinh trong tương lai.

https://www.theatlantic.com/technology/archive/2024/10/muah-ai-hack-child-abuse/680300/