Bộ quốc phòng Mỹ muốn tạo "đội quân" AI giả mạo trên mạng xã hội

• Bộ chỉ huy hoạt động đặc biệt liên hợp (JSOC) thuộc Bộ quốc phòng Mỹ đang tìm kiếm công nghệ để tạo ra các nhân vật trực tuyến giả mạo bằng AI.

• Mục đích là sử dụng các nhân vật này trên các nền tảng mạng xã hội và trang web để thu thập thông tin từ các diễn đàn công cộng.

• JSOC muốn công nghệ này có khả năng tạo ra hình ảnh khuôn mặt, hình nền, video và âm thanh thật thuyết phục.

• Điều này trái ngược với những cảnh báo trước đó của chính phủ Mỹ về nguy cơ deepfake và nội dung do AI tạo ra làm trầm trọng thêm khủng hoảng thông tin sai lệch.

• Năm ngoái, Bộ quốc phòng Mỹ đã bày tỏ quan tâm đến việc sử dụng deepfake để cải thiện và mở rộng các chiến dịch gây ảnh hưởng trực tuyến.

• Bộ chỉ huy hoạt động đặc biệt (SOCOM) của Lầu năm góc tìm kiếm các công nghệ "gây rối loạn hơn" và "có phạm vi rộng hơn" so với các công cụ hiện tại.

• Project 2025 - một bản kế hoạch cho nhiệm kỳ tổng thống tiềm năng của Donald Trump - cũng đề xuất sử dụng AI để mở rộng hoạt động giám sát và gián điệp.

• Các chuyên gia cảnh báo việc Mỹ chạy đua sử dụng AI cho các hoạt động kỹ thuật số mờ ám có thể khuyến khích các quốc gia khác làm theo.

• Điều này có thể dẫn đến một cuộc chạy đua vũ trang AI toàn cầu trong lĩnh vực tình báo và gây ảnh hưởng trực tuyến.

• Việc sử dụng AI để tạo ra nội dung giả mạo có thể làm suy yếu lòng tin của công chúng vào thông tin trực tuyến.

• Các nhân vật AI giả mạo có thể được sử dụng để lan truyền thông tin sai lệch hoặc thao túng dư luận.

• Điều này đặt ra những thách thức mới trong việc xác minh danh tính và nguồn gốc thông tin trên mạng xã hội.

• Cần có các quy định và hướng dẫn đạo đức rõ ràng về việc sử dụng AI trong hoạt động tình báo và quân sự.

📌 Bộ quốc phòng Mỹ đang tìm cách sử dụng AI để tạo ra các nhân vật giả mạo trên mạng xã hội nhằm thu thập thông tin. Điều này có thể khởi đầu cho một cuộc chạy đua vũ trang AI toàn cầu trong lĩnh vực tình báo trực tuyến, đe dọa làm suy yếu lòng tin vào thông tin trên internet.

https://futurism.com/the-byte/pentagon-wants-fake-ai-people