Deepfakes trong chính trị và xã hội đòi hỏi nhiều giải pháp phối hợp

• Tuần này, cựu Tổng thống Trump đã tuyên bố sai sự thật rằng hình ảnh từ một cuộc vận động tranh cử gần đây của Harris được tạo ra bởi trí tuệ nhân tạo - đây là trường hợp đầu tiên một ứng cử viên lớn ở Mỹ gieo rắc nghi ngờ về deepfake.

• Nhận xét của Trump xuất hiện trong bối cảnh các vụ lừa đảo deepfake ngày càng gia tăng, bao gồm việc ai đó cố gắng sử dụng âm thanh được tạo ra của Tổng thống Biden để tác động đến cuộc bầu cử sơ bộ ở New Hampshire và việc sử dụng deepfake có thể gây ảnh hưởng lớn hơn trong cuộc bầu cử tháng 10 ở Slovakia.

• Trong khi đó, xAI đang ra mắt một mô hình mới đáng kinh ngạc cho phép tạo ra hình ảnh cực kỳ chân thực và không bị lọc.

• Thách thức về niềm tin và tính xác thực trong thời đại deepfake có khả năng cao không nên bị đánh giá thấp. Căng thẳng tiềm ẩn trong bầu cử đã quen thuộc, nhưng ít người nhận thức đầy đủ về mức độ nghiêm trọng của căng thẳng có thể xảy ra đối với các khía cạnh khác của xã hội.

• Trong một phiên tòa, ví dụ, điều gì ngăn cản tội phạm đưa ra đoạn phim an ninh được tạo ra để minh oan, hoặc kêu lên "AI!" khi bằng chứng âm thanh buộc tội được đưa ra?

• Ngoài phòng xử án, phương tiện truyền thông tổng hợp đang được sử dụng tích cực để lừa đảo. Chỉ riêng năm 2023, Deloitte ước tính rằng AI tạo sinh đã cho phép chiếm đoạt 12,3 tỷ USD, con số này chắc chắn sẽ tăng lên khi khả năng cải thiện.

• Tin xấu là việc kêu gọi một "giải pháp" toàn diện không phải là giải pháp. Không có câu trả lời dễ dàng và không có văn bản pháp lý đơn giản nào có thể giải quyết vấn đề ngày càng lớn này.

• Tin tốt là các giải pháp một phần đã tồn tại. Bước đầu tiên và quan trọng nhất là phát triển và triển khai một loạt các kỹ thuật pháp y đáng tin cậy, dễ sử dụng để cung cấp cơ sở kỹ thuật cho sự thật nền tảng.

• Để tăng cường thủy vân, chúng ta cũng cần phát triển một bộ các kỹ thuật xác thực nội dung được chuẩn hóa, dễ sử dụng và dễ xác minh, có thể bao gồm sự kết hợp của các bộ phát hiện deepfake tự động, các thực hành tốt nhất đã học được và bằng chứng theo ngữ cảnh.

• Các nhà hoạch định chính sách nên xem xét việc ủy quyền cho một loạt các khoản đầu tư nghiên cứu pháp y AI và các thách thức lớn, với nhận thức rằng nó đòi hỏi cam kết lâu dài để đảm bảo các công cụ theo kịp sự tiến hóa kỹ thuật nhanh chóng.

• Các cơ quan thiết lập tiêu chuẩn liên bang có thể giúp đỡ bằng cách ủy quyền các tiêu chuẩn thực hành dễ tiếp cận được thiết kế có chủ ý để phù hợp với các tác nhân địa phương có nguồn lực thấp, kiến thức thấp.

• Trong ngắn hạn, sẽ có sự nhầm lẫn, gian lận và lừa đảo đáng kể do cái mà Giáo sư Ethan Mollick của Trường Wharton gọi là "mù lòa thay đổi". Hiểu biết của công chúng về sự tiến hóa của AI tạo sinh kém xa so với trạng thái nghệ thuật đột phá.

• Ở đây, các chiến dịch quảng cáo công cộng đơn giản có thể đi một chặng đường dài. Thượng viện đang xem xét Đạo luật Chiến dịch Giáo dục và Nâng cao Nhận thức Công chúng về Trí tuệ Nhân tạo, sẽ tài trợ cho một chiến dịch như vậy.

📌 Deepfake đang trở thành mối đe dọa nghiêm trọng đối với niềm tin và tính xác thực trong xã hội. Cần có giải pháp đa chiều bao gồm công nghệ pháp y AI, tiêu chuẩn thực hành và giáo dục công chúng. Ước tính thiệt hại do AI tạo sinh gây ra lên tới 12,3 tỷ USD chỉ trong năm 2023, đòi hỏi hành động khẩn cấp từ các nhà hoạch định chính sách và xã hội dân sự.

https://thehill.com/opinion/technology/4831515-trump-deepfake-uncertainty-ai-authenticity/