Mô hình ngôn ngữ lớn trở thành vũ khí trong chiến tranh thông tin

- Một mạng lưới tuyên truyền liên kết với Nga đã sử dụng các mô hình ngôn ngữ lớn (LLMs) để thao túng tin tức từ các phương tiện truyền thông chính thống.
- Recorded Future, một công ty tình báo đe dọa, đã phát hiện ra hoạt động của mạng lưới có tên là CopyCop vào đầu tháng Ba.
- CopyCop đã sử dụng kỹ thuật prompt engineering để điều chỉnh nội dung phù hợp với đối tượng và định kiến chính trị cụ thể, phân phối qua các trang tin giả mạo ở Mỹ, Anh và Pháp.
- Các chủ đề bao gồm căng thẳng giữa người Hồi giáo ở Anh và chiến tranh của Nga chống lại Ukraine, được phát tán trên quy mô lớn.
- Nội dung từ các hãng tin như Fox News, Al-Jazeera, và BBC đã bị CopyCop sử dụng để tạo ra các bài báo có nội dung bị thao túng.
- Clément Briens, một nhà phân tích tại Recorded Future, nhận định rằng quy mô của hoạt động này đặc biệt nổi bật, cho thấy khả năng và hiệu quả chưa từng có trong việc hình thành quan điểm công chúng.
- Recorded Future cũng đã phát hiện các giao diện LLM giả mạo trên các trang tin tức giả.
- Một số bài viết có ghi chú cuối cùng cho biết chúng đã được dịch theo tông giọng bảo thủ hoặc đã loại bỏ các yêu cầu về tông giọng và bối cảnh thiên vị theo yêu cầu của người dùng.
- Hơn 19,000 bài viết đã được tải lên tính đến tháng Ba 2024, cho thấy quy mô đáng kể của hoạt động này.
- Các hoạt động khác cũng đã được phát hiện sử dụng LLMs trong các chiến dịch ảnh hưởng, bao gồm cả những chiến dịch do Nga, Trung Quốc, Bắc Triều Tiên và Iran thực hiện.
- Microsoft đã hợp tác với OpenAI để phát hiện và ngăn chặn các hoạt động này, mặc dù các kỹ thuật được đánh giá là ở giai đoạn đầu và không đặc biệt mới mẻ hay độc đáo.
- Recorded Future dự đoán rằng LLMs sẽ làm giảm chi phí sản xuất nội dung cho các chiến dịch ảnh hưởng xuống 100 lần so với phương pháp truyền thống.

📌 Mạng lưới CopyCop đã sử dụng LLMs để thao túng tin tức từ các phương tiện truyền thông chính thống, phục vụ mục đích tuyên truyền. Với hơn 19.000 bài viết được tải lên tính đến tháng 3/2024, quy mô và hiệu quả của chiến dịch này làm nổi bật khả năng của LLMs trong chiến tranh thông tin.

https://thenextweb.com/news/llms-generative-ai-information-warfare-weapon