Viện tiêu chuẩn quốc gia Mỹ NIST ra mắt nền tảng mới NIST GenAI để đánh giá công nghệ AI tạo sinh

- Viện Tiêu chuẩn và Công nghệ Quốc gia Hoa Kỳ (NIST) đã công bố ra mắt chương trình NIST GenAI vào ngày thứ Hai.
- Chương trình này nhằm mục đích đánh giá các công nghệ AI tạo sinh, bao gồm AI sinh văn bản và hình ảnh.
- NIST GenAI sẽ phát hành các chuẩn mực, hỗ trợ tạo ra hệ thống phát hiện tính xác thực của nội dung (ví dụ: hệ thống kiểm tra deepfake) và khuyến khích phát triển phần mềm để xác định nguồn gốc của thông tin giả mạo hoặc gây hiểu lầm do AI tạo ra.
- Chương trình NIST GenAI sẽ phát hành một loạt các bài toán thử thách nhằm đánh giá và đo lường khả năng và giới hạn của các công nghệ AI tạo sinh.
- Các đánh giá này sẽ được sử dụng để xác định các chiến lược thúc đẩy tính toàn vẹn thông tin và hướng dẫn sử dụng an toàn và có trách nhiệm của nội dung số.
- NIST GenAI mời các đội từ học viện, công nghiệp và phòng thí nghiệm nghiên cứu tham gia gửi các “máy phát” — các hệ thống AI để tạo nội dung — hoặc “máy phân biệt,” những hệ thống được thiết kế để xác định nội dung do AI tạo ra.
- Đăng ký cho chương trình thử nghiệm sẽ bắt đầu vào ngày 1 tháng 5, với vòng đầu tiên của hai vòng dự kiến sẽ kết thúc vào ngày 2 tháng 8.
- Kết quả cuối cùng từ nghiên cứu dự kiến sẽ được công bố vào tháng 2 năm 2025.
- Việc ra mắt NIST GenAI là một phần của phản ứng của NIST đối với sắc lệnh hành pháp về AI của Tổng thống Joe Biden, yêu cầu các công ty AI tăng cường minh bạch về cách thức hoạt động của các mô hình của họ và thiết lập một loạt các tiêu chuẩn mới, bao gồm cả việc gắn nhãn nội dung do AI tạo ra.

📌 NIST GenAI, một sáng kiến mới của Viện tiêu chuẩn quốc gia Mỹ NIST, nhằm đánh giá và phát triển chuẩn mực cho công nghệ AI tạo sinh, bao gồm cả việc phát triển các hệ thống kiểm tra deepfake và các phần mềm xác định nguồn gốc thông tin giả mạo. Chương trình thử nghiệm sẽ bắt đầu vào ngày 1 tháng 5 và kết quả dự kiến được công bố vào tháng 2 năm 2025.

Citations:
[1] https://techcrunch.com/2024/04/29/nist-launches-a-new-platform-to-assess-generative-ai/