Tiêu chuẩn toàn cầu mới nhằm tăng cường an ninh cho mô hình ngôn ngữ lớn

• Tổ chức World Digital Technology Academy (WDTA) vừa công bố một tiêu chuẩn toàn cầu mới nhằm giúp các tổ chức quản lý rủi ro khi tích hợp mô hình ngôn ngữ lớn (LLM) vào hệ thống của họ.

https://wdtacademy.org/publications/LLM

• Khung tiêu chuẩn mới có tên AI-STR-03, cung cấp hướng dẫn cho các giai đoạn khác nhau trong vòng đời của LLM, bao gồm phát triển, triển khai và bảo trì.

• Tiêu chuẩn nhấn mạnh cách tiếp cận đa lớp đối với bảo mật, bao gồm các lớp mạng, hệ thống, nền tảng và ứng dụng, mô hình và dữ liệu.

• Nó sử dụng các khái niệm chính như Machine Learning Bill of Materials, kiến trúc zero trust và giám sát liên tục để đảm bảo tính toàn vẹn, khả dụng, bảo mật, kiểm soát và độ tin cậy của hệ thống LLM trong toàn bộ chuỗi cung ứng.

• Các yêu cầu bảo mật liên quan đến cấu trúc hệ thống của LLM bao gồm các yêu cầu cho lớp mạng, lớp hệ thống, lớp nền tảng và ứng dụng, lớp mô hình và lớp dữ liệu.

• Tiêu chuẩn đảm bảo sản phẩm và các hệ thống, thành phần, mô hình, dữ liệu và công cụ của nó được bảo vệ khỏi sự can thiệp hoặc thay thế trái phép trong suốt vòng đời của sản phẩm LLM.

• Nó cũng giải quyết các lỗ hổng phổ biến trong bảo mật phần mềm trung gian để ngăn chặn truy cập trái phép và bảo vệ chống lại nguy cơ đầu độc dữ liệu huấn luyện.

• Khung tiêu chuẩn thực thi kiến trúc zero-trust để giảm thiểu các mối đe dọa nội bộ.

• Các yêu cầu bảo mật chuỗi cung ứng LLM cũng đề cập đến nhu cầu về tính khả dụng, bảo mật, kiểm soát, độ tin cậy và khả năng hiển thị.

• Tiêu chuẩn mới được soạn thảo và đánh giá bởi một nhóm làm việc gồm nhiều công ty và tổ chức công nghệ như Microsoft, Google, Meta, Cloud Security Alliance Greater China Region, Nanyang Technological University ở Singapore, Tencent Cloud và Baidu.

• Đây là tiêu chuẩn quốc tế đầu tiên giải quyết vấn đề bảo mật chuỗi cung ứng LLM.

• Hợp tác quốc tế về các tiêu chuẩn liên quan đến AI ngày càng quan trọng khi AI tiếp tục phát triển và tác động đến nhiều lĩnh vực trên toàn cầu.

• Lars Ruddigkeit, chiến lược gia công nghệ của Microsoft cho biết khung tiêu chuẩn mới không nhằm mục đích hoàn hảo mà cung cấp nền tảng cho một tiêu chuẩn quốc tế.

📌 Tiêu chuẩn toàn cầu AI-STR-03 do WDTA phát triển nhằm tăng cường an ninh cho mô hình ngôn ngữ lớn. Nó cung cấp hướng dẫn quản lý rủi ro và tích hợp LLM trong toàn bộ vòng đời, với sự tham gia của nhiều công ty công nghệ lớn như Microsoft, Google, Meta.

https://www.zdnet.com/article/new-global-standard-aims-to-build-security-around-large-language-models/