Dự luật California quy định về việc sử dụng AI tạo sinh trong chính quyền

• Dự luật có tên "Đạo luật Trách nhiệm Giải trình về Trí tuệ Nhân tạo Tạo sinh" được đề xuất tại California.

• Dự luật công nhận tiềm năng to lớn của AI trong cải thiện cuộc sống người dân và hoạt động của chính quyền, nhưng cũng nhấn mạnh việc sử dụng AI phải tuân theo các nguyên tắc công bằng, minh bạch, bảo vệ quyền riêng tư và trách nhiệm giải trình.

• AI tạo sinh (GenAI) được định nghĩa là hệ thống AI có thể tạo ra nội dung tổng hợp như văn bản, hình ảnh, video và âm thanh mô phỏng cấu trúc và đặc điểm của dữ liệu huấn luyện.

• Dự luật yêu cầu các cơ quan nhà nước sử dụng GenAI để giao tiếp trực tiếp với người dân phải có tuyên bố miễn trừ trách nhiệm rõ ràng cho biết thông tin được tạo bởi GenAI.

• Đối với giao tiếp bằng văn bản, tuyên bố miễn trừ phải xuất hiện nổi bật ở đầu mỗi thông tin liên lạc. Với tương tác trực tuyến liên tục như chatbot, tuyên bố phải được hiển thị nổi bật trong suốt quá trình tương tác.

• Đối với giao tiếp bằng âm thanh, tuyên bố miễn trừ phải được cung cấp bằng lời nói ở đầu và cuối tương tác. Với giao tiếp video, tuyên bố phải được hiển thị nổi bật trong suốt quá trình tương tác.

• Các cơ quan nhà nước cũng phải cung cấp thông tin hoặc liên kết đến trang web chứa thông tin về cách người dân có thể liên hệ với nhân viên con người của cơ quan.

• Dự luật nhấn mạnh không cá nhân hoặc nhóm nào bị phân biệt đối xử dựa trên chủng tộc, giới tính, tuổi tác, tôn giáo, khuynh hướng tình dục hoặc bất kỳ đặc điểm được bảo vệ nào khác trong thiết kế, phát triển, triển khai hoặc sử dụng hệ thống AI.

• Văn bản cũng yêu cầu xem xét tác động của GenAI đối với người dân California thuộc các vùng, thu nhập, chủng tộc, dân tộc, giới tính, độ tuổi, tôn giáo, khả năng và khuynh hướng tình dục khác nhau.

• Dự luật kêu gọi thiết lập quan hệ đối tác công-tư để đào tạo sinh viên đáp ứng nhu cầu phát triển lực lượng lao động GenAI của tiểu bang, bao gồm cả hướng dẫn về AI và các vấn đề đạo đức, quyền riêng tư và bảo mật liên quan.

• Văn bản yêu cầu Sở Công nghệ, dưới sự hướng dẫn của Cơ quan Hoạt động Chính phủ, Văn phòng Dữ liệu và Đổi mới, và Sở Nhân sự, cập nhật báo cáo khi cần thiết để đáp ứng các phát triển quan trọng.

• Văn phòng Dịch vụ Khẩn cấp được yêu cầu thực hiện phân tích rủi ro về các mối đe dọa tiềm ẩn do việc sử dụng GenAI đối với cơ sở hạ tầng quan trọng của California.

• Các cơ quan và phòng ban của tiểu bang được khuyến khích xem xét các cơ hội mua sắm và sử dụng doanh nghiệp trong đó GenAI có thể cải thiện hiệu quả, hiệu lực, khả năng tiếp cận và công bằng của hoạt động chính phủ.

📌 Dự luật California đề xuất quy định chặt chẽ việc sử dụng AI tạo sinh trong chính quyền, yêu cầu minh bạch khi giao tiếp với người dân, phân tích rủi ro và đào tạo lực lượng lao động. Mục tiêu là tận dụng lợi ích của AI đồng thời bảo vệ quyền công dân.

https://digitaldemocracy.calmatters.org/bills/ca_202320240sb896