Báo cáo từ Văn phòng Tổng chưởng lý New York về cơ hội và rủi ro của AI tạo sinh trong thập kỷ tới

• Văn phòng Tổng chưởng lý New York tổ chức hội thảo "Thập kỷ tới của AI tạo sinh: Thúc đẩy cơ hội và quản lý rủi ro" với sự tham gia của các chuyên gia hàng đầu để thảo luận về cơ hội và rủi ro của công nghệ AI trong thập kỷ tới.

• Trong lĩnh vực y tế, AI có tiềm năng cải thiện chăm sóc sức khỏe thông qua phát hiện bệnh sớm, nghiên cứu thuốc, giám sát xu hướng sức khỏe cộng đồng và giảm gánh nặng hành chính cho bác sĩ. Ví dụ: một công cụ AI có thể xem xét ảnh chụp X-quang vú và phát hiện các bất thường có thể báo hiệu nguy cơ ung thư vú trước 5 năm, cho phép can thiệp sớm hơn. Tuy nhiên, cần cân nhắc vấn đề quyền riêng tư và tiếp cận công bằng.

• AI có thể giúp tìm kiếm thông tin dễ dàng hơn thông qua chatbot, dịch thuật tự động. Tuy nhiên, AI tạo sinh dễ tạo ra thông tin sai lệch, deepfake gây hại cho danh tiếng cá nhân và ảnh hưởng bầu cử. Ví dụ như các cuộc gọi tự động giả mạo ứng cử viên tổng thống khuyến khích mọi người không đi bỏ phiếu trong các cuộc bầu cử sơ bộ.

• Trong lĩnh vực hành chính, AI giúp tự động hóa nhiều tác vụ như tính thuế, xét duyệt hồ sơ, tạo tài liệu giáo dục công cộng. Tuy nhiên, việc sử dụng AI trong tuyển dụng có thể làm trầm trọng thêm vấn đề phân biệt đối xử do thuật toán có thể khuếch đại thành kiến con người.

• Dữ liệu đào tạo AI tạo sinh gây lo ngại về bản quyền, thiếu đại diện nhóm thiểu số, tập trung thị trường. Việc sử dụng dữ liệu tổng hợp có thể làm trầm trọng thêm vấn đề sai sót. Các chuyên gia cảnh báo về việc sử dụng dữ liệu không chính xác, không phù hợp hoặc bí mật trong quá trình đào tạo mô hình.

• Các chiến lược giảm thiểu rủi ro bao gồm: giáo dục công chúng về cách nhận biết nội dung do AI tạo ra, minh bạch và kiểm toán AI, bảo vệ quyền người tiêu dùng, quy định và giám sát. Nhiều chuyên gia kêu gọi xây dựng khung thủy vân mạnh mẽ cho nội dung AI và tiêu chuẩn kiểm toán thuật toán rõ ràng.

• Cần có thêm nghiên cứu về tiêu chuẩn kiểm toán thuật toán, khung thủy vân mạnh mẽ cho nội dung AI, và mô hình quản lý phù hợp. Các chuyên gia không đồng thuận về việc nên áp dụng khung quản lý tập trung như Đạo luật AI của EU hay phân tán theo từng lĩnh vực.

• Gần đây đã có một số tiến triển trong quản lý AI như Đạo luật SAFE for Kids của New York, Đạo luật AI Colorado, lộ trình chính sách AI của Thượng viện Mỹ. Văn phòng Tổng chưởng lý New York đang tích cực theo dõi hiệu quả của các khung quản lý khác nhau để đưa ra các đề xuất lập pháp và quy định trong tương lai.

📌 Báo cáo tổng hợp ý kiến chuyên gia về cơ hội và thách thức của AI tạo sinh trong thập kỷ tới, đặc biệt trong y tế, thông tin và hành chính. Các chiến lược giảm thiểu rủi ro được đề xuất bao gồm giáo dục công chúng, minh bạch và kiểm toán AI, bảo vệ quyền người tiêu dùng và quy định phù hợp. Cần nghiên cứu thêm về tiêu chuẩn kiểm toán, khung thủy vân và mô hình quản lý AI hiệu quả.

https://www.news10.com/news/ny-news/ag-releases-ai-report/