Chatbot AI thành phố New York đưa tin sai lệch, chính quyền không nên dùng khu vực công làm "vật thí nghiệm"

- Tháng trước, chatbot AI của thành phố New York bị phát hiện đưa ra thông tin sai lệch, khuyến khích chủ doanh nghiệp bỏ qua luật pháp và xâm phạm quyền lợi của người lao động và người thuê nhà.
- Thị trưởng Eric Adams cho rằng cần đưa công nghệ vào thực tế để khắc phục lỗi. Tuy nhiên, chatbot vẫn hoạt động và tiếp tục đưa ra lời khuyên sai lệch.
- Tư duy "hành động nhanh và phá vỡ mọi thứ" của Silicon Valley không phù hợp với khu vực công, vì chính quyền phải gánh chịu hậu quả của những trục trặc công nghệ.
- Chatbot được Microsoft phát triển và ra mắt vào tháng 10 như một phần của Sáng kiến Trí tuệ Nhân tạo thành phố New York. Nếu triển khai hiệu quả, nó có thể hỗ trợ nỗ lực hợp lý hóa dịch vụ công.
- Tuy nhiên, lời khuyên sai lệch của chatbot đã gây ra nhiều vấn đề tiềm ẩn cho chính quyền thành phố và đe dọa người dân.
- Ví dụ, chatbot đã sai lầm thông báo cho chủ lao động rằng họ có thể giữ tiền boa của người lao động. New York có một số luật bảo vệ lao động mạnh nhất ở Mỹ, nhưng thông tin sai lệch từ chatbot có thể khiến người lao động không dám khiếu nại.
- Công chúng cần có cơ hội đóng góp ý kiến về các công nghệ được đưa vào quản lý công, vì họ tương tác với các cơ quan này và có thể bị ảnh hưởng bất lợi bởi các hệ thống AI.
- Cuối cùng, niềm tin đang bị đe dọa: Nếu công chúng không thể tin tưởng vào chính quyền được bầu một cách dân chủ, sự hợp tác giữa chính quyền và người dân sẽ bị phá vỡ.

📌 Chatbot AI của New York đưa tin sai lệch, khuyến khích vi phạm luật, đe dọa quyền lợi người dân. Chính quyền không nên dùng khu vực công làm "vật thí nghiệm" cho AI theo kiểu tư duy "hành động nhanh và phá vỡ mọi thứ" của Silicon Valley. Cần sự tham gia của công chúng khi triển khai công nghệ trong quản lý công để đảm bảo niềm tin.

Citations:
[1] https://thehill.com/opinion/technology/4624114-ai-chatbot-government-public-sector-silicon-valley-new-york-city/