Chatbot AI của New York tư vấn sai luật, thị trưởng vẫn bênh vực

- Thị trưởng New York Eric Adams bảo vệ chatbot AI mới của thành phố, mặc dù nó đưa ra lời khuyên sai lệch cho các chủ doanh nghiệp, thậm chí vi phạm pháp luật.
- Khi ra mắt thử nghiệm vào tháng 10, chatbot MyCity được quảng cáo là công cụ AI đầu tiên được sử dụng trên toàn thành phố, cung cấp "thông tin đáng tin cậy và khả thi" cho các chủ doanh nghiệp.
- Tuy nhiên, chatbot đã đưa ra lời khuyên sai lầm rằng chủ lao động có thể lấy một phần tiền boa của nhân viên và không có quy định bắt buộc thông báo trước về lịch làm việc.
- Thị trưởng Adams thừa nhận chatbot "sai ở một số lĩnh vực" và cần khắc phục trong giai đoạn thử nghiệm. Ông từng ủng hộ nhiệt tình việc triển khai các công nghệ chưa được kiểm chứng.
- Chatbot vẫn hoạt động và đôi khi đưa ra câu trả lời sai, như cho rằng cửa hàng có thể từ chối thanh toán tiền mặt (trái với luật năm 2020) và mức lương tối thiểu là 15 đô la/giờ (thay vì 16 đô la từ năm 2024).
- Chatbot dựa trên dịch vụ Microsoft Azure AI, có vẻ mắc phải các vấn đề phổ biến của công nghệ AI tạo sinh như đưa ra thông tin sai lệch một cách tự tin.
- Microsoft và chính quyền thành phố chưa giải thích nguyên nhân lỗi và cách khắc phục. Trang web chatbot đã cập nhật cảnh báo về câu trả lời không chính xác, không nên coi là lời khuyên pháp lý.
- Giám đốc Liên minh Khách sạn NYC cho biết các chủ doanh nghiệp bối rối với câu trả lời của chatbot. Việc làm theo hướng dẫn sai có thể dẫn đến hậu quả pháp lý nghiêm trọng.

📌 Chatbot AI của New York đang gây tranh cãi khi đưa ra lời khuyên sai lệch, thậm chí vi phạm pháp luật cho các doanh nghiệp. Mặc dù thừa nhận lỗi, Thị trưởng Adams vẫn bênh vực công cụ đang trong giai đoạn thử nghiệm này. Microsoft và chính quyền thành phố đang nỗ lực khắc phục các vấn đề của chatbot dựa trên AI tạo sinh.

https://www.reuters.com/technology/new-york-city-defends-ai-chatbot-that-advised-entrepreneurs-break-laws-2024-04-04/