Khi ra mắt thử nghiệm vào tháng 10, chatbot MyCity đã được quảng cáo là ứng dụng công nghệ AI đầu tiên trên toàn thành phố, thứ sẽ cung cấp cho chủ doanh nghiệp "thông tin hữu ích và đáng tin cậy" trên cổng thông tin trực tuyến.

Tuy nhiên, điều đó không phải lúc nào đúng. Các nhà báo tại cơ quan điều tra The Markup lần đầu tiên đưa tin vào tuần trước rằng chatbot cung cấp nhiều phản hồi sai. Nó đã đưa ra lời khuyên sai lầm rằng người sử dụng lao động có thể cắt giảm tiền boa của công nhân và không có quy định nào yêu cầu ông chủ phải thông báo về việc thay đổi lịch làm việc của nhân viên.

Thị trưởng Adams nói với các phóng viên hôm thứ Ba: “Nó sai ở một số chỗ và chúng tôi phải sửa chữa nó”, ông nhấn mạnh rằng đây là một chương trình thí điểm. “Bất cứ khi nào bạn sử dụng công nghệ, bạn cần đưa nó vào môi trường thực tế để giải quyết những khuyết điểm”.

Adams là người ủng hộ nhiệt tình cho việc triển khai công nghệ chưa được thử nghiệm trong thành phố với một thái độ lạc quan. Năm ngoái, ông đã cho đặt một con robot hình trứng ở ga tàu điện ngầm Quảng trường Thời đại mà ông hy vọng sẽ giúp cảnh sát ngăn chặn tội phạm; nó đã ngừng hoạt động khoảng 5 tháng sau đó, nhiều người cho biết rằng nó dường như không bao giờ hoạt động được.

Chatbot MyCity dựa trên dịch vụ Azure AI của Microsoft.

Microsoft từ chối cho biết điều gì có thể gây ra sự cố nhưng cho biết trong một tuyên bố rằng họ đang làm việc với thành phố để khắc phục chúng. Văn phòng Công nghệ và Đổi mới của thành phố cho biết trong một tuyên bố rằng “ngay trong tuần tới, chúng tôi hy vọng sẽ giảm thiểu đáng kể các câu trả lời không chính xác”.

Cả Microsoft và Tòa thị chính đều không trả lời các câu hỏi về nguyên nhân gây ra lỗi và cách khắc phục chúng.

Thành phố đã cập nhật tuyên bố từ chối trách nhiệm trên trang web chatbot MyCity, lưu ý rằng “các phản hồi của nó đôi khi có thể không chính xác hoặc không đầy đủ” và yêu cầu các doanh nghiệp “không sử dụng phản hồi của nó như lời khuyên pháp lý hoặc chuyên nghiệp”.

Andrew Rigie, giám đốc của Liên minh Khách sạn NYC, cho biết: “Tôi khen ngợi thành phố đã cố gắng sử dụng AI để hỗ trợ các doanh nghiệp, nhưng nó cần phải hoạt động hiệu quả”, đồng thời cảnh báo rằng việc làm theo một số hướng dẫn của chatbot có thể mang lại hậu quả pháp lý nghiêm trọng. "Nếu khi tôi đặt một câu hỏi và sau đó tôi phải quay lại gặp luật sư của mình để biết câu trả lời có đúng hay không thì điều đó có ý nghĩa gì".

Mai Anh (theo Reuters)