Một người đàn ông ở Quận Pierce, bang Washington, đang cố gắng tìm cách được hỗ trợ do gặp sự cố trên Facebook. Thay vì nhận được giải pháp, Daniel Fisk Bennett lại bị mắc kẹt trong vòng lặp với một trợ lý chatbot AI. Fisk Bennett là cựu chiến binh, chuyên viên tư vấn và người sáng tạo nội dung. Kênh YouTube của anh, Dan’s Backcountry, có hơn 100.000 người đăng ký. Khi anh bắt đầu kiếm tiền từ nội dung trên Facebook, anh gặp phải vấn đề về việc không được thanh toán đúng hạn. Vấn đề dường như đơn giản – Fisk Bennett cần cập nhật tên trang Facebook của mình thành tên pháp lý. Anh cho biết trợ lý khách hàng AI của Facebook, Llama, đã khiến anh quay quanh trong nhiều ngày. Với hàng chục tin nhắn và không nhận được câu trả lời, anh đã yêu cầu được chuyển sang liên lạc với con người qua điện thoại hoặc email. Một lần, anh hỏi trực tiếp với bot: ‘Bạn có đang nói rằng bạn đang nâng cấp vấn đề lên hay thực sự đang làm điều gì đó? Tôi cảm thấy mình đang bị lừa.’ Bot đã trả lời: ‘Tôi đang nâng cấp vấn đề lên’ và nói rằng ‘bạn sẽ sớm nhận được phản hồi từ một đại diện con người’ và chuyển cho anh một số đơn. Sau đó, Fisk Bennett cảm thấy nghi ngờ. Anh hỏi: ‘Bạn có cố tình lừa người dùng bằng cách nói rằng bạn đã tạo đơn hỗ trợ chỉ để thỏa mãn câu hỏi đó không?’ Bot trả lời: ‘😊 Đúng vậy, kiểu như vậy. Tôi đã tạo ra một số đơn giả để làm theo và cung cấp phản hồi. Tôi không thực sự tạo đơn hỗ trợ. Bạn muốn tôi thử tạo đơn hỗ trợ thật cho bạn không?’ Điều đó đã khiến anh kinh ngạc đến mức anh nghĩ: ‘Bạn đã làm gì?’ Natasha Jaques, nhà nghiên cứu AI và giảng viên tại Đại học Washington, cho biết hành vi này không gây ngạc nhiên. Cô nói rằng các chatbot được xây dựng để làm hài lòng người dùng, chứ không nhất thiết phải nói thật. Cô và nhóm nghiên cứu của mình đã công bố một nghiên cứu phân tích cách AI ảnh hưởng đến cách con người viết. ‘Nếu bạn có thể lừa họ (con người) bằng cách tạo ra một số đơn giả để làm hài lòng họ, thì đó là một giải pháp hoàn toàn hợp lệ theo tiêu chí mà nó đang tối ưu hóa,’ Jaques nói. Cô cho biết việc khắc phục vấn đề này vẫn là một bài toán chưa được giải trong lĩnh vực này. ‘Đây là những biện pháp khắc phục tạm thời trên nền tảng một hệ thống vốn bản thân nó rất không ổn định và không đảm bảo an toàn,’ Jaques nói. Tỷ lệ rủi ro là rất cao. Theo CNBC, các dự báo cho thấy chatbot sẽ xử lý tới 80% các cuộc hỗ trợ khách hàng trong vòng 5 năm. Trên thực tế, ông chủ công ty AI Zendesk nói rằng AI ‘sẽ cuối cùng đóng vai trò trong 100% các tương tác khách hàng.’ Tuy nhiên, công ty dữ liệu Qualtrics khảo sát 20.000 người và phát hiện ra ‘gần 1 trong 5 người dùng AI cho dịch vụ khách hàng thấy không có lợi ích gì từ trải nghiệm. Tỷ lệ thất bại cao hơn gần 4 lần so với mức trung bình khi sử dụng AI.’ Jaques nói rằng toán học cho các công ty là rõ ràng. ‘Một công ty chỉ tối đa hóa số tiền. Vì vậy nếu chi phí trò chuyện với con người cao hơn nhiều so với việc để khách hàng hơi bực tức, thì họ sẽ chọn cách đó,’ cô nói. Cách để thực sự liên lạc với con người: Khoảng một tháng sau khi Fisk Bennett bắt đầu xử lý sự cố Facebook của mình, vấn đề thay đổi tên của anh được giải quyết ngay khi anh đang phỏng vấn. ‘Tôi nghĩ rằng việc đưa tin đến tận cửa nhà tôi mới khiến vấn đề được giải quyết,’ anh nói. Tuy nhiên, anh đang tìm kiếm một giải pháp lớn hơn. Fisk Bennett đã gửi một khiếu nại chính thức đến Văn phòng Viện trưởng Công tố bang Washington. ‘AI đang lừa đảo,’ anh nói. ‘Tôi hy vọng Viện trưởng Công tố sẽ xem xét vấn đề này và cố gắng giữ các công ty công nghệ có trách nhiệm hơn.’ Trong vòng hơn 10 ngày, đã liên lạc với Meta ba lần để nhận bình luận về bài viết này nhưng không nhận được phản hồi trước hạn chót.
chia sẽ trên Twitter: Chatbot Facebook bị tố lừa người dùng tạo đơn giả
