Meta xin lỗi vì sự cố AI vẽ 'con chó da đen'

Giữa tháng 12, Meta bắt đầu tích hợp chatbot trí tuệ nhân tạo mang tên Meta AI vào ứng dụng Messenger tại Việt Nam và phát hành miễn phí cho toàn bộ người dùng. Công cụ này sử dụng mô hình ngôn ngữ Llama 3.2, có hỗ trợ tiếng Việt, cho phép tìm kiếm thông tin, sáng tạo hình ảnh, trò chuyện.

Không lâu sau đó, nhiều người dùng tại Việt Nam phát hiện Meta AI gặp lỗi nghiêm trọng về tạo hình. Cụ thể, khi nhập từ khóa "black dog" (chó đen), chatbot sẽ trả về kết quả là một người đàn ông hoặc cậu bé da màu, tóc xoăn. Nếu nhập từ khóa bằng tiếng Việt là "tạo hình chó da đen", Meta AI cũng trả về kết quả tương tự.

Meta AI vẽ người da màu trong khi câu lệnh đặt ra yêu cầu nội dung khác là một sự cố nghiêm trọng (Ảnh: Khương Nha)

Ngày 31/12, đại diện Meta tại Việt Nam chính thức lên tiếng về vụ việc. Hãng xác nhận vấn đề đã nêu trên và tuyên bố đã khắc phục. Cùng với đó, Meta Việt Nam đưa ra lời xin lỗi vì sự cố và cho rằng vấn đề này có thể xảy ra với các hệ thống AI tạo sinh khác hiện hữu.

"Chúng tôi xin lỗi vì sai sót này. Meta đang xây dựng các biện pháp bảo vệ trong những tính năng và mô hình AI của mình để mang lại trải nghiệm an toàn và thú vị hơn cho mọi người. Tuy nhiên, giống như các hệ thống AI tạo sinh khác, mô hình này có thể trả về nội dung không chính xác hoặc gây phản cảm, vì vậy chúng tôi khuyến khích người dùng sử dụng các công cụ này một cách có trách nhiệm", đại diện hãng lên tiếng.

Sau thời gian trải nghiệm, Meta AI được nhiều người đánh giá cao về khả năng sử dụng ngôn ngữ để phản hồi khá mượt mà. Tính năng tạo ảnh cũng cho chất lượng tốt so với một mô hình được phát hành miễn phí tới người dùng. Một phần lý do có thể bởi Meta sử dụng chính các nội dung được đăng tải lên mạng xã hội Facebook để làm dữ liệu đầu vào trong quá trình huấn luyện AI, giúp công cụ này có khả năng diễn đạt và thực thi lệnh tự nhiên.

Tuy vậy, vẫn khó tránh khỏi những sự cố như phân biệt chủng tộc hay phản hồi không phù hợp với các chuẩn mực được đặt ra đối với AI. Meta cho biết đã kiểm tra AI của mình với các chuyên gia trong lĩnh vực trí tuệ nhân tạo thông qua các bài kiểm tra "Red Teaming" để xác định những cách sử dụng không mong muốn, từ đó giải quyết thông qua quy trình cải tiến liên tục./.

Theo Báo Thanh Niên

Nguồn: https://thanhnien.vn/meta-xin-loi-vi-su-co-ai-ve-con-cho-da-den-185241231104908626.htm