Công cụ AI Sticker của Facebook tạo ra những thứ kỳ lạ, giống như Waluigi với súng trường.
Tuần trước, Meta thông báo rằng họ đang tung ra AI Sticker trên các ứng dụng của mình, bao gồm cả Facebook Messenger. Tuy nhiên, tính năng AI Sticker mới, vốn nhằm cho phép thể hiện sự vui vẻ và sáng tạo, đang gặp rắc rối khi một số người dùng tạo ra những hình ảnh gây khó chịu hoặc phản cảm.
Công cụ này sử dụng mô hình tổng hợp hình ảnh Emu của Meta để biến mô tả văn bản thành hình ảnh mô phỏng có thể được chia sẻ dưới dạng nhãn dán. Tuy nhiên, trong vòng vài ngày kể từ khi triển khai, nghệ sĩ Pier-Olivier Desbiens đã đăng một chủ đề lan truyền trên X (Twitter) hiển thị những hình ảnh có vấn đề mà anh và những người khác đã tạo bằng tính năng này.
Chúng bao gồm các nhân vật có bản quyền như Chuột Mickey trong các tình huống bạo lực hoặc khiêu dâm. Desbiens nhận xét rằng chưa có ai suuy nghĩ thấu đáo đến tình huống này.
Các nhãn dán do AI tạo ra khác nhanh chóng lan truyền trên mạng xã hội, vượt qua các ranh giới, chẳng hạn như mô tả về vụ tấn công 11/9, hình đồ chơi có vũ khí và các nhân vật chính trị trong tư thế nhạy cảm. Nó theo đã thấy trước đây với các trình tạo hình ảnh không được kiểm duyệt, trong đó một số người đã cố gắng vượt qua các bộ lọc nội dung.
Mặc dù Meta có các phương pháp sàng lọc để phát hiện những nội dung không phù hợp nhất, nhưng khả năng gần như vô hạn của các công cụ AI này khiến việc kiểm duyệt kỹ lưỡng trở nên vô cùng khó khăn. Công ty thừa nhận điều này và người phát ngôn Andy Stone chỉ ra cam kết của họ trong việc cải thiện sản phẩm một cách có trách nhiệm trong thời gian tới. Ông lưu ý rằng các bộ lọc sẽ phát triển khi nhận được nhiều phản hồi hơn về các kết quả đầu ra không mong muốn.
Người dùng cho rằng Meta đã quá vội vàng, giới thiệu tính năng nhãn dán hướng tới người tiêu dùng mà không có biện pháp bảo vệ đủ nghiêm ngặt. Trước khi các hướng dẫn chặt chẽ hơn được triển khai, các thử nghiệm beta trước đó về AI tổng hợp từ các công ty như OpenAI đã tạo ra những hình ảnh có vấn đề tương tự.
Vẫn còn phải xem liệu Meta sẽ rút lại công cụ nhãn dán mới hay tăng cường chặn từ khóa để đáp lại phản ứng dữ dội này. Tuy nhiên, khi khả năng của AI ngày càng phát triển, thách thức trong việc kiểm duyệt các hệ thống sáng tạo không thể đoán trước sẽ càng trở nên nghiêm trọng hơn.
