Trong một cuộc điều tra về “AI slop”, BBC đã phát hiện một mạng lưới spammer quốc tế đang đăng tải các hình ảnh nạn nhân trại tập trung phát xít Holocaust được tạo bởi AI lên Facebook. Các tổ chức bảo tồn ký ức Holocaust bày tỏ sự đau buồn vì những hình ảnh này gây tổn thương cho những người sống sót và gia đình của họ. Họ cũng chỉ trích Meta vì cho phép người dùng biến thảm kịch thành "trò chơi cảm xúc" trên nền tảng của mình.
Thực tế có rất ít ảnh gốc từ bên trong trại tập trung Auschwitz trong Thế chiến thứ hai. Tuy nhiên, những kẻ spam AI đã đăng tải các hình ảnh giả mạo từ bên trong trại, như tù nhân chơi vĩ cầm hay người yêu gặp nhau ở hàng rào, thu hút hàng chục nghìn lượt thích và chia sẻ. Pawel Sawicki, người phát ngôn của Đài tưởng niệm Auschwitz ở Ba Lan, nhấn mạnh: "Đây không phải là một trò chơi. Đây là thế giới thực, sự đau khổ thực và những người thực mà chúng tôi muốn và cần tưởng niệm."
Cuộc điều tra của BBC đã truy vết nhiều hình ảnh này, cho thấy chúng đến các tài khoản của một mạng lưới người tạo nội dung có trụ sở tại Pakistan. Những người này hợp tác chặt chẽ để kiếm tiền trên Facebook thông qua chương trình của Meta. Một tài khoản tên Abdul Mughees, được để là sống ở Pakistan, đã đăng ảnh chụp màn hình tuyên bố kiếm được 20.000 USD từ các chương trình kiếm tiền trên mạng xã hội, bao gồm cả của Meta. Tài khoản này dường như đã thu về hơn 1,2 tỷ lượt xem nội dung trong bốn tháng.
Phân tích của BBC cho thấy tài khoản của Abdul Mughees và hàng chục tài khoản khác tương tự chủ yếu đăng tải “AI slop”. Đây là thuật ngữ chỉ các hình ảnh và văn bản chất lượng thấp được tạo bởi AI, thường được sản xuất với số lượng lớn và lan truyền trên mạng xã hội. Bảo tàng Auschwitz cũng đã cảnh báo về các tài khoản này vì đã đánh cắp bài đăng của họ, xử lý qua mô hình AI và thường xuyên làm sai lệch các chi tiết lịch sử hoặc bịa đặt hoàn toàn các câu chuyện và nạn nhân.
Tiến sĩ Robert Williams từ Liên minh Tưởng niệm Holocaust Quốc tế cho biết những người sống sót và gia đình họ cảm thấy bối rối và buồn bã khi điều này được phép xảy ra. Meta đã gỡ bỏ các trang và nhóm bị gắn cờ do vi phạm chính sách về spam và hành vi không xác thực, mặc dù các hình ảnh giả mạo đó không vi phạm trực tiếp chính sách nội dung của họ. Tuy nhiên, phát hiện này vẫn là một phần rất nhỏ trong vô số những tài khoản, những hình ảnh hay video xuyên tạc lịch sử, thực tế mà nhiều spammer đang đi spam khắp các nền tảng MXH toàn cầu.
Nguồn: Bbc