Mạng xã hội X chặn tìm kiếm Taylor Swift sau loạt ảnh deepfakes của cô bị lan truyền

Nền tảng X của Elon Musk đang phải đối mặt với những chỉ trích vì sự thiếu sót trong quá trình kiểm duyệt nội dung, khiến loạt ảnh khiêu dâm do AI của Taylor Swift tràn ngập mạng xã hội.

Mạng xã hội X đã chặn người dùng tìm kiếm từ khoá "Taylor Swift" sau khi những hình ảnh khiêu dâm giả mạo của nữ ca sĩ nhạc pop bị lan truyền trên mạng xã hội trong tuần này.

Theo Reuters, khi tìm kiếm từ khoá "Taylor Swift" hoặc "Taylor Swift AI" vào ngày 28/1 trên nền tảng X, người dùng sẽ nhận thông báo "Đã xảy ra lỗi. Hãy thử tải lại".

Joe Benarroch, người đứng đầu hoạt động kinh doanh tại X, cho biết: "Đây là một hành động tạm thời và được thực hiện hết sức thận trọng vì chúng tôi ưu tiên sự an toàn trong vấn đề này."

Deepfake là công nghệ được tạo ra bằng trí tuệ nhân tạo có thể thay thế chân dung của người này bằng chân dung của người khác, để thao túng hoặc tạo nội dung hình ảnh, video hoặc âm thanh có thể dễ đánh lừa hơn.Theo báo The New York Times, hình ảnh khiêu dâm giả mạo về Taylor Swift được chia sẻ trên X đã được xem 47 triệu lần trước khi bị xóa.

Thư ký báo chí Nhà Trắng, Karine Jean-Pierre, hôm thứ Sáu khẳng định những hình ảnh giả mạo là “đáng báo động” và cho biết các công ty truyền thông xã hội có trách nhiệm ngăn chặn sự lan truyền của những thông tin sai lệch như vậy.

Meta dường như cũng đang giải quyết vấn đề, vì cả Threads và Instagram đều đề xuất “Taylor Swift AI” nếu người dùng bắt đầu tìm kiếm từ khoá “Taylor”, cả hai nền tảng đều không hiển thị kết quả. 

Swift được vinh danh là “Nhân vật của năm” của Tạp chí Time vào năm 2023 sau khi khởi động chuyến lưu diễn toàn cầu phá kỷ lục và trở thành nghệ sĩ âm nhạc được phát trực tuyến nhiều nhất trên thế giới. Việc những hình ảnh deepfakes lan truyền trên mạng xã hội có thể ảnh hưởng đến hình ảnh của nữ ca sĩ. 

Kể từ khi Twitter vào tay Elon Musk vào năm 2022, tỷ phú gốc Nam Phi liên tục bị chỉ trích vì những bài đăng gây tranh cãi và những hành động cải tổ các chính sách kiểm duyệt nội dung của nền tảng này. Nhiều nhà quảng cáo trên nền tảng này đã rút lại chi tiêu vì sợ xuất hiện bên cạnh các bài đăng có hại.

X cho biết phần lớn lượt xem nội dung là các bài đăng “lành mạnh”. Musk và Giám đốc điều hành X, Linda Yaccarino, đã đưa ra một chính sách mới gọi là “tự do ngôn luận, không được tiếp cận” nhằm hạn chế việc phân phối một số bài đăng nhưng không được xóa chúng.