Hơn 16 Trang Web Bị Khởi Kiện Với Cáo Buộc Sử Dụng AI Tạo Ảnh Khoả Thân Phụ Nữ

Theo đó các trang web đã được truy cập 200 triệu lần trong sáu tháng đầu năm 2024.

Trong nỗ lực chống lại một trong những vấn đề đen tối nhất liên quan đến sự phát triển của công nghệ AI, Văn phòng Luật sư Thành phố San Francisco đã khởi kiện 16 trang web được sử dụng phổ biến để tạo ảnh "khoả thân" phụ nữ và trẻ em gái mà không có sự đồng ý của họ. Vụ kiện này được dẫn dắt bởi phó luật sư thành phố, Yvonne Meré, người đã quyết tâm hành động sau khi nhận thức được mức độ nghiêm trọng của vấn đề.

Theo báo cáo của tờ New York Times, những trang web này đã thu hút hơn 200 triệu lượt truy cập trong sáu tháng đầu năm 2024. Điều đáng lo ngại là một số trang web quảng cáo việc tạo ra hình ảnh khỏa thân một cách công khai, thậm chí mô tả rằng "không cần mất công hẹn hò".

Luật sư thành phố, David Chiu, cho biết những mô hình AI được sử dụng trên các trang web này đã được đào tạo bằng cách sử dụng nội dung khiêu dâm thực sự và hình ảnh lạm dụng trẻ em. Ông cũng nhấn mạnh rằng việc xác định nguồn gốc của những hình ảnh này sau khi được phát tán là hết sức khó khăn.

Vụ kiện cáo buộc các trang web vi phạm luật khiêu dâm trả thù cũng như luật khiêu dâm trẻ em ở cấp độ tiểu bang và liên bang, cùng với Luật cạnh tranh không lành mạnh của California. "Cuộc điều tra này đã đưa chúng ta đến những góc tối nhất của internet, và tôi thực sự kinh hoàng cho những người phụ nữ và trẻ em gái phải chịu đựng sự bóc lột này", Chiu bày tỏ.

Ngoài ra, sự việc còn làm dấy lên mối quan tâm rộng rãi khi các bức ảnh nhạy cảm của nghệ sĩ nổi tiếng như Taylor Swift được chia sẻ trực tuyến, thúc đẩy các nhà lập pháp Mỹ kêu gọi hành động chống lại các trang web khiêu dâm deepfake. Điều này đã dẫn đến việc Google cấm quảng cáo cho những trang web này vào đầu năm nay.

Một dự luật lưỡng đảng mới, Keep Entertainment Safe Act  năm 2024, cũng đã được đề xuất, yêu cầu các cá nhân và công ty phải chịu trách nhiệm bồi thường thiệt hại nếu họ tạo, lưu trữ hoặc chia sẻ các hình ảnh hoặc âm thanh do AI tạo ra mà không có sự đồng ý của người được mô tả. Đạo luật này nhằm bảo vệ bản quyền và quyền riêng tư của cá nhân trong kỷ nguyên số.