Tháng 9/2023, ảnh khỏa thân giả của hơn 20 nữ sinh đã lan truyền ở một số trường học Tây Ban Nha, gây chấn động cộng đồng và sau đó được xác định là ảnh AI. 15 bạn cùng lớp của các nữ sinh này vừa bị tuyên án một năm tù treo vì tạo và lan truyền chúng. Tuy nhiên, theo Fortune, vấn đề sâu xa hơn nằm ở những công cụ đứng sau những bức ảnh đó vẫn xuất hiện tràn lan và dễ dàng truy cập trên Internet.
"Chúng có thể 'lột trần' bất cứ người nào trong bất cứ bức ảnh nào được đăng tải lên chỉ trong vài giây", trang này viết.
Một nỗ lực mới của người dân và chính quyền San Francisco (Mỹ) được kỳ vọng có thể thay đổi thực trạng. David Chiu, luật sư đại diện cho người dân tại đây đã đệ đơn kiện một nhóm trang web có lượng truy cập lớn với trụ sở nằm tại Estonia, Serbia, Anh và nhiều nơi khác, chuyên cung cấp công cụ tạo ảnh.
"Những hình ảnh được lan truyền đã khai thác một số lượng lớn phụ nữ và trẻ em gái trên toàn cầu", Chiu nói với AP. "Những hình ảnh này được sử dụng để bắt nạt, làm nhục và đe dọa phụ nữ và trẻ em gái. Tác động đối với nạn nhân là huỷ hoại danh tiếng, sức khỏe tâm thần, mất quyền tự chủ và trong một số trường hợp, khiến một số người có ý định tự tử".
Những trang web này được giấu tên nhằm tránh việc vô tình quảng bá cho chúng. Hoạt động của chúng bị cáo buộc vi phạm nhiều luật của bang như gian lận kinh doanh, khiêu dâm không có sự đồng thuận, lạm dụng tình dục trẻ em.
Tuy nhiên theo giới quan sát, việc xử lý gặp nhiều thách thức, cả ở phía người tạo ra công cụ, người sử dụng công cụ và môi trường giúp hình ảnh lan truyền.
Người đứng sau công cụ tạo ảnh AI khỏa thân thường ẩn danh, hoạt động xuyên biên giới. AP cho biết từng liên hệ một dịch vụ như vậy và được phản hồi CEO của họ "di chuyển khắp nước Mỹ" nhưng từ chối cung cấp thêm thông tin.
Trong sự việc tại Tây Ban Nha năm ngoái, đơn vị hành pháp của Liên minh châu Âu cho biết ứng dụng được dùng để tạo ảnh deepfake "có vẻ không nằm trong diện bị áp dụng quy tắc quản lý mới về an toàn trực tuyến, bởi chúng không phải là nền tảng đủ lớn".
Theo nhà nghiên cứu Riana Pfefferkorn từ Đại học Stanford, các trang web có thể bị đóng cửa nếu người đứng sau phớt lờ vụ kiện. Nếu David Chiu và người dân San Francisco thắng, họ có thể gây tác động đến các đơn vị đăng ký tên miền, máy chủ, trung gian thanh toán để chặn trang web ngay cả khi chủ sở hữu không xuất hiện trong vụ kiện.
Kết quả vụ kiện được cho là sẽ mang tính bước ngoặt trong việc xử lý công cụ AI tạo ảnh khỏa thân. Theo Emily Slifer, Giám đốc chính sách tại Thorn, một tổ chức hoạt động chống lại nạn bóc lột tình dục trẻ em, vụ kiện tại San Francisco "có khả năng tạo ra tiền lệ pháp lý trong lĩnh vực này".
Một chủ thể khác cũng cần có trách nhiệm trong việc để lan truyền hình ảnh khỏa thân là mạng xã hội. Trong trường hợp tại Tây Ban Nha là WhatsApp của Meta.
"Đó không chỉ là trách nhiệm của xã hội, của phụ huynh và nhà trường, mà còn là trách nhiệm của những gã khổng lồ kỹ thuật số đang hưởng lợi từ những thứ rác rưởi này", tiến sĩ Miriam Mendiri nói với Fortune.
CÙNG CHUYÊN MỤC
