Oversight Board lên tiếng về cách Meta quản lý nội dung do AI sinh ra
Hội đồng giám sát nội dung cho rằng Meta cần thắt chặt các quy định đối với nội dung do trí tuệ nhân tạo tạo ra, đặc biệt là deepfake.
Theo Hội đồng, hệ thống nhận diện và gắn nhãn nội dung do AI tạo ra của Meta vẫn chưa đủ hiệu quả khi nội dung này được sản xuất hàng loạt và lan truyền nhanh trong các tình huống nhạy cảm như xung đột, khủng hoảng hay bầu cử.
Oversight Board lên tiếng về cách quản lý nội dung AI của Meta
Video deepfake về Haifa gây tranh cãi
Phần chỉ trích mới nhất bắt nguồn từ một video giả mạo bằng AI lan truyền trên các nền tảng của Meta, được cho là mô tả thiệt hại tại thành phố Haifa, Israel.
Video này đăng từ một tài khoản ở Philippines giả danh nguồn tin tức. Dù nhiều người dùng đã báo cáo, video vẫn tồn tại mà không được xem xét hay gắn nhãn AI nguy cơ cao cho đến khi Hội đồng can thiệp.
Đề xuất cập nhật chính sách quản lý nội dung AI
Hội đồng giám sát cho rằng Meta nên xây dựng một chuẩn mực cộng đồng riêng dành cho nội dung AI thay vì chỉ dựa vào các quy định chung về thông tin sai lệch.
Các đề xuất chủ chốt gồm:
- Gắn nhãn nội dung AI có mức độ rủi ro cao với tần suất cao hơn
- Nâng cấp hệ thống nhận diện tự động cho hình ảnh, video và âm thanh
- Công khai các chế tài đối với người đăng nội dung đã chỉnh sửa nhưng không tiết lộ nguồn
Ngoài ra, hội đồng cũng đề nghị Meta áp dụng nhất quán hệ thống Chứng chỉ nội dung, tiêu chuẩn giúp gắn metadata để xác định nguồn gốc và quá trình tạo nội dung.
Cần có sự điều chỉnh quản lý nội dung AI để ngăn chặn thông tin sai lệch
Tranh luận về hệ thống kiểm chứng thông tin
Trước đó, Meta đã cập nhật nhãn nội dung AI, thay thế nhãn Made with AI bằng nhãn chung AI info. Tuy nhiên, nhiều chuyên gia cho rằng nhãn mới vẫn mơ hồ và dễ bị bỏ qua.
Trong một diễn biến liên quan, CEO Mark Zuckerberg từng cho biết hệ thống kiểm chứng thông tin bên thứ ba của Meta có xu hướng thiên vị về mặt chính trị. Do đó, công ty đã thay thế bằng hệ thống Community Notes để đánh giá nội dung trên các nền tảng như Facebook, Instagram và Threads.
Xem thêm: Lỗ hổng Zero-day Windows trị giá 5,5 tỷ đồng đang được rao bán trên Dark Web
Xem thêm: Laptop có dung lượng 1,1 TB trên Amazon gây tranh cãi khi chỉ có 128 GB SSD thật
