Telegram đang đối mặt với một cuộc khủng hoảng lớn khi các chatbot sử dụng trí tuệ nhân tạo (AI) đang bị lạm dụng để tạo ra hình ảnh và video khiêu dâm chỉ với vài cú nhấp chuột. Theo cuộc điều tra của Wired, hơn 50 bot AI dạng này đã xuất hiện trên nền tảng, thậm chí thu hút đến hơn 4 triệu người dùng mỗi tháng.
Những bot này cho phép người dùng tạo ảnh khỏa thân của hầu như bất kỳ ai bằng cách tải lên hình ảnh hoặc chỉ cần một câu lệnh đơn giản. Vấn đề ngày càng nghiêm trọng khi các công cụ deepfake – vốn đã là mối đe dọa trước khi AI trở nên mạnh mẽ – đang dễ dàng tiếp cận hơn bao giờ hết.
Điều đáng lo ngại là việc ngăn chặn các bot này dường như là bất khả thi. Ngay cả khi một bot bị xóa, những bot khác sẽ nhanh chóng xuất hiện thay thế, làm cho việc giải quyết triệt để vấn đề trở nên cực kỳ khó khăn.
Telegram cũng đang đối mặt với câu hỏi về trách nhiệm khi cho phép những bot này tồn tại trên nền tảng của mình. Trước đó, CEO của Telegram đã bị bắt tại Pháp, nhấn mạnh tầm quan trọng của việc điều chỉnh nội dung trên nền tảng. Tuy nhiên, việc thực thi các biện pháp kiểm soát sẽ gặp nhiều thách thức, và chưa ai có câu trả lời rõ ràng cho cách giải quyết triệt để vấn đề này.
CÙNG CHUYÊN MỤC
