Trong khi hầu hết các công ty AI lớn đang siết chặt kiểm soát và tìm cách ngăn chặn việc sử dụng công nghệ để tạo ra nội dung nhạy cảm, thì xAI – công ty do Elon Musk sáng lập – lại đi theo hướng ngược lại với công cụ Grok Imagine. Tính năng "Spicy mode" (chế độ Cay) của Grok Imagine hiện đang gây tranh cãi vì cho phép người dùng tạo ra hình ảnh và video NSFW (nội dung không phù hợp nơi công sở), trong đó có cả ảnh khỏa thân, hình ảnh gợi cảm và video dạng hentai.
Grok Imagine: Tạo ảnh – Biến ảnh thành video
Grok Imagine là một công cụ AI có khả năng biến mô tả văn bản thành hình ảnh, sau đó từ ảnh có thể tạo ra các đoạn video ngắn kèm hiệu ứng âm thanh. Tuy nhiên, người dùng không thể tạo video trực tiếp từ văn bản – thay vào đó, họ cần tải lên ảnh từ thư viện cá nhân hoặc sử dụng ảnh do chính Grok tạo ra.
Người dùng có thể chọn một trong bốn chế độ để quyết định cách hình ảnh được chuyển đổi thành video: Bình thường, Vui nhộn, Hấp dẫn và Tùy chỉnh – trong đó chế độ "Spicy" nằm ẩn dưới mục Hấp dẫn hoặc Tùy chỉnh, với nhiều mức độ "cay" khác nhau.
Grok Imagine có thể được xem là một bước đi táo bạo – hoặc nguy hiểm – của Elon Musk và xAI
Nội dung gây tranh cãi: từ bikini đến khỏa thân hoàn toàn
Dựa trên các bài đăng lan truyền trên mạng xã hội X, chế độ "Spicy" có thể tạo ra nhiều mức độ nhạy cảm khác nhau: từ nhân vật mặc bikini, đồ lót, cho tới ảnh bán khỏa thân và thậm chí khỏa thân hoàn toàn. Một số hình ảnh còn thể hiện bộ phận sinh dục theo phong cách siêu thực, hay video dạng hentai với mức độ được cho là mạnh mẽ hơn cả hình ảnh tĩnh.
Tuy nhiên, The Verge và TechCrunch cho biết, Grok Imagine hiện vẫn giới hạn khả năng tạo nội dung có liên quan đến người nổi tiếng hoặc người thật. Theo phản hồi từ người dùng, công cụ này từ chối tạo video ngực trần từ ảnh người thật hoặc nhân vật AI được tải lên – và chỉ thực hiện điều đó với hình ảnh do chính Grok tạo ra.
Các bài đăng lan truyền trên mạng xã hội X, chế độ "Spicy" có thể tạo ra nhiều mức độ nhạy cảm khác nhau
Elon Musk nói gì?
Elon Musk từ lâu đã quảng bá Grok là một AI "không kiểm duyệt", với tuyên bố rằng đây là công cụ ít bị giới hạn hơn so với các đối thủ như ChatGPT hay Gemini. Ông cũng cho biết chỉ trong hai ngày gần nhất, Grok Imagine đã tạo ra hơn 34 triệu hình ảnh – một con số cho thấy mức độ quan tâm khổng lồ từ cộng đồng.
Tuy nhiên, làn sóng chỉ trích cũng nhanh chóng xuất hiện. Nhiều người lo ngại về nguy cơ deepfake, đặc biệt sau vụ việc năm ngoái khi loạt ảnh khỏa thân giả mạo Taylor Swift lan truyền mạnh mẽ trên mạng xã hội X, thu hút hàng chục triệu lượt xem chỉ trong thời gian ngắn.
Những rủi ro pháp lý rình rập
Việc tạo và phát tán nội dung khiêu dâm bằng AI, đặc biệt là có yếu tố người thật hoặc người nổi tiếng, đang dấy lên nhiều cảnh báo về mặt pháp lý. Một số website đã bị kiện vì cung cấp công cụ “cởi đồ” bằng AI. Google thậm chí đã ban hành lệnh cấm quảng cáo liên quan đến deepfake khiêu dâm từ năm ngoái.
CÙNG CHUYÊN MỤC
