Gã khổng lồ công nghệ Trung Quốc đã giới thiệu hệ thống trí tuệ nhân tạo (AI) mới mang tên OmniHuman-1. Điểm đáng chú ý ở hệ thống AI này chính là việc nó có khả năng tạo ra các video giả mạo (deepfake) với độ chân thực gần như không thể phân biệt được với video thật.
Đáng kinh ngạc hơn, OmniHuman-1 có thể xuất video khi chỉ cần một bức ảnh và một bản ghi âm giọng nói. Người dùng có thể tùy chỉnh các yếu tố như tỷ lệ khung hình và cắt xén. Đặc biệt, AI này còn có khả năng thay đổi chuyển động cơ thể và cử chỉ trong video.
Mặc dù ByteDance ca ngợi về độ chân thực trong video deepfake do OmniHuman-1 tạo ra nhưng giới chuyên gia xác định không phải lúc nào kết quả cũng hoàn hảo khi một số tư thế có thể trông hơi kỳ quặc. Chẳng hạn, trong một bài giảng giả mạo của Albert Einstein như video bên dưới, khuôn mặt giả được tạo ra gần như hoàn hảo, nhưng chuyển động tay lại không tự nhiên.
Đước biết, để phát triển OmniHuman-1, ByteDance đã “xem” 18.700 giờ dữ liệu video, sử dụng phương pháp “omni-conditions” cho phép mô hình học từ nhiều nguồn đầu vào như văn bản, âm thanh và tư thế cơ thể cùng một lúc. Các nhà nghiên cứu cho biết phương pháp này giúp AI của họ giảm đáng kể tình trạng mất dữ liệu.
Bất chấp những thành tự ấn tượng, giới công nghệ cảm thấy lo ngại đối với OmniHuman-1 bởi công nghệ deepfake đang gây ra rất nhiều vấn đề. Gần đây, nó đã được sử dụng để phát tán thông tin sai lệch và gian lận, đặc biệt trong bối cảnh chiến dịch bầu cử Mỹ năm 2024. Nhiều trường hợp đã xảy ra, trong đó các bản ghi âm và video deepfake được sử dụng để đánh lừa cử tri.
Năm ngoái, các hình thức lừa đảo bằng deepfake đã khiến người dân mất hàng tỷ USD, trong đó có một vụ lừa đảo mà kẻ gian đã sử dụng AI để giả mạo nam diễn viên Brad Pitt để lừa một người phụ nữ gửi 850.000 USD với lý do “điều trị y tế”.
Hiện nay, hàng trăm chuyên gia về đạo đức AI đang kêu gọi cần có các quy định nhằm quản lý công nghệ deepfake. ByteDance có thể sẽ không công khai OmniHuman-1 do những hậu quả tiềm tàng mà nó có thể gây ra, dù vậy sự phát triển của AI trong mọi lĩnh vực, bao gồm cả tội phạm, dường như không thể dừng lại.
CÙNG CHUYÊN MỤC
