Trên blog cá nhân của mình, Sam Mitrovic cho thấy các cuộc gọi lừa đảo sử dụng AI đang trở nên khó phát hiện hơn. Vị chuyên gia này cho biết đã nhận được một loạt các thông báo và cuộc gọi điện thoại đáng ngờ bắt chước giao tiếp hợp pháp của Google có thể lấy cắp tài khoản của ông.
Sự việc bắt đầu với thông báo khôi phục tài khoản Gmail có nguồn gốc từ Mỹ. Tiếp theo là cuộc gọi nhỡ từ một số điện thoại hiển thị “Google Sydney” là ID người gọi. Khoảng một tuần sau, Mitrovic nhận được một yêu cầu khôi phục tài khoản khác cũng từ Mỹ. Và lần này, anh trả lời cuộc gọi từ “Google Sydney” có giọng nói lịch sự và chuyên nghiệp của người Mỹ, mặc dù từ một số điện thoại của Úc.
Người gọi khẳng định có hoạt động đáng ngờ trên tài khoản của Mitrovic, mà cụ thể là việc truy cập trái phép từ Đức. Mitrovic được thông báo rằng dữ liệu tài khoản của anh đã được tải xuống, tham chiếu đến thông báo khôi phục tài khoản trước đó. Đáng chú ý, số điện thoại được “Google Sydney” sử dụng xuất hiện trong tài liệu chính thức của Google, cho thấy số điện thoại này là hợp pháp.
Tuy nhiên, Sam vẫn yêu cầu người gọi chứng minh danh tính của họ. Người gọi đã gửi một email có vẻ như đến từ một tên miền của Google, nhưng khi kiểm tra kỹ hơn, Mitrovic nhận thấy trường “Đến” của email có chứa một địa chỉ email kết thúc bằng “InternalCaseTracking.com”, vốn không phải là tên miền của Google. Giọng nói của người gọi được mô tả là “quá hoàn hảo” cũng làm dấy lên nghi ngờ.
Mitrovic, nhận ra khả năng xảy ra một vụ lừa đảo do AI điều khiển nên đã cúp máy. Sau khi trở về nhà và kiểm tra nhật ký hoạt động bảo mật gần đây của tài khoản Google, Mitrovic chỉ tìm thấy các phiên đăng nhập của riêng mình. Khi kiểm tra các tiêu đề email, ông phát hiện ra rằng email này bắt nguồn từ một địa chỉ IP được liên kết với Amazon Web Services (AWS). Điều này cho thấy những kẻ lừa đảo đã gửi email qua một nền tảng đám mây.
Nội dung email lừa đảo gửi đến Sam Mitrovic.
Hiểu được mối nguy hiểm từ những kẻ lừa đảo AI, Google đang nỗ lực chống lại các vụ lừa đảo trực tuyến bằng cách hợp tác với Liên minh chống lừa đảo toàn cầu (GASA) và Liên đoàn nghiên cứu DNS (DNSRF) để ra mắt Global Signal Exchange (GSE) - một nền tảng chia sẻ thông tin về lừa đảo và gian lận.
Google cũng đang mở rộng công cụ Bảo vệ tài khoản chéo, giúp bảo vệ người dùng bằng cách chia sẻ thông báo bảo mật với các ứng dụng và dịch vụ được liên kết với tài khoản Google của họ. Tuy nhiên, điều này có thể là chưa đủ vì theo The Lawstreet Journal, những kẻ lừa đảo dựa trên AI đã nhắm mục tiêu vào tất cả 2,5 tỷ chủ tài khoản Gmail.
Ngoài Google, khách hàng Apple cũng đang phải đối mặt với những hình thức lừa đảo tinh vi hơn từ AI. Trong khi đó, vụ lừa đảo nói trên không có nghĩa AWS tham gia hoặc chịu trách nhiệm cho các hoạt động gian lận mà thay vào đó mọi thứ bắt nguồn từ một dịch vụ được cung cấp từ công ty bị kẻ gian sử dụng.
Khả năng bắt chước giọng nói của con người và tạo ra các kịch bản thực tế của kẻ lừa đảo AI có thể khiến việc phân biệt các cuộc gọi và thông tin liên lạc hợp pháp với gian lận trở nên khó khăn hơn nhiều. Vì vậy tốt hơn hết là người dùng luôn phải hết sức cảnh giác.
CÙNG CHUYÊN MỤC
