CEO Bkav Nguyễn Tử Quảng đang liên tục có những bài đăng trên trang Facebook cá nhân, phân tích ChatGPT - một chatbot ứng dụng trí tuệ nhân tạo (AI). Sau bài nhận định ChatGPT chỉ như người học lỏm, mới đây ông lại cho rằng ChatGPT khiến người dùng có "ảo giác AI" khi chatbot này nói sai mà cứ như đúng.
Cụ thể, ông Quảng viết: Không phủ nhận khả năng ứng dụng cao của ChatGPT, nhưng gần đây mọi người cảm nhận được nhiều hơn hiện tượng bạn này NÓI SAI nhưng CỨ NHƯ ĐÚNG, với sự TỰ TIN cao. Hiện tượng này được gọi là "Ảo giác" AI.
"Nó phổ biến chứ không lạ với các mô hình AI. Cụ thể với ChatGPT, ở bài trước tôi đã giải thích nguyên lý sinh ra câu trả lời ĐƠN THUẦN dựa vào xác suất thống kê. Do đó, nếu dữ liệu đủ lớn thì câu trả lời sẽ RẤT ĐÚNG, nhưng dữ liệu không đủ thì câu trả lời sẽ RẤT SAI", ông Nguyễn Tử Quảng nhận định.
"Dù nội dung RẤT SAI, nhưng các câu nói được ChatGPT sinh ra vẫn dựa trên một trích dẫn cụ thể do con người tạo ra (lấy trong kho dữ liệu trên mạng), vì vậy mà nghe vẫn hết sức CÓ VẺ đáng tin. ẢO GIÁC là như vậy", CEO Bkav giải thích thêm.
Liên quan tới phân tích của ông Quảng, người viết đã sao chép nguyên văn rồi gửi tới ChatGPT. Kết quả, ChatGPT không hề phủ nhận những điều này, đồng thời đưa ra giải pháp là phải huấn luyện AI trên một tập dữ liệu đa dạng.
Đúng, hiện tượng "Ảo giác" AI là một vấn đề khá phổ biến trong các mô hình học sâu, bao gồm cả ChatGPT. Khi một mô hình được đào tạo trên một tập dữ liệu lớn, nó có thể tạo ra những phản hồi có vẻ đúng đắn nhưng thực tế lại sai.
Điều này xảy ra khi mô hình không có đủ thông tin hoặc kiến thức để tạo ra câu trả lời chính xác, do đó nó dựa vào những gì nó đã học được từ dữ liệu đào tạo để đưa ra một phản hồi khả dĩ. Vì vậy, các câu trả lời có thể không chính xác hoặc thiếu logic.
Để giảm thiểu hiện tượng "Ảo giác" AI, việc đào tạo mô hình trên một tập dữ liệu đa dạng, kiểm tra và hiệu chỉnh định kỳ mô hình là cần thiết. Các nhà phát triển cũng có thể sử dụng các kỹ thuật giải thích mô hình để hiểu cách mô hình đưa ra quyết định và cải thiện độ tin cậy của phản hồi.
-- ChatGPT
CÙNG CHUYÊN MỤC
