Trên giao diện của ChatGPT hay Gemini đều có cảnh báo rằng AI của họ có thể mắc sai sót, hãy xác minh lại câu trả lời.
Vậy trình trạng này là gì và tại sao lại như vậy, chúng mình cùng tìm hiểu nhé.
Để bắt đầu, cùng thực hiện 1 thử nghiệm nhỏ:
Đầu tiên, mình sẽ yêu cầu AI giải 1 bài Hóa học bằng hình ảnh như sau (thông báo đáp án đúng cho bài này là đáp án A luôn nhé):
Đây là kết quả sau 7749 bước thực hiện của AI, kết quả hoàn toàn chính xác.
Bây giờ, cũng bài toán trên, bạn hãy khoanh tròn, tô màu, hay làm bất cứ thứ gì để đánh dấu vào đáp án khác, ở đây mình thực hiện với đáp án B:
Yêu cầu AI thực hiện giải, và đây là kết quả…tén ten:
Đây là ví dụ kinh điển về hiện tượng ảo giác AI, khi AI hiểu sai mục đích đầu vào và cố tạo ra thông tin để làm hài lòng người dùng.
Vậy “ảo giác AI” là gì?
Ảo giác AI (AI hallucination) là hiện tượng một mô hình trí tuệ nhân tạo (AI) tạo ra thông tin sai lệch, không chính xác, hoặc không có thật, nhưng lại trình bày thông tin đó một cách rất tự tin, giống như thể đó là sự thật. Thuật ngữ này được ví như việc AI bị “ảo giác” hoặc “tưởng tượng” ra thông tin.
Ảo giác AI thường xảy ra khi mô hình:
Thiếu dữ liệu đào tạo phù hợp: AI không có đủ thông tin để đưa ra kết luận chính xác.
Bị yêu cầu tạo ra nội dung ngoài phạm vi kiến thức: Người dùng hỏi AI về những chủ đề mà nó không được đào tạo kỹ lưỡng.
Cố gắng “điền vào chỗ trống” một cách sáng tạo: Đặc biệt là trong các mô hình ngôn ngữ lớn (LLM), AI cố gắng tạo ra câu trả lời mạch lạc ngay cả khi không có đủ cơ sở dữ liệu.
Sai sót trong quá trình học hoặc suy luận: Lỗi trong thuật toán hoặc cách AI xử lý thông tin.
Ví dụ về ảo giác AI:
Một chatbot AI được hỏi về một sự kiện lịch sử và nó tạo ra một chuỗi sự kiện hoàn toàn không có thật, nhưng lại kể rất chi tiết và trôi chảy.
AI được yêu cầu viết tiểu sử về một người nổi tiếng, nhưng lại thêm vào những chi tiết cá nhân hoặc thành tựu mà người đó chưa từng có.
AI bịa đặt ra các nguồn tham khảo, tên sách, hoặc tên tác giả không tồn tại để hỗ trợ cho câu trả lời của mình.
Tại sao ảo giác AI là vấn đề đáng lo ngại?
Ảo giác AI có thể dẫn đến việc lan truyền thông tin sai lệch (tin giả), gây hiểu lầm, hoặc thậm chí là ra quyết định sai lầm nếu người dùng tin tưởng tuyệt đối vào thông tin mà AI cung cấp mà không kiểm tra lại. Ảo giác AI có thể gây ra những hậu quả nghiêm trọng trong nhiều lĩnh vực:
Cách khắc phục và phòng tránh ảo giác AI
Con người đang đứng trước ngưỡng cửa mong manh giữa thật và ảo – nơi mà chỉ một cú click chuột hay một câu hỏi gửi cho AI cũng có thể mang lại câu trả lời… vừa hữu ích, vừa nguy hiểm.
Trong khi các nhà phát triển AI ngày đêm nỗ lực cải thiện chất lượng dữ liệu huấn luyện, tăng cường kiểm duyệt nội dung và xây dựng cơ chế cảnh báo, thì vẫn còn một yếu tố then chốt quyết định độ tin cậy của trí tuệ nhân tạo: ý thức và trách nhiệm của người dùng.
AI chỉ là công cụ. Nó có thể mạnh mẽ, nhưng không thể thay thế tư duy phản biện và sự tỉnh táo của con người. Vì vậy, mỗi người dùng cần học cách đặt câu hỏi rõ ràng, truy vấn thông minh, đồng thời luôn kiểm chứng lại thông tin từ những nguồn đáng tin cậy.
Đừng để sự tiện lợi khiến ta trở nên thụ động. Hãy là người dùng chủ động – người dẫn dắt công nghệ, chứ không phải bị công nghệ dẫn dắt.
ChatGPT Plus trị giá hơn 500.000 đồngtháng nhưng bạn hoàn toàn có thể dùng thử hoàn toàn miễn phí nếu biết cách. Tại SharePrompt, chúng mình liên tục...
Perplexity là một công cụ AI mạnh mẽ giúp bạn tra cứu thông tin, nghiên cứu và tự động hóa các tác vụ. Hiện tại, Perplexity đang có chương trình tặng...
Bạn đang cân nhắc nâng cấp AI để làm việc nhanh hơn mà chưa muốn cam kết chi phí dài hạn? Có cách test nước rất gọn: đăng ký Claude Pro bằng email...
Muốn tạo loạt 15 ảnh 4K nhanh hơn ăn mì gói? Bạn cần 1015 ảnh cùng phong cách cho lookbook, slide thuyết trình hay kịch bản video? Seedream 4.0 của...
