Looking up...
Hiện tượng trí tuệ nhân tạo (AI) tạo ra thông tin sai lệch nhưng thể hiện sự tự tin cao, giống như ảo giác về sự thật.
Researchers found that large language models often suffer from AI hallucination when generating medical advice.
Các nhà nghiên cứu phát hiện rằng các mô hình ngôn ngữ lớn thường mắc phải ảo giác do AI khi đưa ra lời khuyên y tế.
The AI's confident-sounding but incorrect summary of the research paper was a clear instance of AI hallucination.
Bản tóm tắt nghiên cứu nghe có vẻ tự tin nhưng hoàn toàn sai của AI là một trường hợp rõ ràng của ảo giác do AI tạo ra.
Thuật ngữ này bắt nguồn từ khái niệm 'ảo giác' (hallucination) trong tâm lý học, nhưng được mở rộng sang lĩnh vực AI khi hệ thống tạo ra thông tin không có cơ sở thực tế.
Kiểm tra thông tin bằng nguồn đáng tin cậy bên ngoài. Nếu câu trả lời của AI không thể xác minh được từ các nguồn uy tín, đó có thể là ảo giác do AI tạo ra.
Luôn xác minh thông tin từ các nguồn độc lập trước khi sử dụng, đặc biệt trong các lĩnh vực quan trọng như y tế, pháp luật hoặc tài chính.
Thuật ngữ 'AI hallucination' kết hợp 'AI' (trí tuệ nhân tạo) với 'hallucination' (ảo giác). 'Hallucination' trong ngữ cảnh này được mượn từ tâm lý học, nơi nó chỉ sự nhận thức sai lệch về thực tế. Thuật ngữ này bắt đầu được sử dụng rộng rãi từ khoảng năm 2020 trở đi trong lĩnh vực học máy (machine learning) để mô tả hiện tượng các mô hình ngôn ngữ tạo ra thông tin không có cơ sở.
Thuật ngữ này thường được sử dụng trong các cuộc thảo luận về độ tin cậy của các hệ thống AI, đặc biệt là các mô hình ngôn ngữ lớn (LLMs). Người dùng nên cảnh giác với các thông tin do AI tạo ra mà không có nguồn tham khảo đáng tin cậy.