Ảo giác

Định nghĩa

Trong AI, ảo giác đề cập đến những trường hợp mô hình tạo ra kết quả trôi chảy nhưng không chính xác hoặc vô nghĩa. Hiện tượng này đặc biệt phổ biến trong các mô hình ngôn ngữ lớn và AI tạo sinh.

Mục đích

Nghiên cứu ảo giác giúp cải thiện độ tin cậy và an toàn của mô hình. Nó cho phép các nhà phát triển thiết kế các biện pháp bảo vệ để phát hiện và giảm thiểu kết quả đầu ra không chính xác.

Tầm quan trọng

• Làm giảm niềm tin vào AI nếu không được giải quyết.
• Có thể gây hại trong các ứng dụng nhạy cảm như chăm sóc sức khỏe hoặc luật pháp.
• Làm nổi bật những hạn chế của các mô hình tạo sinh hiện tại.
• Thúc đẩy nghiên cứu theo phương pháp tìm kiếm và xác minh thông tin thực tế.

Quy trình triển khai

1. Mô hình nhận được lời nhắc hoặc truy vấn.
2. Tạo ra kết quả dựa trên các mẫu đã học, không phải xác minh thực tế.
3. Có thể đưa ra kết quả nghe có vẻ hợp lý nhưng không chính xác.
4. Áp dụng các kỹ thuật phát hiện và sửa lỗi (ví dụ: RAG).

Ví dụ (Thực tế)

• ChatGPT đôi khi đưa ra thông tin không chính xác khi được yêu cầu.
• Bản demo đầu tiên của Google Bard đã chỉ ra những sai sót thực tế.
• Lời khuyên y tế do AI tạo ra đôi khi có thông tin không chính xác.

Tài liệu tham khảo / Đọc thêm

• “Giảm ảo giác trong các mô hình ngôn ngữ lớn” — bản in trước của arXiv.
• Khung quản lý rủi ro AI của NIST.
• Mitchell và cộng sự. “Thẻ mẫu để báo cáo mô hình.” ACM FAccT.
• Nguyên nhân gây ảo giác AI