Con người trong vòng lặp

Định nghĩa

Con người trong vòng lặp (HITL) đề cập đến các hệ thống trong đó phán đoán của con người được tích hợp vào quy trình làm việc AI cho các nhiệm vụ như đào tạo, đánh giá hoặc ra quyết định.

Mục đích

Mục đích là kết hợp chuyên môn của con người với hiệu quả của AI. Nó đảm bảo chất lượng, giám sát đạo đức và an toàn trong các ứng dụng nhạy cảm.

Tầm quan trọng

• Giảm thiểu lỗi trong các lĩnh vực có rủi ro cao (ví dụ: chăm sóc sức khỏe, quốc phòng).
• Cải thiện quá trình đào tạo thông qua phản hồi của con người.
• Cung cấp khả năng giải trình trong các hệ thống tự động.
• Chậm hơn và tốn kém hơn so với tự động hóa hoàn toàn.

Quy trình triển khai

1. Xác định những khu vực cần có sự giám sát của con người.
2. Thu thập kết quả hoặc đề xuất của AI.
3. Con người xác nhận, sửa chữa hoặc cung cấp phản hồi.
4. Phản hồi được tích hợp để đào tạo lại hoặc tinh chỉnh các mô hình.
5. Theo dõi hiệu suất hệ thống bằng cách liên tục đánh giá của con người.

Ví dụ (Thực tế)

• Kiểm duyệt nội dung: con người xem xét các bài đăng bị gắn cờ từ AI.
• AI y tế: bác sĩ xác nhận chẩn đoán do AI tạo ra.
• Học tăng cường từ phản hồi của con người (RLHF): đào tạo các mô hình ngôn ngữ như ChatGPT.

Tài liệu tham khảo / Đọc thêm

• Amershi và cộng sự. “Quyền lực cho con người: Vai trò của con người trong học máy tương tác.” Tạp chí AI.
• Khung quản lý rủi ro AI của NIST.
• Tiêu chuẩn IEEE cho hệ thống con người trong vòng lặp.
• Hiểu về Con người trong Vòng lặp