Chuẩn bị dữ liệu AI của bạn cho Đạo luật AI của EU: Danh sách kiểm tra dễ hiểu

Khi các công ty gặp khó khăn với Đạo luật Trí tuệ Nhân tạo của EU, thường thì không phải mô hình AI thông minh mà chính là các thủ tục giấy tờ liên quan đến dữ liệu mới là vấn đề. Điểm yếu phổ biến nhất là không thể chứng minh được cách thức xây dựng AI và dữ liệu mà nó đã học hỏi. Hướng dẫn này sẽ biến điều đó thành một danh sách kiểm tra dễ hiểu, tập trung vào dữ liệu và quá trình huấn luyện đằng sau AI của bạn, sau đó giải thích ý nghĩa của từng phần đối với chính dữ liệu, đối với công ty của bạn và đối với khách hàng mà AI của bạn tác động đến.

Phiên bản ngắn

• Theo luật này, nếu bạn không thể trình bày cách làm, bạn không thể chứng minh mình đã tuân thủ các quy định.
• Dữ liệu được sử dụng cho trí tuệ nhân tạo phải công bằng, phù hợp với nhiệm vụ và được kiểm tra kỹ lưỡng để phát hiện các vấn đề rõ ràng.
• Bạn cần có hồ sơ rõ ràng về cách thức xây dựng, đào tạo và kiểm thử từng hệ thống quan trọng.
• Các hệ thống có rủi ro cao phải lưu giữ nhật ký hoạt động — thường là ít nhất sáu tháng.
• Việc sử dụng trí tuệ nhân tạo của người khác không làm giảm trách nhiệm của bạn về cách bạn sử dụng nó.
• Việc thay đổi hoặc đổi thương hiệu mạnh mẽ một AI đã mua có thể khiến bạn trở thành nhà sản xuất hợp pháp của nó.

Vì sao dữ liệu mới là thước đo thực sự?

Trí tuệ nhân tạo (AI) học hỏi từ dữ liệu, vì vậy luật pháp rất coi trọng tính chính xác của dữ liệu đó. Nói một cách đơn giản, dữ liệu huấn luyện cho một hệ thống AI quan trọng cần phải phù hợp với công việc, đại diện cho những người thực tế mà nó sẽ tác động đến, và được kiểm tra lỗi và thiên vị ở mức độ hợp lý nhất có thể. Một hệ thống có thể được thiết kế xuất sắc nhưng vẫn thất bại nếu không ai có thể giải thích nguồn gốc dữ liệu của nó hoặc chứng minh tính công bằng của nó.

Dữ liệu huấn luyện (nói một cách đơn giản): Là những ví dụ mà trí tuệ nhân tạo (AI) học hỏi. Nếu những ví dụ đó quá hẹp hoặc thiên vị, AI cũng sẽ như vậy — đó là lý do tại sao luật pháp tập trung rất nhiều vào việc đảm bảo dữ liệu chính xác.

Danh sách kiểm tra

Hãy xử lý kỹ những vấn đề này và, điều quan trọng nhất, hãy giữ lại bằng chứng. Theo luật này, một biện pháp kiểm soát mà bạn không thể chứng minh được sẽ được coi như không tồn tại.

1. Sắp xếp dữ liệu của bạn

• Hãy ghi rõ nguồn gốc của từng lô dữ liệu huấn luyện và cách bạn thu thập chúng.
• Nếu liên quan đến thông tin cá nhân của người khác, hãy ghi rõ rằng bạn có quyền sử dụng thông tin đó.
• Hãy kiểm tra xem dữ liệu có phản ánh chính xác những người thực sự mà trí tuệ nhân tạo sẽ tác động đến hay không.
• Hãy tìm kiếm những định kiến ​​có thể ảnh hưởng không công bằng đến sức khỏe, sự an toàn hoặc quyền lợi của ai đó — và ghi lại những gì bạn đã làm để giải quyết chúng.
• Hãy lưu giữ các phiên bản dữ liệu của bạn để có thể truy tìm lại nếu sau này phát sinh sự cố.

2. Ghi chép lại cách thức xây dựng trí tuệ nhân tạo.

• Hãy mô tả bằng văn bản rõ ràng mục đích của trí tuệ nhân tạo (AI) và cách thức thiết kế của nó.
• Hãy lưu ý cách thức huấn luyện và dữ liệu đã được sử dụng.
• Ghi lại hiệu suất hoạt động, độ chính xác và giới hạn của nó.
• Hãy giữ lại kết quả kiểm tra và cập nhật hồ sơ mỗi khi có sự thay đổi lớn.

3. Lưu giữ hồ sơ bằng văn bản trong suốt quá trình vận hành

• Thiết lập hệ thống để tự động ghi lại các thao tác.
• Hãy đảm bảo rằng các nhật ký đó không thể bị thay đổi một cách lén lút.
• Hãy lưu giữ nhật ký ít nhất sáu tháng (lâu hơn nếu luật pháp yêu cầu).
• Hãy sử dụng nhật ký hệ thống để phát hiện sự cố từ sớm, chứ không chỉ để giải thích chúng sau khi sự việc đã xảy ra.

4. Nhân sự, vai trò và nhiệm vụ thường xuyên

• Hãy đảm bảo có người thật giám sát và can thiệp vào bất kỳ hoạt động nào liên quan đến AI có tính rủi ro cao.
• Hãy xác định rõ bạn là người tạo ra hay chỉ là người sử dụng mỗi hệ thống — nhiệm vụ của mỗi người là khác nhau.
• Đăng ký các hệ thống có rủi ro cao khi cần thiết trước khi đưa chúng ra thị trường.
• Hãy báo cáo ngay cho cơ quan chức năng nếu có vấn đề nghiêm trọng — thường là trong vòng 15 ngày.
• Hãy thường xuyên xem xét lại các quy trình kiểm tra rủi ro và hồ sơ của bạn, chứ không chỉ một lần.

Ý nghĩa đối với các công ty: nhà sản xuất so với người dùng

Một bất ngờ thường gặp và tốn kém: việc mua một công cụ AI được chứng nhận không có nghĩa là toàn bộ trách nhiệm thuộc về người bán. Giấy tờ của nhà sản xuất chứng minh họ đã chế tạo nó đúng cách; nhưng không chứng minh bạn đang sử dụng nó đúng cách. Bạn vẫn có những trách nhiệm riêng – giám sát nó, ghi nhật ký, sử dụng nó một cách hợp pháp. Bảng dưới đây cho thấy ai chịu trách nhiệm về những gì: