Giới thiệu
Đạo luật Trí tuệ nhân tạo của Liên minh Châu Âu (Đạo luật AI AI) là một quy định mang tính đột phá nhằm mục đích thúc đẩy sự phát triển và triển khai các hệ thống AI đáng tin cậy. Khi các doanh nghiệp ngày càng phụ thuộc vào các công nghệ AI, bao gồm AI lời nói và Mô hình ngôn ngữ lớn (LLM), việc tuân thủ Đạo luật AI của EU trở nên quan trọng. Bài đăng trên blog này khám phá những thách thức chính do quy định đặt ra và cách Shaip có thể giúp bạn vượt qua chúng.
Tìm hiểu Đạo luật AI của EU
Đạo luật trí tuệ nhân tạo của Liên minh châu Âu (Đạo luật AI của EU) đưa ra cách tiếp cận dựa trên rủi ro để điều chỉnh các hệ thống AI, phân loại chúng dựa trên tác động tiềm tàng của chúng đối với cá nhân và xã hội. Khi các doanh nghiệp phát triển và triển khai công nghệ AI, việc hiểu mức độ rủi ro liên quan đến các danh mục dữ liệu khác nhau là rất quan trọng để tuân thủ Đạo luật AI của EU. Đạo luật AI của EU phân loại các hệ thống AI thành bốn loại rủi ro: rủi ro tối thiểu, hạn chế, cao và không thể chấp nhận được.
Dựa trên đề xuất của Đạo luật trí tuệ nhân tạo (2021/0106(COD)), dưới đây là các danh mục rủi ro cũng như các loại dữ liệu và ngành tương ứng ở định dạng bảng:
Hệ thống AI có rủi ro không thể chấp nhận được:
| Loại dữ liệu | Ngành |
| Các kỹ thuật cao siêu để bóp méo hành vi | Tất cả |
| Khai thác lỗ hổng của các nhóm cụ thể | Tất cả |
| Chấm điểm xã hội của cơ quan công quyền | Chính phủ |
| Nhận dạng sinh trắc học từ xa theo thời gian thực trong các không gian có thể truy cập công khai để thực thi pháp luật (có ngoại lệ) | Thực thi pháp luật |
Hệ thống AI có rủi ro cao:
| Loại dữ liệu | Ngành |
| Nhận dạng sinh trắc học và phân loại thể nhân | Thực thi pháp luật, kiểm soát biên giới, tư pháp, cơ sở hạ tầng quan trọng |
| Quản lý và vận hành cơ sở hạ tầng quan trọng | Tiện ích, giao thông |
| Giáo dục và đào tạo nghề | có chất lượng |
| Việc làm, quản lý người lao động, khả năng tự tạo việc làm | HR |
| Tiếp cận và hưởng thụ các dịch vụ công và tư nhân thiết yếu | Dịch vụ chính phủ, tài chính, y tế |
| Thực thi pháp luật | Thực thi pháp luật, tư pháp hình sự |
| Quản lý di cư, tị nạn và kiểm soát biên giới | Kiểm soát biên giới |
| Quản lý công lý và các tiến trình dân chủ | Tư pháp, bầu cử |
| Các bộ phận an toàn của máy móc, phương tiện và các sản phẩm khác | Sản xuất, ô tô, hàng không vũ trụ, thiết bị y tế |
Hệ thống AI có rủi ro hạn chế:
| Loại dữ liệu | Ngành |
| Nhận dạng cảm xúc hoặc phân loại sinh trắc học | Al |
| Các hệ thống tạo hoặc thao túng nội dung ('giả mạo sâu') | Truyền thông, giải trí |
| Hệ thống AI nhằm tương tác với con người tự nhiên | Dịch vụ khách hàng, bán hàng, giải trí |
Hệ thống AI rủi ro tối thiểu:
| Loại dữ liệu | Ngành |
| Trò chơi điện tử hỗ trợ AI | Giải Trí |
| AI để lọc thư rác | Tất cả |
| AI trong các ứng dụng công nghiệp không ảnh hưởng đến các quyền hoặc sự an toàn cơ bản | Sản xuất, hậu cần |
Các bảng trên cung cấp bản tóm tắt cấp cao về cách các loại dữ liệu và ngành khác nhau ánh xạ tới các danh mục rủi ro AI được xác định trong quy định đề xuất. Văn bản thực tế cung cấp các tiêu chí và định nghĩa phạm vi chi tiết hơn. Nhìn chung, các hệ thống AI gây ra rủi ro không thể chấp nhận được đối với sự an toàn và các quyền cơ bản đều bị cấm, trong khi những hệ thống gây ra rủi ro cao phải tuân theo các yêu cầu nghiêm ngặt và đánh giá sự phù hợp. Các hệ thống rủi ro hạn chế chủ yếu có nghĩa vụ minh bạch, trong khi AI có rủi ro tối thiểu không có yêu cầu bổ sung nào ngoài luật pháp hiện hành.
Các yêu cầu chính đối với các hệ thống AI có rủi ro cao theo Đạo luật AI của EU.
Đạo luật AI của EU quy định rằng các nhà cung cấp hệ thống AI có rủi ro cao phải tuân thủ các nghĩa vụ cụ thể để giảm thiểu rủi ro tiềm ẩn và đảm bảo độ tin cậy và tính minh bạch của hệ thống AI của họ. Các yêu cầu được liệt kê như sau:
- Triển khai hệ thống quản lý rủi ro để xác định và giảm thiểu rủi ro trong suốt vòng đời của hệ thống AI.
- Sử dụng dữ liệu đào tạo chất lượng cao, phù hợp và không thiên vị đó là tính đại diện, không có sai sót và thành kiến.
- Duy trì tài liệu chi tiết về mục đích, thiết kế và phát triển của hệ thống AI.
- Đảm bảo minh bạch đồng thời cung cấp thông tin rõ ràng cho người dùng về khả năng, hạn chế và rủi ro tiềm ẩn của hệ thống AI.
- Thực hiện biện pháp giám sát con người để đảm bảo các hệ thống AI có rủi ro cao chịu sự kiểm soát của con người và có thể bị ghi đè hoặc ngừng hoạt động nếu cần thiết.
- Đảm bảo sự mạnh mẽ, chính xác và an ninh mạng bảo vệ chống lại sự truy cập, tấn công hoặc thao túng trái phép.
Những thách thức đối với AI lời nói và LLM
AI lời nói và LLM lời nói thường thuộc danh mục rủi ro cao do tác động tiềm tàng của chúng đối với các quyền cơ bản và rủi ro xã hội. Một số thách thức mà doanh nghiệp gặp phải khi phát triển và triển khai các công nghệ này bao gồm:
- Thu thập và xử lý dữ liệu đào tạo chất lượng cao, khách quan
- Giảm thiểu những thành kiến tiềm ẩn trong các mô hình AI
- Đảm bảo tính minh bạch và khả năng giải thích của hệ thống AI
- Thực hiện cơ chế giám sát và kiểm soát con người hiệu quả
Cách Shaip giúp bạn điều hướng các danh mục rủi ro
Các giải pháp dữ liệu AI và dịch vụ đánh giá mô hình của Shaip được thiết kế để giúp bạn giải quyết sự phức tạp của các danh mục rủi ro trong Đạo luật AI của EU:
Rủi ro tối thiểu và hạn chế
Đối với các hệ thống AI có rủi ro tối thiểu hoặc hạn chế, Shaip có thể giúp bạn đảm bảo tuân thủ các nghĩa vụ minh bạch bằng cách cung cấp tài liệu rõ ràng về quy trình thu thập và chú thích dữ liệu của chúng tôi.
Rủi ro cao
Đối với các hệ thống Speech AI và LLM có rủi ro cao, Shaip cung cấp các giải pháp toàn diện để giúp bạn đáp ứng các yêu cầu nghiêm ngặt:
- Tài liệu chi tiết của quá trình thu thập và chú thích dữ liệu để đảm bảo tính minh bạch
- Dữ liệu AI đạo đức cho AI lời nói: Quy trình thu thập dữ liệu của chúng tôi ưu tiên sự đồng ý của người dùng, quyền riêng tư dữ liệu (giảm thiểu PII) và xóa bỏ những thành kiến dựa trên nhân khẩu học, yếu tố kinh tế xã hội hoặc bối cảnh văn hóa. Điều này đảm bảo các mô hình AI giọng nói của bạn tuân thủ Đạo luật AI của EU và tránh các kết quả đầu ra mang tính phân biệt đối xử.
- Giảm thiểu sự thiên vị trong dữ liệu lời nói: Chúng tôi hiểu các sắc thái của ngôn ngữ nói và những thành kiến tiềm ẩn có thể xâm nhập vào dữ liệu. Nhóm của chúng tôi phân tích dữ liệu một cách tỉ mỉ để xác định và loại bỏ những sai lệch tiềm ẩn, đảm bảo hệ thống Speech AI công bằng hơn và đáng tin cậy hơn.
- Đánh giá mô hình có lưu ý đến việc tuân thủ Đạo luật AI của EU: Các giải pháp Đánh giá & Đo điểm chuẩn mô hình của Shaip có thể đánh giá các mô hình AI giọng nói của bạn về các yếu tố như mức độ liên quan, độ an toàn và các thành kiến tiềm ẩn. Điều này giúp đảm bảo mô hình của bạn đáp ứng các yêu cầu của Đạo luật AI của EU về tính minh bạch và công bằng.
Rủi ro không thể chấp nhận
Cam kết của Shaip đối với các biện pháp thực hành AI có đạo đức đảm bảo rằng các giải pháp và dịch vụ dữ liệu của chúng tôi không góp phần vào việc phát triển các hệ thống AI với rủi ro không thể chấp nhận được, giúp bạn tránh được các biện pháp bị cấm theo Đạo luật AI của EU.
Shaip có thể giúp đỡ như thế nào
Bằng cách hợp tác với Shaip, các doanh nghiệp có thể tự tin giải quyết những vấn đề phức tạp của Đạo luật AI của EU trong khi phát triển các công nghệ Speech AI và LLM tiên tiến.
Việc điều hướng các danh mục rủi ro của Đạo luật AI của EU có thể là một thách thức nhưng bạn không phải làm điều đó một mình. Hợp tác với Shaip ngay hôm nay để tiếp cận hướng dẫn của chuyên gia, dữ liệu đào tạo chất lượng cao và các dịch vụ đánh giá mô hình toàn diện. Cùng nhau, chúng ta có thể đảm bảo các dự án Speech AI và LLM của bạn tuân thủ Đạo luật AI của EU đồng thời thúc đẩy sự đổi mới.
