Báo cáo gần đây của Mercor đã trở thành lời cảnh tỉnh hữu ích cho các nhà mua sắm AI doanh nghiệp. Mercor đã xác nhận một sự cố bảo mật liên quan đến cuộc tấn công chuỗi cung ứng liên quan đến LiteLLM, và các báo cáo cho biết Meta đã tạm dừng hợp tác với công ty trong khi các cuộc điều tra vẫn đang tiếp diễn. Đối với các nhà lãnh đạo về bảo mật, mua sắm và AI, bài học rất đơn giản: việc xem xét nhà cung cấp không thể chỉ dừng lại ở cấp độ cao nhất.
1. Dữ liệu của bạn đến từ đâu và được quản lý như thế nào?
Hãy yêu cầu thông tin cụ thể về nguồn gốc, sự đồng ý, cấp phép, xuất xứ, thời gian lưu giữ và xóa bỏ. Nếu câu trả lời mơ hồ, đó là một dấu hiệu cảnh báo.
Hướng dẫn công khai của Shaip về việc thu thập dữ liệu AI nhấn mạnh nguồn gốc, tài liệu, biện pháp bảo vệ quyền riêng tư và các quy trình thu thập có cấu trúc.
2. Những công cụ của bên thứ ba và mã nguồn mở nào được tích hợp vào quy trình làm việc của bạn?
Điều này giờ đây càng trở nên quan trọng hơn vì Mercor đã công khai liên kết sự cố của mình với LiteLLM và tự mô tả mình là một trong hàng nghìn công ty bị ảnh hưởng bởi một cuộc tấn công chuỗi cung ứng.
3. Làm thế nào để bạn kiểm soát quyền truy cập vào các tập dữ liệu nhạy cảm và tài sản đánh giá?
Việc hạn chế truy cập, mã hóa, ghi nhật ký kiểm toán và phân tách dữ liệu nên là những yêu cầu cơ bản.
Bạn cần một nhà cung cấp được xây dựng dựa trên sự tin cậy của doanh nghiệp?
4. Quy trình đảm bảo chất lượng của bạn thực tế trông như thế nào?
Hãy tìm kiếm những phương pháp có thể đo lường được như đánh giá nhiều cấp độ, bộ dữ liệu chuẩn, phân xử và các vòng điều chỉnh có cấu trúc.
Quan điểm công khai của Shaip về chất lượng có sự tham gia của con người và các dịch vụ dữ liệu đào tạo LLM ủng hộ ý tưởng rằng chất lượng nên được thiết kế ngay từ quy trình làm việc, chứ không phải được thêm vào như một bước kiểm tra cuối cùng.
5. Bạn xử lý các trường hợp ngoại lệ và phán đoán không rõ ràng như thế nào?
Trong lĩnh vực trí tuệ nhân tạo doanh nghiệp, không phải mọi thứ đều có thể được tự động hóa một cách an toàn. Một số tác vụ vẫn cần sự xem xét của con người dựa trên kiến thức chuyên môn.
Hướng dẫn HITL công khai của Shaip lập luận rằng con người nên được đặt ở những điểm có đòn bẩy cao nhất trong quy trình làm việc, nơi mà khả năng phán đoán và trách nhiệm giải trình là quan trọng nhất.
6. Bạn có bằng chứng nào chứng minh sự tuân thủ và mức độ trưởng thành về bảo mật?
7. Điều gì sẽ xảy ra nếu quyền sở hữu, quan hệ đối tác hoặc các ưu tiên chiến lược của bạn thay đổi?
Đây là lúc tính trung lập và bảo vệ khách hàng trở nên quan trọng. Người mua nên hỏi dữ liệu của họ được bảo vệ như thế nào, liệu lợi ích của nhà cung cấp có còn phù hợp với lợi ích của khách hàng hay không, và quyền lợi của khách hàng được bảo vệ ra sao theo thời gian.
Bài viết công khai của Shaip về tính trung lập dữ liệu lập luận rằng tính trung lập rất quan trọng vì khách hàng cần những nhà cung cấp có động cơ hướng đến sự tin tưởng, chứ không phải các chương trình sản phẩm cạnh tranh.
Bài học cuối cùng
Các nhà cung cấp dữ liệu AI không nên được coi như những nhà cung cấp dịch vụ có thể thay thế cho nhau. Họ có mối liên hệ mật thiết với chất lượng mô hình, bảo vệ sở hữu trí tuệ, tính liên tục hoạt động và lòng tin của doanh nghiệp. Đối tác phù hợp không chỉ đơn giản là đối tác có thể cung cấp dịch vụ nhanh nhất. Đó là đối tác có thể chứng minh cách thức quản lý dữ liệu, cách bảo mật quy trình làm việc, cách đo lường chất lượng và cách bảo vệ lợi ích của khách hàng. Thông điệp công khai của Shaip trên toàn bộ trang web của mình hoàn toàn phù hợp với định vị đặt lòng tin lên hàng đầu đó.
Bạn đang tìm kiếm đối tác kết hợp chất lượng dữ liệu, đánh giá của con người và quản trị sẵn sàng cho doanh nghiệp?
Khám phá các dịch vụ dữ liệu AI , giải pháp LLM và giải pháp An ninh & Tuân thủ của Shaip.
Thẩm định nhà cung cấp AI là gì?
Thẩm định nhà cung cấp AI là quá trình xem xét nguồn dữ liệu, kiểm soát chất lượng, tình trạng bảo mật, sự sẵn sàng tuân thủ, các phụ thuộc và mô hình quản trị của nhà cung cấp trước khi hợp tác.
Tại sao người mua AI nên hỏi về các phụ thuộc mã nguồn mở?
Bởi vì kiến trúc AI hiện đại thường bao gồm các trình kết nối của bên thứ ba, phần mềm trung gian và các công cụ mã nguồn mở, có thể gây ra rủi ro về sau. Vụ việc của Mercor là một ví dụ gần đây cho thấy tầm quan trọng của điều này.
Điều gì tạo nên một nhà cung cấp dữ liệu AI mạnh mẽ?
Một nhà cung cấp dữ liệu AI mạnh mẽ có thể giải thích nguồn gốc, kiểm định chất lượng thủ công, khả năng kiểm toán, kiểm soát truy cập, bằng chứng tuân thủ và cách dữ liệu khách hàng được bảo vệ theo thời gian. Các tài liệu công khai của Shaip nhấn mạnh những trụ cột này.
Tại sao tính trung lập của dữ liệu lại quan trọng?
Tính trung lập của dữ liệu giúp giảm thiểu rủi ro xung đột lợi ích, ranh giới tái sử dụng không rõ ràng và sự không phù hợp về động cơ trong chuỗi cung ứng dữ liệu AI.
