Tiêu chuẩn ISO/IEC 42001 là gì?

ISO/IEC 42001 là tiêu chuẩn quốc tế về Hệ thống quản lý trí tuệ nhân tạo (AI Management System – AIMS) do  tổ chức quốc tế International Organization for Standardization (ISO) phối hợp cùng Ủy ban kỹ thuật điện International Electrotechnical Commission (IEC) ban hành giúp tổ chức thiết lập, triển khai, duy trì và cải tiến hệ thống quản lý AI một cách có hệ thống, bảo đảm kiểm soát rủi ro, tính minh bạch, trách nhiệm và tuân thủ pháp luật trong quá trình phát triển và sử dụng trí tuệ nhân tạo.

ISO/IEC 42001 có thể áp dụng cho mọi tổ chức có phát triển, cung cấp hoặc sử dụng hệ thống AI, không phân biệt quy mô hay lĩnh vực hoạt động.

10 Điều khoản chính của ISO/IEC 42001

ISO/IEC 42001 được xây dựng theo cấu trúc cấp cao (High-Level Structure – HLS), tương tự các tiêu chuẩn hệ thống quản lý khác.

• Hiểu ISO 42001 là hệ thống quản lý, không phải tiêu chuẩn kỹ thuật AI

• Biết điều khoản nào liên quan trực tiếp đến mình

• Hiểu vì sao doanh nghiệp phải đào tạo nhận thức

• Nhận diện vai trò cá nhân trong AIMS

• Nhận diện mối liên hệ giữa chính sách – vận hành – kiểm soát – cải tiến

Điều khoản 1: Phạm vi (Scope)

Xác định phạm vi áp dụng của hệ thống quản lý AI trong tổ chức, bao gồm ranh giới, hoạt động và sản phẩm liên quan đến AI.

Điều khoản 2: Tài liệu viện dẫn (Normative References)

Liệt kê các tài liệu tham khảo cần thiết để áp dụng tiêu chuẩn.

Điều khoản 3: Thuật ngữ và định nghĩa (Terms and Definitions)

Giải thích các thuật ngữ chuyên ngành liên quan đến trí tuệ nhân tạo và quản lý AI.

Điều khoản 4: Bối cảnh của tổ chức (Context of the Organization)

• Xác định phạm vi AIMS

• Nhận diện bên quan tâm (stakeholders)

• Xác định rủi ro & cơ hội liên quan đến AI

• Thiết lập ranh giới hệ thống

Đào tạo xây dựng & triển khai:

- Xây dựng bản phạm vi AIMS

- Lập danh sách bên quan tâm

- Phân tích môi trường pháp lý & thị trường

- Danh sách rủi ro cấp cao

Điều khoản 5: Sự lãnh đạo (Leadership)

• Cam kết của lãnh đạo

• Chính sách AI

• Phân công vai trò & trách nhiệm

• Cơ chế quản trị AI

Đào tạo xây dựng & triển khai:

- Soạn thảo chính sách

- Thiết kế sơ đồ tổ chức

- Quyết định phân công trách nhiệm

Điều khoản 6: Hoạch định (Planning)

• Đánh giá rủi ro AI

• Thiết lập mục tiêu AI

• Kế hoạch xử lý rủi ro

• Lập kế hoạch triển khai AIMS

Đào tạo xây dựng & triển khai:

- Quy trình quản lý rủi ro AI

- Danh mục rủi ro AI

- Mục tiêu & kế hoạch triển khai

Điều khoản 7: Hỗ trợ (Support)

• Nguồn lực

• Năng lực (Competence)

• Nhận thức (Awareness)

• Truyền thông

• Kiểm soát tài liệu

Đào tạo xây dựng & triển khai:

- Lập kế hoạch đào tạo ISO 42001

- Thiết kế chương trình nhận thức chung

- Thiết lập quy trình kiểm soát tài liệu AIMS

- Danh mục tài liệu kiểm soát

Điều khoản 8: Vận hành (Operation)

• Kiểm soát vòng đời hệ thống AI

• Kiểm soát thay đổi

• Quản lý dữ liệu

• Kiểm soát nhà cung cấp AI

Đào tạo xây dựng & triển khai:

- Quy trình vận hành AI

- Biểu mẫu phê duyệt

- Quy trình quản lý thay đổi

Điều khoản 9: Đánh giá kết quả thực hiện (Performance Evaluation)

• Giám sát & đo lường

• Đánh giá nội bộ

• Xem xét của lãnh đạo

Đào tạo xây dựng & triển khai:

- Thiết kế chương trình audit nội bộ

- Xây dựng KPI đánh giá hiệu lực AI

- Soạn mẫu báo cáo xem xét lãnh đạo

Điều khoản 10: Cải tiến (Improvement)

• Xử lý sự cố AI (AI incidents)

• Hành động khắc phục

• Cải tiến liên tục

Đào tạo xây dựng & triển khai:

- Thiết kế quy trình xử lý sự cố AI

- Xây dựng biểu mẫu xử lý sự cố

- Thiết lập cơ chế cải tiến

Phụ lục A – Kiểm soát quản lý AI

Giới thiệu khái quát:

• Quản lý rủi ro thuật toán

• Minh bạch & khả giải thích

• Quản lý dữ liệu

• Giám sát & can thiệp con người

Đào tạo xây dựng & triển khai:

- Danh mục kiểm soát áp dụng
- Xây dựng SoA AIMS