Mặc dù vấp phải nhiều ý kiến trái chiều nhưng không thể phủ định mà lợi ích của AI đem lại trong mọi lĩnh vực đời sống, như: chăm sóc sức khỏe, vận tải và sản xuất, v.v. Tuy nhiên nhiều người lo ngại rằng, việc lạm dụng công nghệ sẽ dẫn đến mối nguy về an ninh bảo mật, nhất là khi để công nghệ tham gia quá sâu vào các lĩnh vực quan trọng như thiết bị y tế, xe tự hành, hàng không và hệ thống điều khiển công nghiệp.

Do đó, việc đảm bảo an toàn cho các công nghệ AI đối với những thị trường này là điều cần thiết.

An toàn tính năng trong ngành công nghệ AI nhằm đảm bảo hệ thống, thiết bị và dụng cụ hoạt động theo đúng mục đích. Các tiêu chuẩn an toàn chức năng rất quan trọng đối với bất kỳ ngành nào mà hệ thống có khả năng bị xâm nhập hoặc gây hại cho con người, tài sản hoặc môi trường nếu bị hỏng.

An toàn tính năng trong ngành công nghệ AI nhằm đảm bảo hệ thống, thiết bị và dụng cụ hoạt động theo đúng mục đích. 

Chính vì vậy, Ủy ban Kỹ thuật điện Quốc tế (IEC) đưa ra các tiêu chuẩn hướng đến an toàn chức năng như loạt tiêu chuẩn IEC 61508 được sử dụng rộng rãi, bao gồm thiết kế và triển khai các biện pháp bảo vệ để ngăn ngừa tai nạn và giảm thiểu rủi ro trong nhiều ngành công nghiệp khác nhau. Tuy nhiên, những quy định trong tiêu chuẩn này chưa đảm bảo được hết các tính năng của AI.

Cho đến nay, có rất ít hướng dẫn về thông số kỹ thuật, thiết kế và xác minh các hệ thống AI an toàn về mặt chức năng hoặc cách áp dụng công nghệ AI cho các chức năng có tác động liên quan đến an toàn.

Vì vậy, việc ban hành tiêu chuẩn ISO/IEC TR 5469, nhằm "lấp đầy" các lỗ hổng về bảo mật về công nghệ hiện nay đang còn thiếu. Việc sử dụng các báo cáo về an ninh trước đây để hoàn thiện tiêu chuẩn này sẽ giúp phát triển các hệ thống liên quan đến an toàn bằng cách sử dụng công nghệ AI bằng cách thúc đẩy nhận thức về các đặc tính, yếu tố rủi ro an toàn chức năng, các phương pháp an toàn chức năng khả dụng và các hạn chế tiềm ẩn của công nghệ AI.

Được biết, tiêu chuẩn ISO/IEC TR 5469 được phát triển bởi ủy ban IEC và ISO, gọi chung là tiểu ban SC 42, tiểu ban đã kết hợp chuyên môn về AI với ủy ban khác của IEC là TC 65/SC 65A , ủy ban đứng sau loạt tiêu chuẩn an toàn chức năng IEC 61508.

Tiểu ban SC 42 thường tập trung phát triển các tiêu chuẩn quốc tế cho AI, áp dụng cách tiếp cận toàn diện để xem xét toàn bộ hệ sinh thái AI. Đồng thời xem xét khả năng công nghệ và các yêu cầu phi kỹ thuật, chẳng hạn như yêu cầu kinh doanh, quy định và chính sách, nhu cầu về miền ứng dụng và các mối quan tâm về đạo đức và xã hội.

nguồn: vietq.vn