Công ước bao gồm các khía cạnh về nhân quyền liên quan đến AI. 57 quốc gia đã tham gia đàm phán để hoàn thiện công ước.

Mỹ, Vương Quốc Anh, EU cùng nhiều nước đã ký Công ước AI

Công ước AI, đã được chuẩn bị trong nhiều năm và chính thức được thông qua sau khi có sự thảo luận giữa 57 quốc gia, nhằm giải quyết các rủi ro có thể phát sinh từ AI, đồng thời khuyến khích việc đổi mới có trách nhiệm. “Công ước này là một bước quan trọng để đảm bảo rằng các công nghệ mới có thể được tận dụng mà không làm xói mòn các giá trị lâu đời nhất của chúng ta, chẳng hạn như nhân quyền và pháp quyền”, Bộ trưởng Tư pháp Anh, Shabana Mahmood, phát biểu trong một tuyên bố.

Công ước AI chủ yếu tập trung vào việc bảo vệ nhân quyền của những người bị ảnh hưởng bởi các hệ thống AI và không liên quan trực tiếp đến Đạo luật AI của EU, một quy định toàn diện về phát triển, triển khai và sử dụng AI trong thị trường nội địa EU, đã có hiệu lực từ tháng trước.

Một ủy ban đặc biệt đã bắt đầu nghiên cứu về tính khả thi của một khuôn khổ cho AI từ năm 2019, và một Ủy ban về Trí tuệ Nhân tạo được thành lập vào năm 2022 để soạn thảo và đàm phán văn bản này. Các nước ký kết có thể lựa chọn áp dụng hoặc duy trì các biện pháp lập pháp, hành chính hoặc các biện pháp khác để thực thi các quy định của công ước.

Francesca Fanucci, một chuyên gia pháp lý tại Trung tâm Luật Phi Lợi nhuận Châu Âu (ECNL), người đã tham gia vào quá trình soạn thảo cùng với các nhóm xã hội dân sự khác, cho biết với Reuters rằng thỏa thuận này đã bị "giảm nhẹ" thành một tập hợp các nguyên tắc chung. "Bản quy định các nguyên tắc và nghĩa vụ trong công ước này quá rộng và chứa đựng nhiều điều khoản ngoại lệ, điều này khiến chúng ta đặt câu hỏi nghiêm túc về tính chắc chắn về mặt pháp lý và khả năng thực thi của nó", bà nói. Fanucci nhấn mạnh các ngoại lệ đối với các hệ thống AI sử dụng cho mục đích an ninh quốc gia, cùng với việc giám sát hạn chế các công ty tư nhân so với khu vực công là những điểm yếu.

Chính phủ Anh cho biết họ sẽ làm việc với các cơ quan quản lý, chính quyền các khu vực tự trị và các cơ quan địa phương để bảo đảm rằng họ có thể thực thi các yêu cầu mới này một cách phù hợp.

Cũng được ký bởi EU, Hoa Kỳ, công ước này nhằm giảm thiểu các mối đe dọa mà AI có thể gây ra đối với nhân quyền, dân chủ và pháp quyền. Bộ trưởng Tư pháp Anh, Shabana Mahmood, cho biết AI có khả năng “cải thiện mạnh mẽ” các dịch vụ công cộng và “thúc đẩy” tăng trưởng kinh tế, nhưng phải được áp dụng mà không ảnh hưởng đến các quyền cơ bản của con người. Công ước này là một bước quan trọng để đảm bảo rằng những công nghệ mới này có thể được khai thác mà không làm xói mòn những giá trị cốt lõi lâu đời của chúng ta như nhân quyền và pháp quyền.

Mục tiêu của công ước là gì?

Theo Hội đồng Châu Âu, mục tiêu của nó là “lấp đầy mọi khoảng trống pháp lý có thể xuất hiện do sự phát triển công nghệ nhanh chóng”. Những bước tiến gần đây trong AI đã thúc đẩy cuộc chạy đua toàn cầu về mặt pháp lý để giảm thiểu các nhược điểm tiềm tàng của công nghệ này.

Công ước quy định các hệ thống AI phải tuân thủ một loạt các nguyên tắc như: bảo vệ dữ liệu cá nhân; không phân biệt đối xử; phát triển an toàn; và bảo vệ phẩm giá con người. Chính phủ các nước được yêu cầu đưa ra các biện pháp bảo vệ như ngăn chặn thông tin sai lệch do AI tạo ra và ngăn chặn các hệ thống được đào tạo trên các dữ liệu thiên vị, dẫn đến các quyết định sai lệch.

Ai sẽ bị ảnh hưởng bởi hiệp ước?

Hiệp ước này bao gồm việc sử dụng AI bởi các cơ quan công quyền và khu vực tư nhân. Bất kỳ công ty hay tổ chức nào sử dụng các hệ thống AI có liên quan đều phải đánh giá tác động tiềm năng của chúng đối với nhân quyền, dân chủ và pháp quyền - và công khai thông tin đó. Người dân phải có khả năng thách thức các quyết định được thực hiện bởi hệ thống AI và gửi khiếu nại lên các cơ quan chức năng. Người sử dụng hệ thống AI cũng phải được thông báo rằng họ đang giao dịch với AI, chứ không phải con người.

Nguồn: NASATI