• Click để copy

9 nguyên tắc nghiên cứu, phát triển hệ thống trí tuệ nhân tạo có trách nhiệm

Bộ Khoa học và Công nghệ (KH&CN) vừa ban hành tài liệu hướng dẫn một số nguyên tắc về nghiên cứu, phát triển các hệ thống trí tuệ nhân tạo (AI) có trách nhiệm nhằm hướng đến một xã hội lấy con người làm trung tâm, mọi người được hưởng những lợi ích từ các hệ thống AI, bảo đảm sự cân bằng hợp lý giữa lợi ích và rủi ro của các hệ thống AI...

Cơ quan, tổ chức khoa học và công nghệ, tổ chức, doanh nghiệp, cá nhân có hoạt động nghiên cứu, thiết kế, phát triển, cung cấp các hệ thống trí tuệ nhân tạo được khuyến khích áp dụng các nội dung trong tài liệu hướng dẫn.

Theo đó, 9 nguyên tắc nghiên cứu, phát triển hệ thống AI có trách nhiệm được đề ra gồm: Tinh thần hợp tác, thúc đẩy đổi mới sáng tạo; tính minh bạch; khả năng kiểm soát; an toàn; bảo mật; quyền riêng tư; tôn trọng quyền và phẩm giá con người; hỗ trợ người dùng; trách nhiệm giải trình.

Với mỗi nguyên tắc đều có hướng dẫn thực hiện. Đơn cử như đối với tính minh bạch, nhà phát triển cần chú ý đến việc kiểm soát đầu vào/đầu ra của hệ thống AI và khả năng giải thích các phân tích có liên quan. Theo đó, các hệ thống AI tuân theo nguyên tắc này thường là các hệ thống có thể ảnh hưởng đến tính mạng, thân thể, quyền riêng tư hoặc tài sản của người dùng hoặc bên thứ ba liên quan.

9 nguyên tắc nghiên cứu, phát triển hệ thống trí tuệ nhân tạo có trách nhiệm
Bộ KH&CN hướng dẫn nguyên tắc nghiên cứu, phát triển AI có trách nhiệm/ Ảnh minh họa/qdnd.vn 

Khi đó, các nhà phát triển cần chú ý đến khả năng xác định rõ các đầu vào và đầu ra của hệ thống AI cũng như khả năng giải thích liên quan dựa trên các đặc điểm của công nghệ được áp dụng và cách sử dụng chúng để đảm bảo có sự tin tưởng của xã hội, bao gồm cả người dùng.

Hay đối với nguyên tắc tôn trọng quyền và phẩm giá con người, khi phát triển các hệ thống AI có liên quan tới con người, các nhà phát triển phải đặc biệt quan tâm đến việc tôn trọng quyền và phẩm giá con người của các cá nhân liên quan.

Trong phạm vi có thể, tùy theo đặc điểm của công nghệ được áp dụng, các nhà phát triển cần thực hiện các biện pháp để đảm bảo không gây ra sự phân biệt đối xử, không công bằng do thiên vị (định kiến) trong dữ liệu khi huấn luyện hệ thống AI.

Các nhà phát triển cần thực hiện các biện pháp phòng ngừa để đảm bảo rằng hệ thống AI không vi phạm các giá trị của con người, đạo đức xã hội theo các nguyên tắc cơ bản của Việt Nam (ví dụ, các giá trị bao gồm yêu nước, đoàn kết, tự cường, nghĩa tình, trung thực, trách nhiệm, kỷ cương, sáng tạo…).

Theo Bộ KH&CN, trong bối cảnh hiện nay, việc nghiên cứu, có biện pháp giảm thiểu các rủi ro trong quá trình phát triển, sử dụng AI và cân đối các yếu tố kinh tế, đạo đức và pháp lý liên quan là rất cần thiết.

Vì vậy, các cơ quan chuyên môn cần nghiên cứu, xây dựng các tiêu chuẩn, hướng dẫn để định hướng kể cả đó là các quy định mềm và không có tính ràng buộc.

Bên cạnh đó, việc chia sẻ, trao đổi thông tin về các quy trình, các biện pháp thực hành tốt giữa các bên liên quan (như nhà phát triển, nhà cung cấp dịch vụ, người dùng) cũng sẽ thúc đẩy sự đồng thuận để gia tăng lợi ích từ các hệ thống AI và kiểm soát được các rủi ro.

Bộ KH&CN đã chủ động nghiên cứu kinh nghiệm các nước, khuyến nghị của các tổ chức như: UNESCO, UN, ASEAN, G7, G20... để xây dựng các khuyến nghị, công cụ, quy định về đạo đức trong AI, phát triển các sản phẩm AI (từ nghiên cứu, thiết kế, phát triển, triển khai sản phẩm AI) có trách nhiệm phù hợp với thực tiễn và quy định hiện hành của Việt Nam.

Bộ KH&CN cũng cho biết, các nguyên tắc, hướng dẫn sẽ tiếp tục được nghiên cứu, cập nhật để phù hợp với tình hình thực tiễn.

THU HIỀN

Bài liên quan

Tin mới

Đánh bom tại một nhà ga ở Pakistan, ít nhất 13 người thiệt mạng
Đánh bom tại một nhà ga ở Pakistan, ít nhất 13 người thiệt mạng

Ít nhất 13 người thiệt mạng và 25 người bị thương trong vụ đánh bom xảy ra vào sáng 9-11 tại một nhà ga tàu hỏa ở thủ phủ Quetta, tỉnh Balochistan, Tây Nam Pakistan.

Campuchia kỷ niệm 71 năm Ngày Độc lập
Campuchia kỷ niệm 71 năm Ngày Độc lập

Sáng 9-11, Lễ kỷ niệm 71 năm Ngày Độc lập Vương quốc Campuchia (9-11-1953 / 9-11-2024) và kỷ niệm 71 năm thành lập Quân đội Hoàng gia Campuchia được tổ chức long trọng tại Đài Độc lập ở thủ đô Phnom Penh.

Houthi tuyên bố bắn hạ “Quái điểu” MQ-9 Reaper thứ 12
Houthi tuyên bố bắn hạ “Quái điểu” MQ-9 Reaper thứ 12

Tân Hoa xã ngày 9-11 dẫn tuyên bố của lực lượng Houthi ở Yemen cho biết vừa bắn hạ thêm máy bay không người lái (UAV) MQ-9 Reaper với biệt danh “Quái điểu” do Mỹ sản xuất.

Bão số 7, sức gió mạnh nhất vùng gần tâm bão cấp 14
Bão số 7, sức gió mạnh nhất vùng gần tâm bão cấp 14

Theo Trung tâm Dự báo khí tượng thủy văn quốc gia, hồi 10 giờ (9-11), vị trí tâm bão khoảng 18,9 độ Vĩ Bắc; 114,5 độ Kinh Đông, trên khu vực Bắc Biển Đông, cách quần đảo Hoàng Sa khoảng 415km về phía Đông Bắc. Sức gió mạnh nhất vùng gần tâm bão mạnh cấp 14 (150-166km/giờ), giật cấp 17, di chuyển theo hướng Tây Tây Bắc, tốc độ khoảng 15km/giờ.

Khai mạc Chương trình "Trái tim cho em" tại tỉnh Điện Biên
Khai mạc Chương trình "Trái tim cho em" tại tỉnh Điện Biên

Ngày 9-11, tại Bệnh viện Đa khoa tỉnh Điện Biên, Tập đoàn Công nghiệp - Viễn thông Quân đội (Viettel), Chi nhánh Điện Biên phối hợp với Đài Truyền hình Việt Nam, Bệnh viện E và Sở Y tế tỉnh Điện Biên khai mạc Chương trình "Trái tim cho em" năm 2024 tại Điện Biên.

Đoàn đại biểu TP Hồ Chí Minh và các đơn vị lên đường đi thăm quân và dân vùng biển Tây Nam
Đoàn đại biểu TP Hồ Chí Minh và các đơn vị lên đường đi thăm quân và dân vùng biển Tây Nam

Sáng 9-11, tại cảng Lữ đoàn 125, Vùng 2 Hải quân, đoàn đại biểu TP Hồ Chí Minh và các đơn vị đi thăm cán bộ, chiến sĩ Vùng 2, Vùng 5 Hải quân, nhân dân và các lực lượng trên các đảo thuộc vùng biển Tây Nam và Nhà giàn DK1/10 năm 2024 chính thức rời cảng lên đường.