• Click để copy

9 nguyên tắc nghiên cứu, phát triển hệ thống trí tuệ nhân tạo có trách nhiệm

Bộ Khoa học và Công nghệ (KH&CN) vừa ban hành tài liệu hướng dẫn một số nguyên tắc về nghiên cứu, phát triển các hệ thống trí tuệ nhân tạo (AI) có trách nhiệm nhằm hướng đến một xã hội lấy con người làm trung tâm, mọi người được hưởng những lợi ích từ các hệ thống AI, bảo đảm sự cân bằng hợp lý giữa lợi ích và rủi ro của các hệ thống AI...

Cơ quan, tổ chức khoa học và công nghệ, tổ chức, doanh nghiệp, cá nhân có hoạt động nghiên cứu, thiết kế, phát triển, cung cấp các hệ thống trí tuệ nhân tạo được khuyến khích áp dụng các nội dung trong tài liệu hướng dẫn.

Theo đó, 9 nguyên tắc nghiên cứu, phát triển hệ thống AI có trách nhiệm được đề ra gồm: Tinh thần hợp tác, thúc đẩy đổi mới sáng tạo; tính minh bạch; khả năng kiểm soát; an toàn; bảo mật; quyền riêng tư; tôn trọng quyền và phẩm giá con người; hỗ trợ người dùng; trách nhiệm giải trình.

Với mỗi nguyên tắc đều có hướng dẫn thực hiện. Đơn cử như đối với tính minh bạch, nhà phát triển cần chú ý đến việc kiểm soát đầu vào/đầu ra của hệ thống AI và khả năng giải thích các phân tích có liên quan. Theo đó, các hệ thống AI tuân theo nguyên tắc này thường là các hệ thống có thể ảnh hưởng đến tính mạng, thân thể, quyền riêng tư hoặc tài sản của người dùng hoặc bên thứ ba liên quan.

9 nguyên tắc nghiên cứu, phát triển hệ thống trí tuệ nhân tạo có trách nhiệm
Bộ KH&CN hướng dẫn nguyên tắc nghiên cứu, phát triển AI có trách nhiệm/ Ảnh minh họa/qdnd.vn 

Khi đó, các nhà phát triển cần chú ý đến khả năng xác định rõ các đầu vào và đầu ra của hệ thống AI cũng như khả năng giải thích liên quan dựa trên các đặc điểm của công nghệ được áp dụng và cách sử dụng chúng để đảm bảo có sự tin tưởng của xã hội, bao gồm cả người dùng.

Hay đối với nguyên tắc tôn trọng quyền và phẩm giá con người, khi phát triển các hệ thống AI có liên quan tới con người, các nhà phát triển phải đặc biệt quan tâm đến việc tôn trọng quyền và phẩm giá con người của các cá nhân liên quan.

Trong phạm vi có thể, tùy theo đặc điểm của công nghệ được áp dụng, các nhà phát triển cần thực hiện các biện pháp để đảm bảo không gây ra sự phân biệt đối xử, không công bằng do thiên vị (định kiến) trong dữ liệu khi huấn luyện hệ thống AI.

Các nhà phát triển cần thực hiện các biện pháp phòng ngừa để đảm bảo rằng hệ thống AI không vi phạm các giá trị của con người, đạo đức xã hội theo các nguyên tắc cơ bản của Việt Nam (ví dụ, các giá trị bao gồm yêu nước, đoàn kết, tự cường, nghĩa tình, trung thực, trách nhiệm, kỷ cương, sáng tạo…).

Theo Bộ KH&CN, trong bối cảnh hiện nay, việc nghiên cứu, có biện pháp giảm thiểu các rủi ro trong quá trình phát triển, sử dụng AI và cân đối các yếu tố kinh tế, đạo đức và pháp lý liên quan là rất cần thiết.

Vì vậy, các cơ quan chuyên môn cần nghiên cứu, xây dựng các tiêu chuẩn, hướng dẫn để định hướng kể cả đó là các quy định mềm và không có tính ràng buộc.

Bên cạnh đó, việc chia sẻ, trao đổi thông tin về các quy trình, các biện pháp thực hành tốt giữa các bên liên quan (như nhà phát triển, nhà cung cấp dịch vụ, người dùng) cũng sẽ thúc đẩy sự đồng thuận để gia tăng lợi ích từ các hệ thống AI và kiểm soát được các rủi ro.

Bộ KH&CN đã chủ động nghiên cứu kinh nghiệm các nước, khuyến nghị của các tổ chức như: UNESCO, UN, ASEAN, G7, G20... để xây dựng các khuyến nghị, công cụ, quy định về đạo đức trong AI, phát triển các sản phẩm AI (từ nghiên cứu, thiết kế, phát triển, triển khai sản phẩm AI) có trách nhiệm phù hợp với thực tiễn và quy định hiện hành của Việt Nam.

Bộ KH&CN cũng cho biết, các nguyên tắc, hướng dẫn sẽ tiếp tục được nghiên cứu, cập nhật để phù hợp với tình hình thực tiễn.

THU HIỀN

Bài liên quan

Tin mới

Khai mạc triển lãm ảnh đồng bào dân tộc thiểu số tại TP Hồ Chí Minh
Khai mạc triển lãm ảnh đồng bào dân tộc thiểu số tại TP Hồ Chí Minh

Ngày 22-11, tại đường Nguyễn Huệ (quận 1), UBND TP Hồ Chí Minh tổ chức khai mạc triển lãm ảnh “Đồng bào các dân tộc bình đẳng, đoàn kết, năng động sáng tạo, xây dựng và phát triển TP Hồ Chí Minh văn minh, hiện đại, nghĩa tình”, chào mừng Đại hội Đại biểu các dân tộc thiểu số TP Hồ Chí Minh lần thứ IV năm 2024.

Mở cửa phòng trưng bày “Hiểu hàng thật - Tránh hàng giả”
Mở cửa phòng trưng bày “Hiểu hàng thật - Tránh hàng giả”

Nhân dịp kỷ niệm Ngày Phòng chống hàng giả - hàng nhái (29/11), sáng ngày 22/11/2024, tại số 62 Tràng Tiền, Hoàn Kiếm, thành phố Hà Nội, Tổng cục Quản lý thị trường (QLTT) tổ chức mở cửa Phòng trưng bày với chủ đề “Hiểu hàng Thật - Tránh hàng Giả”.

Một số quy định mới về hệ thống đảm bảo gỗ hợp pháp Việt Nam
Một số quy định mới về hệ thống đảm bảo gỗ hợp pháp Việt Nam

Ngày 30 tháng 9 năm 2024, Chính phủ ban hành Nghị định số 120/2024/NĐ-CP sửa đổi, bổ sung một số điều của Nghị định số 102/2020/ NĐ-CP ngày 01 tháng 9 năm 2020 của Chính phủ quy định hệ thống bảo đảm gỗ hợp pháp Việt Nam.

Bộ Tư pháp đề xuất 7 lĩnh vực người có chức vụ, quyền hạn không được thành lập doanh nghiệp sau khi thôi chức vụ
Bộ Tư pháp đề xuất 7 lĩnh vực người có chức vụ, quyền hạn không được thành lập doanh nghiệp sau khi thôi chức vụ

Bộ Tư pháp đang dự thảo Thông tư quy định danh mục các lĩnh vực và thời hạn người có chức vụ, quyền hạn không được thành lập, giữ chức danh, chức vụ quản lý, điều hành doanh nghiệp tư nhân, công ty trách nhiệm hữu hạn, công ty cổ phần, công ty hợp danh, hợp tác xã sau khi thôi chức vụ thuộc phạm vi quản lý của Bộ Tư pháp.

Trường Đại học đầu tiên của Việt Nam đạt chứng chỉ công trình xanh
Trường Đại học đầu tiên của Việt Nam đạt chứng chỉ công trình xanh

Ngày 22-11, Trường Đại học Anh quốc Việt Nam (BUV) cho biết đã chính thức trở thành trường đại học đầu tiên của Việt Nam được nhận chứng chỉ EDGE (Hệ thống chứng nhận công trình xanh).

TP Hồ Chí Minh xử lý nghiêm vi phạm trong kinh doanh xyanua
TP Hồ Chí Minh xử lý nghiêm vi phạm trong kinh doanh xyanua

Chiều 21-11, Thượng tá Nguyễn Thăng Long, Phó trưởng phòng Tham mưu, Công an TP Hồ Chí Minh thông tin: Để phòng ngừa, đấu tranh hiệu quả với tội phạm liên quan đến sử dụng hóa chất, Công an thành phố đã triển khai kế hoạch tăng cường công tác phòng ngừa, quản lý, đấu tranh, xử lý các hành vi vi phạm pháp luật liên quan đến kinh doanh hóa chất nguy hiểm, độc hại trên địa bàn thành phố.