Đề xuất cấm dùng AI tạo hình ảnh, video có nội dung này

Bộ Khoa học và Công nghệ đang dự thảo Luật Chuyển đổi số. Dự thảo đề xuất 9 hành vi bị nghiêm cấm trong chuyển đổi số:

1. Lợi dụng chuyển đổi số để xâm phạm an ninh quốc gia, trật tự an toàn xã hội, đạo đức, thuần phong mỹ tục; tạo lập, lan truyền nội dung sai sự thật, xuyên tạc giá trị văn hóa, hoặc xúc phạm danh dự, nhân phẩm; quyền và lợi ích hợp pháp của tổ chức, cá nhân.

2. Phát tán, tuyên truyền, lưu trữ, sử dụng trái phép dữ liệu số, công nghệ số phục vụ cho mục đích vi phạm pháp luật.

3. Cản trở, can thiệp, phá hoại, làm sai lệch, chiếm đoạt, hủy hoại hạ tầng cho chuyển đổi số, các nền tảng số, cơ sở dữ liệu quốc gia, dữ liệu số của tổ chức, cá nhân, cơ quan nhà nước.

4. Cản trở, gây khó khăn cho hoạt động chuyển đổi số hợp pháp của tổ chức, cá nhân, cơ quan, doanh nghiệp.

5. Vi phạm quy định về bảo vệ dữ liệu cá nhân, an toàn thông tin, an ninh mạng trong quá trình triển khai chuyển đổi số.

6. Lợi dụng nền tảng số, công nghệ số để thực hiện hành vi gian lận, lừa đảo, trục lợi hoặc sử dụng giao diện lừa đảo nhằm thao túng, ngăn cản người dùng đưa ra lựa chọn có hiểu biết và tự do.

Đề xuất cấm dùng AI tạo hình ảnh, video có nội dung này- Ảnh 1.

Đề xuất cấm dùng AI tạo hình ảnh, video gây nhầm lẫn hoặc lừa đảo. (Ảnh minh hoạ)

7. Tạo ra hoặc chỉnh sửa nội dung (văn bản, hình ảnh, âm thanh, video) bằng trí tuệ nhân tạo mà không dán nhãn rõ ràng, gây nhầm lẫn hoặc có mục đích lừa đảo.

8. Lạm dụng vị trí thống lĩnh thị trường của nền tảng số để thực hiện các hành vi cạnh tranh không lành mạnh, theo pháp luật về cạnh tranh như: định giá không công bằng, phân biệt đối xử, tự ưu tiên sản phẩm, dịch vụ của nền tảng nhằm cản trở sự gia nhập thị trường, loại bỏ đối thủ cạnh tranh của các doanh nghiệp khác.

9. Cán bộ, công chức, viên chức, người lao động trong các cơ quan thuộc hệ thống chính trị đưa vào hệ thống trí tuệ nhân tạo các thông tin thuộc danh mục bí mật Nhà nước, dữ liệu cá nhân chưa được sự đồng ý của chủ thể, hoặc thông tin nội bộ ảnh hưởng đến an ninh quốc gia, trật tự an toàn xã hội; sử dụng trí tuệ nhân tạo cho các hành vi vi phạm pháp luật như lừa đảo, tạo thông tin sai lệch, phá hoại hệ thống, hoặc xâm nhập trái phép vào hệ thống thông tin; khai thác trí tuệ nhân tạo tại nơi công cộng theo cách có thể rò rỉ thông tin; lưu trữ mật khẩu công vụ trên thiết bị hoặc nền tảng trí tuệ nhân tạo.

Bộ Khoa học và công nghệ đang lấy ý kiến đối với dự thảo này trên Cổng TTĐT của Bộ.

Theo Bộ Khoa học và Công nghệ, sau gần 20 năm thi hành Luật Công nghệ thông tin năm 2006, đến nay đã bộc lộ nhiều hạn chế và bất cập, không còn theo kịp tốc độ phát triển rất nhanh của công nghệ số và yêu cầu của quá trình chuyển đổi số toàn diện.

Luật Công nghệ thông tin năm 2006 được xây dựng trong bối cảnh các công nghệ đột phá như Trí tuệ nhân tạo (AI), Dữ liệu lớn (Big Data), Internet vạn vật (IoT), Điện toán đám mây (Cloud Computing), Chuỗi khối (Blockchain)… cùng với các mô hình kinh doanh mới còn chưa xuất hiện hoặc chưa phổ biến, chưa bao quát được những yêu cầu mới phát sinh trong thực tiễn hiện nay.

Do vậy, Luật Chuyển đổi số được xây dựng nhằm hoàn thiện hệ thống pháp luật trong bối cảnh nhiều công nghệ mới, mô hình kinh doanh mới phát sinh.