Tổng thống Lee Jae-myung: "Lạm dụng Deepfake là nghiêm trọng... cần có biện pháp đối phó"

Tổng thống Lee Jae-myung đã chỉ ra rằng các video và hình ảnh deepfake do trí tuệ nhân tạo (AI) tạo ra, khó phân biệt với người thật, có thể được coi là bằng chứng xác thực nếu không có dấu hiệu nhận biết.
 
Trong buổi báo cáo công việc của Bộ Khoa học và Công nghệ Thông tin, Ủy ban Truyền thông và Viễn thông, và Ủy ban Bảo vệ Thông tin cá nhân diễn ra tại Phủ Tổng thống, ông nhấn mạnh: "Hiện nay, rất khó để phân biệt liệu đó có phải là sản phẩm do AI tạo ra hay không, vì chúng rất giống với video thực tế".
 
Ông nói thêm: "Nếu không có dấu hiệu nhận biết, điều này có thể gây ra những hiểu lầm nghiêm trọng, và nếu bị lạm dụng, hậu quả sẽ rất nghiêm trọng". Ông nhấn mạnh rằng "với những rủi ro mà sản phẩm AI mang lại đã trở thành hiện thực, cần phải có các biện pháp đối phó".
 
Theo luật cơ bản về trí tuệ nhân tạo hiện hành, các video và hình ảnh do AI sinh tạo phải được đánh dấu là sản phẩm do AI tạo ra. Đặc biệt, đối với deepfake biến đổi người thật hoặc hiện tượng thực tế, người dùng phải có nghĩa vụ đánh dấu rõ ràng để dễ nhận biết. Nếu vi phạm quy định đánh dấu, có thể bị phạt tiền lên đến 30 triệu won, nhưng các quy định xử phạt liên quan hiện đang được hoãn lại trong một năm.
 
Tổng thống cũng chỉ ra rằng luật hiện hành chỉ áp dụng nghĩa vụ đánh dấu cho các nhà phát triển mô hình AI và các doanh nghiệp sử dụng, trong khi những người phát tán lại không bị quản lý trực tiếp nếu họ xóa dấu hiệu hoặc cắt bớt sản phẩm.
 
Ông cho biết, đối với các cổng thông tin trong nước, nếu bên liên quan báo cáo về việc phỉ báng danh dự hoặc xâm phạm quyền lợi, bài viết sẽ được chặn trước và sau đó sẽ có quy trình khiếu nại. Tuy nhiên, các nền tảng nước ngoài không thực hiện việc xác minh danh tính và xóa bỏ đúng cách.
 
Trước đó, Tổng thống đã nói trong phần đầu của báo cáo công việc rằng: "Trong tương lai, có thể chúng ta sẽ phải sống cùng với trí tuệ nhân tạo có khả năng tương đương hoặc vượt trội hơn trí tuệ con người trong mọi lĩnh vực của xã hội" và "toàn cầu đang đối mặt với sự chuyển mình văn minh do AI".
 
Ông nhấn mạnh: "Tôi tin rằng đây là cơ hội quyết định mà chúng ta được trao" và "nếu chúng ta biết tận dụng tốt những điểm mạnh và khắc phục những điểm yếu, chúng ta có thể trở thành những người dẫn đầu chứ không phải là những kẻ theo sau. Chỉ cần đi trước một chút, chúng ta có thể tận hưởng những cơ hội vô hạn".
 
Ông cũng cho biết, trong một năm qua, chính phủ đã khôi phục hệ sinh thái đổi mới khoa học và công nghệ, đã sửa chữa nhiều vấn đề như cắt giảm ngân sách nghiên cứu và phát triển (R&D) không thể chấp nhận được và cách xử lý thô bạo trong lĩnh vực khoa học và công nghệ, và gần đây đã thu hút được nhiều đầu tư lớn từ khu vực tư nhân.