Hàn Quốc sử dụng Trí tuệ Nhân tạo phát hiện video giả mạo về bầu cử

Mô hình AI này có tên Aegis, đặt theo tên chiếc khiên được thần Zeus sử dụng trong thần thoại Hy Lạp. Aegis sẽ được NEC sử dụng để phát hiện các video deepfake tinh vi do AI tạo ra và khó có thể nhận dạng bằng mắt thường. Aegis được NFS và Viện Công nghệ Điện tử Hàn Quốc (KETI) phối hợp phát triển.

NFS tiến hành nghiên cứu từ tháng 4 năm ngoái theo dự án do KETI tổ chức và Viện Kế hoạch & Đánh giá Công nghệ Thông tin & Truyền thông tài trợ. Dự án mang tên "Công nghệ phát hiện deepfake tự tiến hóa để ngăn chặn các tác động phụ về mặt xã hội do AI tạo ra".

Aegis được phát triển vào năm thứ 2 của dự án với sự tham gia của cả Đại học Cảnh sát Quốc gia Hàn Quốc, KAIST, Cleon (công ty tạo khuôn mặt và giọng nói bằng AI) và Wysiwyg Studios (công ty sản xuất phim). Aegis được tối ưu hóa để phát hiện các video deepfake khó nhất.

Theo Đạo luật Bầu cử Công chức sửa đổi của Hàn Quốc, có hiệu lực từ tháng 1/2024, việc sản xuất hoặc lan truyền các video deepfake do AI tạo ra cho mục đích vận động tranh cử là bất hợp pháp. Tuy nhiên, trong thời gian qua, trên không gian mạng vẫn xuất hiện tràn lan các video deepfake nhắm vào các ứng cử viên tổng thống hàng đầu và phần lớn là những video có nội dung bôi nhọ hay phỉ báng. Đơn cử, video deepfake về ứng cử viên đảng Dân chủ (DP) Lee Jae Myung mặc trang phục tù nhân hay ứng cử viên đảng Quyền lực Quốc dân (PPP) Han Dong Hoon tháo tóc giả.

Hôm 9/4 vừa qua, NEC đã điều hành lực lượng đặc nhiệm về deepfake AI giả mạo, sử dụng quy trình phát hiện 3 giai đoạn. Theo đó lúc đầu, người giám sát sẽ kiểm tra các video bằng trực quan. Nếu thấy khó phân biệt một video nào đó thì sẽ dùng mô hình AI như Aegis để tiến hành phân tích và cuối cùng là phần đánh giá của các chuyên gia AI.

"Chúng tôi chủ yếu sử dụng Aegis của NFS vì có độ phát hiện chính xác cao nhưng đồng thời chúng tôi cũng xác minh chéo với các mô hình khác," một quan chức NEC cho biết.

Aegis được thiết kế để phát hiện đầu ra được tạo ra thông qua phương pháp khuếch tán, một trong những phương pháp mới nhất để tạo hình ảnh AI. Có 2 phương pháp tạo hình ảnh AI chính, gồm mạng đối nghịch tạo sinh (GAN) và mô hình khuếch tán. GAN liên quan đến 2 mạng nơ-ron cạnh tranh để tạo hình ảnh nhanh chóng nhưng hình ảnh thu được thường bị biến dạng khiến chúng dễ bị phát hiện hơn.

Ngược lại, các trình tạo hình ảnh gần đây như Midjourney và DALL-E từ OpenAI sử dụng phương pháp khuếch tán (thêm nhiễu nhân tạo vào hình ảnh rồi sau đó mới loại bỏ nhiễu để tạo ra hình ảnh có độ phân giải cao và chất lượng cao). Vì thế, hình ảnh được tạo ra bằng phương pháp khuếch tán khó phân biệt hơn nhiều so với hình ảnh thực tế, nếu như chỉ sử dụng các kỹ thuật phát hiện thông thường.Aegis được cải tiến để phát hiện ngay cả video deepfake được tạo ra bằng phương pháp khuếch tán.

Một viên chức của NFS nói: "Chúng tôi trang bị Aegis không chỉ để phát hiện deepfake và giọng nói sâu, mà còn để phân tích xem nội dung được tạo ra có phải nhằm mục đích xấu hay không".

* Nhật Bản cũng đang khai thác sức mạnh của AI để nâng cao hiệu quả quản lý nhà nước. Cụ thể, nước này dự kiến sẽ sử dụng AI để phân tích hơn 5.000 dự án và sáng kiến của chính phủ, tập trung vào thiết lập mục tiêu, kết quả và ngân sách cho các công trình công cộng và trợ cấp.

Theo một bản đánh giá từ trụ sở Thúc đẩy cải cách hành chính thuộc Văn phòng Nội các, chính phủ sẽ triển khai một hệ thống hành chính mới từ tài khóa 2028. Mục tiêu là sử dụng AI để xây dựng các chính sách hiệu quả hơn và lên kế hoạch phân bổ ngân sách một cách tối ưu.

Trước hết, AI sẽ học dữ liệu hiện có về các sáng kiến hành chính trong một quá trình phân tích kéo dài một năm. Công việc này đã được giao cho một công ty tư vấn tư nhân vào tháng này. AI sẽ xem xét các báo cáo dự án từ các bộ, cơ quan có liên quan, bao gồm thông tin về ngân sách, chi tiêu và kết quả. Qua quá trình học hỏi này, AI sẽ nâng cao độ chính xác và khả năng đưa ra đề xuất.

Hệ thống AI cũng sẽ đảm nhiệm việc đánh giá các biện pháp tiết giảm chi phí, tiết kiệm nhân lực, đồng thời xác định những công nghệ có thể chia sẻ giữa các dự án khác nhau.

Các báo cáo dự án, gọi là “bảng đánh giá”, được chuẩn bị cho tất cả các sáng kiến có sử dụng ngân sách công. Các báo cáo này cung cấp tổng quan về dự án, tình trạng chi tiêu ngân sách và kết quả đạt được, cũng như mức độ tiến triển định lượng so với mục tiêu đã đặt ra.

Nhân viên tại các bộ và cơ quan sẽ đặt mục tiêu cho dự án và đánh giá kết quả. Tuy nhiên, trong một số trường hợp, rất khó để xác định được mục tiêu phù hợp với nội dung dự án hoặc có thể giải quyết các vấn đề đặt ra. Việc đánh giá công bằng kết quả đạt được cũng có thể gặp khó khăn.

Một quan chức tại trụ sở Cải cách hành chính cho biết: “Một số bộ, ngành phụ trách rất nhiều dự án, nên đôi khi nhân viên không thể nắm rõ toàn bộ tiến trình hoặc nội dung báo cáo của từng dự án”. Đây là lý do AI sẽ được triển khai để quản lý các dự án và sáng kiến từ tài khóa bắt đầu vào tháng 4/2028, khi hệ thống hành chính hiện tại dự kiến được nâng cấp.

Trong giai đoạn triển khai, AI dự kiến sẽ được dùng để soạn thảo tổng quan dự án, phân tích xem mục tiêu và kết quả có phù hợp hay không, và xác định các chỉ số đánh giá kết quả, theo bản đánh giá.

Về lâu dài, AI sẽ được sử dụng ngay từ đầu trong quá trình hoạch định chính sách. Ví dụ, trong một dự án hạ tầng, AI sẽ xác định phạm vi và ngân sách phù hợp, xây dựng kế hoạch bảo trì, và dự báo tác động kinh tế lên các khu vực.

AI cũng sẽ rút ra bài học từ những thành công và thất bại trong quá khứ để đề xuất chính sách và đưa ra ý tưởng cải tiến dự án. Mục tiêu là đảm bảo chi tiêu tài khóa tối ưu và nâng cao hiệu quả dịch vụ.

Theo baomoi.com