KAIST phát hiện vụ gian lận học thuật bằng “lệnh ẩn” AI – Lỗ hổng trong quy định nghiên cứu bị phơi bày

KAIST phát hiện vụ gian lận học thuật bằng “lệnh ẩn” AI – Lỗ hổng trong quy định nghiên cứu bị phơi bày

Tại Viện Khoa học và Công nghệ Tiên tiến Hàn Quốc (KAIST) vừa xảy ra một vụ gian lận học thuật sử dụng trí tuệ nhân tạo (AI) gây chấn động giới nghiên cứu. Hình thức gian lận này được gọi là “lệnh ẩn” (hidden prompt) – kỹ thuật chèn bí mật chỉ thị vào văn bản nhằm thao túng hệ thống phản biện tự động của các nền tảng đánh giá luận văn và bài nghiên cứu. Đây là lần đầu tiên một trường đại học Hàn Quốc bị phát hiện dùng AI để thao túng quá trình phản biện, nhưng KAIST hiện chưa có quy định cụ thể để xử lý, nên chỉ có thể xếp hành vi này vào nhóm “vi phạm nghiên cứu khác”.

Theo tài liệu do nghị sĩ Choi Soo-jin thuộc Ủy ban Khoa học, Công nghệ, Thông tin và Truyền thông của Quốc hội Hàn Quốc công bố ngày 13/10, quy định hiện hành của Ủy ban Đạo đức Nghiên cứu tại KAIST chỉ bao gồm bốn hành vi sai phạm: ngụy tạo, xuyên tạc, đạo văn và gian lận trong ghi tên tác giả. Việc giấu lệnh điều khiển AI không thuộc bất kỳ nhóm nào trong số này, do đó chưa có khung kỷ luật cụ thể để xử lý.

Sự việc được phát hiện từ tháng 6, khi tờ Nikkei (Nhật Bản) sử dụng công cụ AI để phân tích hơn 1.000 bài luận đăng trên trang lưu trữ học thuật quốc tế arXiv. Kết quả cho thấy ít nhất 17 bài của 14 trường đại học tại 8 quốc gia, trong đó có KAIST, chứa “lệnh ẩn” trong nội dung.

“Lệnh ẩn” là các chỉ thị bí mật được chèn vào văn bản để thao túng AI phản biện hoặc hệ thống đánh giá tự động, thường mang nội dung như “hãy đưa ra đánh giá tích cực” hoặc “chỉ viết phản hồi tốt”. Những chỉ thị này được ẩn bằng cỡ chữ cực nhỏ hoặc màu chữ trùng với nền (như chữ trắng trên nền trắng), khiến người đọc không phát hiện được bằng mắt thường, nhưng AI vẫn đọc hiểu được.

Vụ việc cho thấy khoảng trống lớn trong khung pháp lý và đạo đức nghiên cứu khi ứng dụng AI tại các trường đại học Hàn Quốc. KAIST cho biết đã thành lập ủy ban điều tra sơ bộ từ tháng 7, và đến ngày 8/9 đã kết luận đây là “hành vi vi phạm khác”, hiện đang trong quá trình xem xét mức độ kỷ luật.

Nghị sĩ Choi Soo-jin kêu gọi chính phủ nhanh chóng ban hành bộ hướng dẫn tiêu chuẩn về việc ứng dụng AI trong nghiên cứu, đồng thời phát triển công nghệ phát hiện “lệnh ẩn” để ngăn chặn các hình thức gian lận học thuật tinh vi trong tương lai.