KAIST, ‘AI 숨은 지시어’ 논문 조작 적발… 국내 대학 첫 사례

KAIST, ‘AI 숨은 지시어’ 논문 조작 적발… 국내 대학 첫 사례

한국과학기술원(KAIST)에서 인공지능(AI)을 이용한 논문 조작, 일명 ‘숨은 지시어(hidden prompt)’ 사건이 발생해 학계가 충격에 빠졌다. 국내 대학에서 AI를 활용해 논문 심사 시스템을 조작한 사례가 적발된 것은 이번이 처음이다. 그러나 KAIST는 아직 이에 대한 명확한 규정이 없어 해당 행위를 **‘기타 연구 부정행위’**로 분류했다.

국회 과학기술정보방송통신위원회 최수진 의원이 10월 13일 공개한 자료에 따르면, KAIST 연구윤리위원회의 현행 규정은 조작, 변조, 표절, 부당한 저자 표시 등 4가지 부정행위만 명시하고 있다. AI 지시어를 숨기는 행위는 여기에 포함되지 않아 징계 기준이 마련되어 있지 않은 상태다.

이번 사건은 지난 6월 일본 경제지 **닛케이(Nikkei)**가 AI를 활용해 국제 논문 저장소 arXiv에 게재된 1,000여 편의 논문을 분석하면서 드러났다. 조사 결과, 8개국 14개 대학의 논문 17편에서 **‘숨은 지시어’**가 발견됐으며, 그중 KAIST 논문도 포함돼 있었다.

‘숨은 지시어’란 AI 심사나 자동 평가 시스템을 조작하기 위해 문서 내부에 몰래 삽입된 명령어로, “긍정적인 평가를 내려라”, “좋은 피드백만 작성하라” 등과 같은 내용을 포함한다. 이 지시어들은 **글자 크기를 극도로 작게 하거나, 배경색과 동일한 색상으로 표시(예: 흰색 글자에 흰색 배경)**해 사람 눈에는 보이지 않지만 AI는 인식할 수 있도록 만든다.

KAIST는 7월에 예비조사위원회를 구성해 조사를 진행했으며, 9월 8일 ‘기타 연구 부정행위’로 결론을 내렸다. 현재는 징계 수위 및 제도 개선 방안을 논의 중이다.

최수진 의원은 “AI 활용 연구가 급속히 확산되는 만큼 정부가 조속히 AI 연구 윤리 가이드라인과 숨은 지시어 탐지 기술을 마련해야 한다”며 “이와 같은 신종 학문적 부정행위가 다시는 발생하지 않도록 제도적 장치를 강화해야 한다”고 강조했다.