과학계 뒤흔든 ‘유령 논문’ 주의보: AI가 만든 가짜 참고 문헌의 역습

유령 논문 문제에 과학 경진대회 심사위원들과 연구자들이 강한 경고를 보내고 있다. 챗봇이 실제로 존재하지 않는 논문과 학술지를 꾸며내는 사례가 늘어나면서, 학생들의 연구 프로젝트는 물론 과학 저널까지 ‘가짜 참고문헌‘에 오염되고 있다는 것이다.

AI가 만든 ‘유령 논문’에 과학계 비상

미국 워싱턴DC의 국제과학기술경진대회는 2025년과 2026년 대회에서 여러 학생 프로젝트를 실격 처리해야 했다. 이유는 모두 비슷했다. 참고문헌에 존재하지 않는 논문이 포함돼 있었기 때문이다.

어떤 참고문헌은 논문 제목과 학술지 이름은 맞았지만 저자명이 틀렸고, 어떤 경우는 학술지 자체가 존재하지 않았다. 드루카는 이런 오류들이 ChatGPT나 Gemini 같은 생성형 AI 챗봇에서 나온 것으로 보인다고 설명했다.

ISEF는 세계 최고 수준의 학생 과학대회 가운데 하나로 꼽힌다. 지역 대회를 통과한 학생들만 참가할 수 있으며, 매년 약 1천800명만 본선에 오른다. 이런 대회에서 가짜 참고문헌 때문에 실격되는 사례가 반복되자 심사위원들도 충격을 받았다고 한다.

문제는 학생들만이 아니라는 점이다. 최근에는 전문 과학자들이 발표한 논문에서도 AI가 만든 가짜 참고문헌이 발견되고 있다. 연구진은 이런 존재하지 않는 논문들을 ‘유령 논문’이라고 부른다.

실제로 연구자들이 약 1만8천 편의 컴퓨터과학 학회 논문을 분석한 결과, 최소 300편 이상에서 AI가 만들어낸 허위 참고문헌이 발견됐다. 또 다른 연구에서는 주요 과학 출판사 논문 약 4천 편 가운데 최소 65편에서 가짜 참고문헌이 확인됐다. 연구진은 2025년 한 해 동안 수만 건의 허위 참고문헌이 과학 문헌에 포함됐을 가능성이 있다고 분석했다.

“AI는 방향만 제시할 뿐… 검증은 인간 책임”

드루카는 직접 실험도 진행했다. 실제 참고문헌 목록을 챗봇에 넣고 형식만 정리해 달라고 요청했는데, AI가 존재하지 않는 정보까지 끼워 넣었다는 것이다.

심지어 가짜 참고문헌을 구글에서 검색했더니, AI 검색 요약 기능이 “실제 논문”이라고 설명하는 사례도 있었다. 드루카는 “학생들이 확인 작업까지 했더라도 AI 때문에 속을 수 있다”고 말했다.

영국 에든버러대 디지털 교육 연구자 벤 윌리엄슨은 자신이 쓰지도 않은 논문이 실제 논문처럼 여러 학술지에 인용된 사례까지 발견했다. 논문 제목과 공동저자, 학술지 이름까지 조금씩 달랐지만, 모두 존재하지 않는 ‘유령 논문’이었다. 그런데도 일부 논문에서는 이 가짜 논문을 실제 참고문헌처럼 인용하고 있었다.

유령 논문에 우려를 표하는 전문가들도 AI 자체를 완전히 금지해야 한다고 보지는 않는다. 실제로 ISEF 참가자 미트레야 다라니는 암 치료를 돕는 AI 모델 연구로 과학대회 결선에 진출했다. 그는 AI가 연구 방향을 잡는 데는 도움을 줄 수 있지만, 실제 논문을 읽고 검증하며 실험하는 과정은 결국 사람이 직접 해야 한다고 강조했다.

연구자들은 특히 참고문헌 검증 과정에서 DOI(디지털 객체 식별번호)를 직접 검색해 실제 논문 존재 여부를 확인해야 한다고 조언한다. 제목과 저자, 학술지 이름, 권호 정보까지 모두 일치하는지 확인해야 AI 조작 여부를 걸러낼 수 있다는 것이다.

전문가들은 생성형 AI가 빠르고 쉬운 답을 제공하는 대신, 사람들의 호기심과 탐구 과정을 약화시킬 위험도 있다고 경고한다. 윌리엄슨은 “AI가 틀린 정보를 만들어내는 것은 사용자의 잘못이 아닐 수 있다”면서도 “하지만 우리가 만든 결과물의 정확성에 대한 책임은 결국 인간에게 있다”고 말했다.

성치훈 기자/ hello@sciencewave.kr

출처: Science News Explores, “Don’t trust AI for help with citations, science-fair judges warn”