생성형 AI가 허위 정보를 사실처럼 만들어내는 '환각(Hallucination)' 현상이 학술계의 신뢰를 흔들고 있습니다. 최근 국내외 대학과 연구기관에서는 AI가 생성한 가짜 참고문헌과 잘못된 인용이 포함된 논문들이 잇따라 철회되는 사태가 발생했습니다.
실제 피해 사례도 구체적입니다. 강원대·세종대 연구진의 가짜뉴스 탐지 논문, 한양대 에리카캠퍼스와 극지연구소의 유기탄소 관련 논문 등이 철회되었습니다. AI 분야 석학인 조경현 뉴욕대 교수 역시 공저 논문에서 가짜 참고문헌이 발견되어 공개 사과하기도 했습니다.
데이터로 확인되는 허위 정보 확산세는 더욱 심각합니다. 리트랙션워치에 따르면 2023년 이후 AI 생성 콘텐츠 문제로 철회된 국내 논문은 205건, 참고문헌 문제로 철회된 논문은 316건에 달합니다. 의학·생명과학 분야의 펍메드 데이터베이스에서는 허위 참고문헌 비율이 2023년 2828편당 1편에서 올해 277편당 1편으로 급증했습니다. 과학·공학·컴퓨터 분야 역시 2023년 1600편당 1편에서 올해 1분기 435편당 1편으로 높아졌습니다.
국내에서는 연구재단 지원 과제에서 첫 AI 연구 부정행위 사례가 확인되었습니다. 중국 우주산업 생태계 관련 논문은 참고문헌 40여 개 중 17개가 오류로 판명되어 철회되었으며, 해당 연구자는 3년간 학술지 게재 제한 처분을 받았습니다. 학계는 AI 활용에 따른 윤리적 검증 체계 마련이 시급하다고 지적합니다.