의학 논문 작성 및 편집 과정에서 생성형 인공지능(AI)를 활용하는 것과 관련해 정보의 ‘정확성’ 문제가 한계로 지적됐다.

고려대 의대 오재령 교수(고대안암병원)는 29일 열린 ‘2026 대한외과학회 학술대회’에서 “생성형 AI를 활용하는 데 있어 윤리적인 문제는 아직 해결되지 않은 것 같다”는 의견을 밝혔다. 

먼저 생성형 논문 작성 과정에서 AI를 통해 제공된 정보에 오류가 포함된 경우가 많다는 점을 문제로 꼽았다. 아직 확인되지 않은 내용을 문헌 정보로 제공하거나 통계 분석 과정에서 정보가 누락되는 것 등이다. 

오 교수는 이러한 오류 원인을 대화를 이어 나가는 것을 목적으로 하는 생성형AI 구조적 특성에서 찾았다. 목표 달성을 위해 고의로 잘못된 정보를 제공한다는 해석이다.

아울러 AI 생성 이미지 활용과 관련해 “아직 대부분의 학술지에서 받아들이지 않고 있다”며 저작권 등 법적 문제를 꼽았다. 

오 교수는 “실제 AI를 통한 이미지 생성을 위해 참고 이미지를 제시한 사례에서 사용자가 저작권 침해를 유발했다는 법원 판례가 있다”고 설명했다. 

아울러 AI가 제공하는 과정에서 사용자 생각을 조작할 수 있어 경계가 필요하다는 주장도 내놨다. 

오 교수는 “교묘하게 짜인 가짜 데이터 문헌은 검증 과정을 우회해 학술 출판 전반의 신뢰성을 훼손한다”며 “생성형AI 한계는 단일 오류에 그치지 않고 시스템 전체의 교란으로 증폭된다”고 경고했다. 

이어 “논문을 리뷰할 때 ‘저자가 찾아봤겠지’라고 생각해 그냥 넘어가게 되면 그것이 기정사실화돼 출판되고 학계를 오염시킬 수 있다”며 검증 중요성을 강조했다. 

최근 5년간 국내 연구자들 논문 204건, ‘생성형 AI 사용 의심’ 이유 철회

이화의대 권형주 교수(이대목동병원) 역시 AI가 결국 스스로 책임질 수 없는 도구임을 언급하며 투명성과 함께 “최종적인 것은 편집자가 결정하는 것”이라고 역할과 책임을 제시했다.

발표에 따르면 지난해 기준 최근 5년간 국내 기관 소속 연구자들 논문 204건이 ‘생성형 AI 사용 의심’을 이유로 철회됐다. 

관련해 권 교수는 “AI가 제시한 근거 논문을 읽어 보면 정반대 내용을 혼동하거나 아예 존재하지 않는 것을 제시해 줄 때도 있다”면서 “검증을 안 하게 되면 잘못된 논문이 발표된다”고 꼬집었다.

그러면서 AI 도움 없이 스스로 철저한 검증을 통해 리뷰하는 것이 중요하다고 주장했다.

그에 따르면 심사자의 AI 사용은 기밀 유지 위반에 해당하며 실제 80% 저널이 AI를 이용한 리뷰를 금지하고 있다. 

권 교수는 “DOI가 확인되지 않거나 과거 문헌만 참고 자료로 제시하는 등 특성이 확인되면 심사자들이 주의를 기울일 필요가 있다”고 했다. 

덧붙여 “편집자는 저자와 심사자 간 갈등을 조정하며 학술지가 신뢰를 유지할 수 있도록 잘 지키는 역할을 해야 한다”고 마무리했다.