국내 정신건강의학과 의사들은 생성형 인공지능(AI)가 인간 치료자의 보조수단으로는 유용하지만 대체재로는 받아들이기 어렵다는 인식을 갖고 있는 것으로 조사됐다.

생성형 인공지능이 정신건강 진료현장에서 활용되기 시작된 가운데, 전문의들이 실제 진료 경험을 바탕으로 그 가능성을 판단한 첫 연구결과라는 점에서 관심을 모은다.

고려대학교 안암병원 정신건강의학과 조철현 교수와 한국과학기술원(KAIST) 디지털인문사회과학부 정두영 교수 공동연구팀은 최근 국제학술지에 관련 연구결과를 게재했다.

연구팀은 대한신경정신의학회 회원 408명을 대상으로 설문을 진행했다. 정신건강의학과 전문의는 326명, 전공의는 82명이었다.

설문은 ▲진료현장에서 경험한 생성형 AI ▲인간 치료자와 비교한 생성형 AI의 장점과 한계 ▲정신건강 분야에 생성형 AI를 안전하게 도입하기 위해 가장 시급한 과제 등이었다.

핵심 결론은 생성형 AI가 임상적으로 양가적인 기술이라는 점이다. 같은 기능이라도 사용 맥락, 사용 강도, 환자 취약성에 따라 결과가 달라진다는 얘기다.

의사들은 환자가 생성형 AI를 감정 정리, 자가관리, 치료 진입의 ‘낮은 문턱 도구’로 활용한 긍정적 사례를 보고했다. 

한 의사는 환자가 생성형 AI를 활용해 단순한 위로성 문구가 아니라 자신의 상황과 감정을 정리하는 글을 생성했고, 표현하기 어려웠던 감정을 언어화하고 증상이 호전된 경험을 전했다.

반면 사용이 과도해지거나 고위험 상황에서는 부작용도 뚜렷했다. 망상적 신념의 강화, 사회적 위축, 과의존, 그리고 약물 과다복용 등 자살·자해 위험과 연결된 사례들이 보고됐다. 

특히 환자가 생성형 AI 출력 내용을 의사의 진단과 비교하며 치료 관계 자체와 치료 순응도, 진단에 대한 신뢰를 흔드는 새로운 양상도 관찰됐다.

응답자들은 생성형 AI를 표준화되어 있고 피로의 영향을 받지 않는 도구로 보면서도, 깊이 있는 치료 관계가 필요한 영역에서는 한계가 있다고 평가했다. 

비언어적 단서나 정서적 뉘앙스 반영에 한계가 있으며, 제시되는 방식이 환자에게 위안으로 받아들여질 수 있는 동시에 왜곡된 신념을 과도하게 인정하게될 위험이 있다는 것이다.

결론적으로 의사들은 생성형 AI가 인간 치료자의 보조 수단으로는 유용하지만 대체재로는 받아들이기 어렵다는 데 의견을 모았다.

도입 우선 순위에서 의사들이 강조한 것은 확산이 아니라 안전한 도입의 전제조건이었다.

▲거버넌스와 책무성 ▲위기 상황·취약 집단을 위한 안전 인프라 ▲확산 전 기술적 신뢰성과 임상 검증 ▲교육·감독·구조적 지원이 핵심 과제로 도출됐다.

연구팀은 이를 두 가지 개념으로 설명했다. 첫째는 ‘취약성 증폭’ 현상이다. 

저위험 상황에서는 정서적 지지처럼 작용할 수 있는 생성형 AI의 출력 방식이, 현실 판단이 흔들리거나 심리적으로 매우 불안정한 환자에게는 오히려 상태를 악화시킬 수 있다는 것이다. 

둘째는 ‘접근성-보호의 긴장’이다. 생성형 AI는 병원 방문 전에도 사용할 수 있어 정신건강 관리 문턱을 낮출 수 있지만 접근성이 높다는 것만으로 안전한 진료가 보장되는 것은 아니다.

특히 정신과 진료기록, 사회적 낙인에 대한 우려로 진료를 망설이게 만드는 환경에서는 AI 활용의 익명성과 즉시성이 매력적으로 작용하는 동시에 감독 없는 사용 위험도 커질 수 있다.

연구팀은 의사들의 태도가 생성형 AI 활용에 대한 단순한 거부가 아니라 ‘조건부 수용’이라는 점에 주목했다. 

의사들은 행정 업무, 정보 정리, 환자 교육, 진료 전후 보조 등에는 생성형 AI의 유용성을 인정했다. 다만 인간 치료자를 대체해서는 안 된다는 경계를 분명히 했다.

연구팀은 앞으로 정신건강의학과 의사가 단순히 치료 제공 역할을 넘어 환자의 생성형 AI 사용 내용을 해석하고, 위험 상황을 감독하는 역할도 맡게 될 수 있음을 시사한다고 분석했다.

조철현 교수는 “이번 연구는 추상적 태도 조사를 넘어 정신과 의사들이 진료실에서 생성형 AI를 어떻게 마주하고 있는지를 규명했다는 점에서 의미가 있다”고 말했다.

이어 “정신건강 분야의 AI는 다른 의료 AI보다 더 계층화된 감독과 진단 민감형 안전장치가 필요하다는 것을 보여준다”라고 덧붙였다.

정두영 교수는 “핵심 과제는 정신과가 생성형 AI를 어떻게 사용하고 감독할 것인가”라며 “빠른 대체가 아니라 제한적 보조 사용과 강화된 거버넌스·검증이 우선돼야 한다”고 강조했다.

한편, 대한신경정신의학회 미래전략위원회와 한국연구재단 지원을 받아 수행된 이번 연구결과는 최근 ‘Journal of Medical Internet Research’에 게재됐다.