생성형 인공지능(AI) 기술이 의료현장으로 빠르게 확산되면서 규제당국 역할도 새로운 전환점을 맞고 있다.

의료영상 판독이나 진단보조에 머물렀던 AI 의료기기가 이제는 의료진 의사결정 지원 단계로 진화하면서 기존 규제체계만으로는 안전성과 신뢰성을 충분히 담보하기 어렵다는 지적이 나온다.

이에 식품의약품안전처는 생성형 AI 의료기기 시대에 대응하기 위한 새로운 규제체계 구축에 속도를 내고 있다.

단순한 허가·심사를 넘어 품질관리, 전자적 보안, 사후관리, 규제특례를 아우르는 전주기 관리체계를 마련하며 AI 의료기기 규제의 패러다임 전환을 추진하는 모습이다.

생성형 AI 기반 디지털의료기기는 기존 기계학습 기반 의료기기와 달리 방대한 데이터를 활용해 새로운 결과를 생성하는 게 특징이다.

동일한 입력값에도 맥락에 따라 다른 결과를 도출할 수 있어 학습데이터 편향, 정보 누락, 이른바 ‘할루시네이션(Hallucination)’, 결과의 일관성 등이 주요 관리 대상으로 꼽힌다.

식약처 출입 전문지 기자단 취재에 따르면 식약처는 이에 대응해 ‘생성형 인공지능 의료기기 허가·심사 가이드라인’을 마련했으며 현재 LLM에 특화된 별도 허가·심사 가이드라인도 준비 중이다.

생성형 AI의 특성을 반영한 보다 구체적인 심사기준을 마련해 기술 발전 속도에 선제적으로 대응하겠다는 구상이다.

허가보다 중요한 ‘사후관리’…기업 역량까지 평가

특히 AI 의료기기는 지속적인 업데이트와 재학습이 이뤄지는 만큼 허가 이후 관리가 중요하다.

식약처는 사용목적과 핵심 성능, 주요 알고리즘 변경 시 허가를 받도록 하고 그 외 업데이트는 품질관리체계 내에서 관리하도록 하고 있다.

제조사는 변경 이력을 관리하고 관련 문서를 제출해야 하며 학습데이터와 성능 변경 내용도 사용자에게 공개해야 한다.

공개 대상에는 인공지능 모델 훈련방법, 학습데이터 정보, 성능 범위와 한계, 클라우드 활용 여부 등이 포함된다.

식약처는 인허가 이전 단계부터 제조·수입업체의 관리 역량도 평가하고 있다. 학습데이터 품질관리, 비식별화 조치, AI 모델 설계·구현, 성능 모니터링 체계 등이 주요 평가 항목이다.

아울러 재학습과 성능 변경 과정에서도 전자적 보안 체계가 유지될 수 있도록 관련 규정을 운영하고 있다.

AI 디지털의료기기 심사 과정에서는 작용원리의 의학적 타당성, 데이터셋 품질과 편향 여부를 포함한 분석적 성능, 실제 의료현장에서의 임상적 유효성이 핵심 평가 요소다.

단순히 알고리즘 성능뿐 아니라 실제 환자 진료 환경에서 임상적 가치를 입증할 수 있는지를 중요하게 보고 있다는 설명이다.

현재 AI 의료기기 규제는 국가별로 서로 다른 방향으로 발전하고 있다. 유럽은 AI법(AI Act)을 시행 중이며 미국은 관련 가이드라인을 지속적으로 개정하고 있다.

영국은 규제 샌드박스 개념의 AI Airlock 제도를 통해 새로운 AI 기술의 실증을 지원하고 있다.

식약처는 국제의료기기규제당국자포럼(IMDRF) 가이드라인을 적극 반영해 디지털의료제품법 기반의 인허가·품질관리 체계를 구축하고 있으며, 국내 허가 경험이 글로벌 규제 대응 역량으로 이어질 수 있도록 지원하겠다는 방침이다.

단순히 허가를 받는 데 그치지 않고 제품 생애주기 전반에 걸쳐 기업이 규제기관과 지속적으로 소통하고 관리 역량을 축적하도록 유도하겠다는 것이다.

시장 성장세도 가파르다.

식약처에 따르면 AI 기반 의료기기 허가·인증 건수는 2021년 37건에서 2022년 47건, 2023년 64건, 2024년 108건, 2025년 153건으로 증가했다. 올해도 5월까지 이미 75건이 허가·인증됐다.

제품 중심 규제에서 기업 중심 평가체계로

식약처는 향후 생성형 AI를 넘어 피지컬 AI, 멀티모달 AI, 연속학습 AI 등 보다 고도화된 기술이 등장할 것으로 전망하고 있다.

차세대 AI는 기존의 고정된 알고리즘 기반 제품과 달리 스스로 정보를 생성하고 지속적으로 변화하는 특성을 갖게 될 것으로 예상된다.

이에 따라 식약처는 디지털의료제품법에 근거한 ‘우수관리체계 규제특례 제도’ 도입도 추진하고 있다.

이는 제품 중심의 전통적 인허가 방식에서 벗어나 기업의 AI 관리 역량을 중심으로 평가하는 새로운 개념의 제도다. 현재 구체적인 운영 가이드라인 마련 작업도 진행 중이다.

정부는 향후 의료 AI 거버넌스 역량이 우수한 기업을 지정해 현행 규제체계로 평가하기 어려운 혁신적 AI 의료기기에 대해 실사용 특례를 부여하는 방안을 검토하고 있다.

영국의 AI Airlock과 유사한 개념으로 혁신 기술의 시장 진입을 지원하면서도 안전성을 확보하기 위한 새로운 규제 모델로 평가된다.

AI 의료기기가 단순한 소프트웨어를 넘어 의료서비스의 핵심 인프라로 자리 잡아가는 가운데 식약처 역시 허가기관을 넘어 AI 거버넌스를 설계하는 규제기관으로 역할을 확대하고 있다.

생성형 AI 시대의 경쟁력은 기술력뿐 아니라 이를 뒷받침할 정교한 규제체계 구축 여부에 달려 있다는 분석이다.