산업 진흥을 앞세워 규제를 최소화했지만, AI 기반 의료장비를 실제 진료에서 사용하는 병원 관리 및 감독 책임이 모호해졌다는 지적이다.  

박노형 고려대학교 법학전문대학원 명예교수는 최근 ‘한국 인공지능기본법의 규제 대상 불일치와 규제 최소화의 역설: EU AI법과의 비교를 중심으로’를 통해 이같이 밝혔다.   

해당 논문에 따르면, 유럽연합(EU) AI법은 AI 시스템을 실제 업무에 투입하는 주체를 ‘운용자(deployer)’로 규정해 독립적인 책임을 묻고 있다. 

의료 AI의 경우 기기를 개발해 시장에 출시하는 업체는 ‘제공자’이며, 이를 진료 과정에 편입해 환자 진단이나 치료에 사용하는 병원은 ‘운용자’가 된다. 

즉, EU AI법에서 병원은 운용자로서 성능 한계 파악, 실질적 인적 감독, 입력 데이터의 적절성 관리 등 엄격한 의무를 지게 된다.  

하지만 국내 인공지능기본법은 인공지능개발사업자와 인공지능이용사업자만을 규정할 뿐 병원이나 공공기관 등 AI 시스템을 실제 조직적 의사결정 과정에 투입하는 주체를 별도 책임 주체로 체계화하지 못했다.  

박 교수는 “이러한 운용자 책임 공백은 AI 생애주기에 대한 법적 규율이 명확히 분리되지 않은 데서 기인한다”고 분석했다. 

AI모델 세부화 규율도 공백 

AI 기술은 상류 단계에서 모델이 지능을 형성하고, 하류 단계에서 시스템으로 통합돼 특정 목적 속에서 기능하는 생애주기적 구조를 가진다. 

EU AI법은 이를 반영해 범용 AI 모델과 고위험 AI 시스템을 명확히 구분해 규율하고 있다. 

반면 한국 법안은 법률과 시행령에서 주로 인공지능시스템만을 중심으로 규제하며, 모델과 훈련에 관한 사항은 법적 구속력이 없는 가이드라인을 통해 보충하는 방식을 취했다.  

또 훈련과 학습 개념의 포괄적 통합도 원인으로 꼽힌다. 훈련은 모델을 구축하는 과정이며 학습은 시스템이 운용 중 환경에 적응하는 과정임에도, 한국 법안은 이를 구별하지 않고 포괄적인 ‘학습’ 개념으로 묶어 처리했다. 

박 교수는 “모델 단계에서 형성되는 편향이나 환각 등의 위험이 법의 직접적 규율 대상에서 벗어나게 돼, 결과적으로 위험 발생 단계별 통제 가능성을 특정하기 어려워지고 책임 귀속 역시 불명확해지는 문제가 발생한다”고 지적했다.  

결론적으로 인공지능기본법이 진정한 실효성을 확보하기 위해서는 단순한 규제 강화가 아닌 AI 위험 형성 및 전이, 현실화 단계에 따른 생애주기 기반 거버넌스로 재구성돼야 한다는 것이다.  

그는 “모델은 모델 단계에서, 시스템은 시스템 단계에서 분리해 규율하고 운용자 개념을 도입해 위험이 현실화되는 지점의 책임을 명확히 배분해야 한다”고 강조했다.