환자 정보 유출 우려로 생성형 인공지능(AI) 도입에 신중하던 의료계에서 폐쇄망 기반 AI 활용 모델이 새로운 대안으로 떠오르고 있다.

의료기관들의 생성형 AI 활용이 확대되는 가운데 서울아산병원이 외부 인터넷과 완전히 분리된 폐쇄망 기반 AI 시스템을 구축, 의료 데이터 보안과 생성형 AI 활용을 동시에 추진하고 있다.

서울아산병원이 국내 의료기관 최초로 외부 인터넷과 완전히 단절된 폐쇄망 환경에서 구동되는 ‘프라이빗 AI 지식 검색 시스템’을 구축하고 본격 가동했다고 18일 밝혔다. 

프라이빗 AI는 외부 클라우드에 데이터를 보내지 않고, 기관 내부 서버에서만 AI 모델을 운용하는 방식이다.

의료 데이터는 환자의 진료 기록, 검사 결과 등 민감한 정보가 포함돼 있어 엄격한 보안이 필수적이지만, 기존 생성형 AI는 외부 클라우드와 연결돼 정보 유출 우려가 있었다. 

서울아산병원은 이를 해결하기 위해 모든 서버와 데이터를 병원 내부에서만 운용하는 ‘온프레미스(On-premise)’ 방식을 채택해 외부 클라우드 의존도를 0%로 낮췄다.

이를 통해 생성형 AI의 이점을 온전히 활용하면서도 환자 정보가 병원 밖으로 나가지 않는 최고 수준의 데이터 보호를 실현했다. 또한 외부 솔루션 업체에 의존하지 않고 병원 내 IT 인력이 직접 시스템을 개발하면서 기술 자립도 역시 한층 높였다.

프라이빗 AI 지식 검색 시스템을 활용하면 의료진은 방대한 임상 가이드라인이나 업무 규정을 일일이 찾아볼 필요 없이 질문 한 번으로 수 초내 정확한 답변을 얻을 수 있다. 

예를 들어 ‘기관삽입관 탈거 시 응급 처치 및 재삽관 프로토콜’, ‘법정 감염병 확진 환자 발생 시 신고 절차’ 등 매뉴얼 확인이 필수적인 긴급 상황에서 AI가 제공하는 객관적인 근거를 토대로 신속하고 침착하게 대응할 수 있다.

프라이빗 AI 지식 검색 시스템의 기술적 핵심은 벡터 데이터베이스와 RAG(검색 증강 생성, Retrieval-Augmented Generation) 결합이다. 

벡터 데이터베이스는 문서 내용을 AI가 의미 단위로 이해하고 빠르게 검색할 수 있는 형태로 변환해 저장하는 기술이다. 

일반적인 데이터베이스가 키워드 일치 방식으로 검색하는 것과 달리 벡터 데이터베이스는 질문 맥락과 의미까지 파악해 가장 관련성 높은 문서를 찾아낸다. 병원 내 임상 가이드라인, 업무 규정 등 방대한 문서 전체를 벡터 데이터베이스로 저장, AI가 필요한 정보를 즉시 불러올 수 있는 기반을 마련했다.

RAG는 AI가 답변을 생성할 때 반드시 데이터베이스 내 실제 문서를 근거로 삼도록 강제하는 기술이다. 

AI가 임의로 내용을 창작하지 않고 실제 저장된 문서를 먼저 검색해 참고한 뒤 답변을 구성하는 방식이기 때문에 AI가 근거 없이 그럴듯한 거짓 정보를 만들어내는 ‘환각(Hallucination) 현상’을 구조적으로 차단한다. 의료 분야에서 특히 치명적일 수 있는 환각 문제를 원천적으로 방지했다는 점에서 의미가 크다.

또한 폐쇄망 환경 특성상 외부 최신 정보를 실시간으로 반영하기 어렵다는 한계를 보완하기 위해 ‘샌드박스형 외부 검색 엔진’을 별도로 운영할 계획이다. 

김영학 서울아산병원 디지털정보혁신본부장은 “이번 시스템은 보안과 AI 활용이라는 두 과제를 동시에 해결하며 폐쇄망 환경에서도 AI를 온전히 활용할 수 있음을 직접 증명했다는 점에서 의미가 크다. 앞으로도 시스템을 지속적으로 고도화하며 데이터 유출 걱정 없는 신뢰 기반 디지털 의료혁신을 선도해 나가겠다”고 말했다.