서울아산병원 서준교 교수팀, "프롬프트 인젝션 공격에 취약"
최근 생성형 인공지능 챗봇에게 질환 상담을 하는 사례가 늘고 있는 가운데 상용 중인 AI 모델 대부분이 악의적 공격에 무방비로 당해 잘못된 치료를 권할 위험이 매우 높은 것으로 나타났다.서울아산병원 비뇨의학과 서준교 교수팀은 의료용 대규모 언어모델(LLM)이 프롬프트 인젝션 공격에 94% 이상 취약하다는 사실을 확인했다고 5일 밝혔다.프롬프트 인젝션 공격은 해커가 생성형 AI 모델에 악의적인 명령어(프롬프트)를 삽입해 본래 의도와는 다르게 동작하도록 유도하는 사이버 공격이다.특히 최상위 AI 모델인 GPT-5와 제미나이 2.5 프…
2026-01-05 16:21:18


