최근 인공지능(AI)이 생성한 이미지 속 '가짜 의사'가 건강기능식품을 추천하고, 인플루언서들이 SNS 숏폼 콘텐츠에서 특정 약품 효과를 암시하며 상품을 판매하는 사례가 잇따르고 있다. 

이러한 온라인 허위·과장 광고에 대응하기 위해 식품의약품안전처가 AI를 활용한 본격적인 감시에 나선다.

식품의약품안전처 사이버조사팀은 9일 식약처 출입 전문지 기자단과 가진 간담회에서 AI 기반 불법 게시물 감시 시스템 'AI캅스'를 11월부터 정식 운영한다고 밝혔다. 

지난 5월부터 시범 가동 중인 이 시스템은 현재 마약류 키워드에 우선 적용되고 있으며, 향후 건강기능식품과 의약품 광고 전반으로 확대될 예정이다.

9만건 넘는 온라인 불법 게시물…자동 탐지 가능한 AI시스템 구축

사이버조사팀에 따르면 2024년 한 해 동안 온라인에서 적발된 불법 유통·광고 건수는 총 9만6726건에 달했다. 

올해 1~8월까지 5만9773건이 적발됐으며, 이는 전년도 같은 기간 대비 큰 폭으로 증가한 수치다. 

박영민 사이버조사팀장[사진 中]은 "AI 기반 모니터링 시스템의 시범 도입과 단속 인력 확충이 맞물리면서 적발 실적이 전반적으로 증가한 것으로 보인다"고 설명했다.

이러한 증가세는 단순히 불법 게시물 자체가 늘었다기보다는 온라인 플랫폼 환경이 빠르게 변화하고 있는 데 따른 결과라는 분석도 나온다. 

특히 인스타그램, 유튜브 쇼츠, 블로그, 온라인 쇼핑몰 등 다양한 플랫폼에서 숏폼 광고나 스토리 형식으로 노출되는 광고 수법이 더욱 교묘해지고 있다.

이에 따라 식약처는 온라인상 불법 광고·유통 행위에 대해 자동 탐지·선별·차단까지 가능한 AI 시스템 'AI캅스' 구축하고 2025년 하반기부터 본격적으로 정식 가동할 계획이다. 

지난 2022년 국정감사에서 "온라인 식의약 광고 감시가 미흡하다"는 국회의 지적이 나오면서, 식약처는 시스템 고도화를 위한 예산을 확보해 2024년부터 본격 개발에 착수했다.

"AI가 생성한 의사 이미지도 단속, 기망행위로 처벌 가능"

최근에는 AI로 생성한 의사 또는 약사 이미지를 사용해 건강기능식품이나 의약외품을 소개하는 사례가 늘고 있는데, 박 팀장은 "소비자 기망행위로 보고 단속 대상에 포함한다"고 밝혔다.

이어 "배우가 흰 가운을 입고 의사인 척 광고하던 기존 방식이 이제는 AI 이미지 생성 기술로 대체되고 있다"며 "해당 이미지를 사용해 의약품처럼 효능을 암시하거나, 전문가 보증처럼 연출한 광고에 대해서는 점검을 한 뒤 해당 광고 업체의 자치단체에 현장조사를 요청한다"고 설명했다.

또한 "챗봇 기반 질문·답변 형식으로 AI가 특정 제품을 추천하는 형태도, 사용자의 오인 가능성이 있다면 단속 대상"이라며 “현재도 관련 콘텐츠를 모니터링 중이다"라고 설명했다.

그러나 인스타그램이나 쇼츠(숏폼) 플랫폼을 통한 광고와 라이브 커머스는 여전히 법적·기술적 사각지대로 남아 있다. 특히 24시간 내 삭제되는 '스토리' 기능이나 알고리즘으로 노출되는 쇼핑 콘텐츠는 모니터링이 쉽지 않다는 게 식약처 입장이다.

박 팀장은 "단속요원 알고리즘에 뜨게 해야 하기 때문에 모니터링에 많은 시간이 걸린다"면서도 "라이브 커머스에 대해서는 중점적으로 점검을 실시한 바 있으며, 숏폼에 대해서도 점검이 이뤄질 예정"이라고 말했다.

식약처는 앞으로 AI캅스를 건강기능식품을 비롯해 의약외품, 화장품 광고 감시까지 확대하겠다는 방침이다. 

박 팀장은 "AI캅스 시범사업을 올해 5월부터 시작했는데, 11월부터 정식 운영을 계획 중이다. 한정된 예산으로 인해 못했던 사항들을 올해 해볼 예정이다"라고 전했다.