최근 생성형 AI(인공지능) 이용이 빠르게 확산되면서 야기된 개인정보 노출 및 잘못된 정신건강 정보, 정신질환에 대한 자가 진단, 과의존 등 위험 대응에 정부와 의료계가 나섰다.

8일 보건복지부와 대한신경정신의학회는 생성형 AI 이용에 따른 정신건강의 부정적 영향을 최소화하고 안전한 활용을 지원하기 위해 가이드라인을 마련했다.

모든 이용자를 위한 가이드라인은 생성형 AI 이용 과정에서 발생할 수 있는 개인정보 노출, 잘못된 정보와 판단, 과의존 등의 위험을 인지하고, 안전하게 AI를 이용할 수 있도록 3가지 핵심 메시지와 21개 권고문을 담았다.

먼저 가이드라인은 정신건강 목적으로 생성형 AI를 이용하기 전(前) 서비스 목적·대상·효과 근거와 개인정보 처리방식을 확인하고, 의학적 효과를 표방하는 서비스는 공인기관 검증·승인 여부를 확인토록 했다.

또 이름·연락처·주소 등 개인정보와 진단서·처방전·검사 결과지 등 민감한 자료는 입력하지 말고, 대화 범위와 종료 시점을 미리 정해서 이용토록 안내했다.

AI 정신건강 진단이나 위험도 평가를 확정적인 의학적 판단으로 받아들이지 말고, 다른 가능성과 관점을 함께 확인하도록 권고했다.

AI가 제공하는 정신건강 정보와 조언은 학회·정부기관 등을 통해 검증된 자료나 전문가를 통해 확인하고, 자신의 상황에 맞지 않는 내용은 그대로 따르지 않도록 안내했다.

아울러 AI를 실제 사람과 같은 존재로 여기거나 의존하지 않도록 하고, AI 이용이 늘거나 가족·친구와의 관계가 줄어드는 경우 의식적으로 AI와 거리를 두도록 했다.

중요한 결정은 사람이나 전문가와 상의하고, 위험하거나 부적절한 응답을 받거나 정신건강 위기 상황에 놓인 경우에는 AI가 아닌 가까운 사람과 전문기관에 도움을 요청토록 했다.

아동·청소년 위한 7개 권고사항과 보호자 대상 권고사항 ‘별도 마련’

아동·청소년 대상 권고사항은 ▲AI 답변을 그대로 따르기보다는 자신의 생각과 상황을 먼저 살펴보기 ▲이름·학교·주소·연락처·사진 등 개인정보 보호하기 ▲원할 때 언제든 AI와의 대화를 중단할 수 있음을 인식하기 ▲AI 캐릭터를 실제 친구나 연인처럼 여기고 있지는 않은지 스스로 점검하기를 안내했다.

또 ▲고민이나 어려움을 AI에게만 털어놓고 있다면 가까운 사람에게 이야기 해보기 ▲AI가 위험하거나 부적절한 답변을 하는 경우에는 혼자 해결하려 하지 말고 부모·교사 등 믿을 수 있는 어른에게 알리기 ▲마음이 힘들거나 위기 상황에 처했을 때 도움을 받을 수 있는 전문기관을 미리 알아두기 등을 권고했다.

가이드라인은 보호자 대상 권고사항을 별도 마련, AI 이용 자체를 무조건 금지하거나 통제하기보다는 아이가 AI를 무엇에, 어떻게 이용하는지 먼저 이해하고 함께 안전한 이용 방법을 정하도록 안내했다.

▲아이가 AI를 이용하기 전에 이용 목적과 방식에 대한 기본 규칙을 함께 정하기 ▲아동·청소년을 위한 서비스인지 여부 및 개인정보 보호 설정 등 확인하기 ▲AI 이용 사실을 알게 되었을 때 꾸짖거나 금지하기보다 어떻게 이용하는지 경청하고 대화하기를 제안했다.

또 ▲아이가 AI 캐릭터를 실제 친구나 연인처럼 여기거나 AI에만 고민을 털어놓는 등 정서적으로 지나치게 의지하고 있지는 않은지 살피기 ▲AI를 통해 정신건강 관련 정보를 얻는 경우에는 해당 내용의 적절성 및 타당성 등을 확인하기를 권고했다.

보건복지부는 가이드라인 내용이 교육현장과 임상 현장에서 다방면으로 활용·확산될 수 있도록 주체적인 AI 이용을 위한 교육 프로그램을 마련해 나간다.

내년에는 중증정신질환자를 포함한 고위험군의 특성을 고려한 맞춤형 가이드라인을 마련하는 등 전문가, 현장과의 소통·협업을 지속해나갈 예정이다.

이선영 정신건강정책관은 “생성형 AI는 정보와 정서적 도움을 얻는 새로운 수단으로 활용될 수 있지만, 친절하고 확신에 찬 답변이 항상 정확성이나 안전성을 보장하지 않는다”고 지적했다.

이어 “정부는 이번 가이드라인을 시작으로 이용자 교육을 확대하는 등 AI 전환기에 대응하는 정신건강 정책을 지속적으로 강화해 나가겠다”고 강조했다.

대한신경정신의학회 최준호 이사장은 “정신건강 문제는 단순히 증상 하나만으로 판단하기보다는 개인 삶과 대인관계, 증상 변화와 일상생활에 미치는 영향 등을 종합적으로 살펴보는 것이 필요하다”고 설명했다.

그는 “AI는 전문적인 평가와 치료를 대신할 수는 없는 만큼 필요한 경우 의료진 도움을 적기에 받는 것이 중요하다”고 덧붙였다.