응급상황에서 인공지능(AI) 활용과 동의 등 연구자가 자율적이고 책임 있는 인공지능 연구를 할 수 있도록 윤리적 기준이 처음으로 제시됐다.
질병관리청 국립보건연구원(원장 박현영)은 보건의료 분야 연구자를 위한 ‘보건의료 분야 인공지능 연구윤리 지침’을 발간했다고 17일 밝혔다.
지침에는 인공지능 연구 설계부터 데이터 생성, 모델 개발, 검증‧평가, 적용 및 사후 점검 전(全) 과정에서 발생할 수 있는 윤리적 질문에 대한 원칙이 제시됐다.
▲인간 자율성 존중과 보호 ▲인간 행복 ▲안전 ▲공공이익 증진 ▲투명성 및 설명 가능성, 신뢰성 ▲책무 및 법적책임 ▲포괄성 및 공정성 ▲대응성 및 지속 가능성 등이다.
응급상황에서 인공지능 활용과 동의, 의료 인공지능 질과 안전성, 챗봇 환각 효과, 임상결정의 미묘한 경계선과 인공지능, 인공지능과 인종 편향, 인공지능 기술이 가져올 의료인 고용환경 변화 등 구체적 사례를 함께 게재했다.
실제 요청한 데이터 자료보다 더 많이 수집됐을때 용도가 변경돼 다른 목적으로 사용될 우려에 대해선 정보 사용자에게 징벌적 조처를 할 수 있는 근거를 확인토록 했다.
이 같은 사용에 대응, 상품 및 서비스 마케팅을 모니터링하는 인공지능 기술은 개발 및 보험회사, 정부 기관과 공유해서 정보 주체자를 통제하거나 문제 상황을 식별, 법적 범위를 벗어난 경우다.
해당 지침은 국립보건연구원 지원으로 의료정책, 법‧윤리, 의료인공지능, 보건의료정보 분야 전문가가 집필진으로 참여했다. 공청회를 통한 의견 수렴을 통해 정해졌다.
올해 하반기 중 ‘보건의료 분야 인공지능 연구윤리 지침’에 기반한 윤리 교육 프로그램을 운영해 인공지능 연구윤리에 대한 인식을 확산시키게 된다. 향후 지속적으로 지침을 보완하고 발전시켜 나갈 계획이다.
박현영 국립보건연구원장은 “이번 지침이 인공지능 활용 보건의료 연구에 대한 윤리적 인식 확산에 도움을 줄 것”이라고 기대감을 전했다.
지영미 질병관리청장은 “앞으로 질병 관리에 인공지능 기술이 선도적으로 적용될 수 있도록 인공지능 연구 개발을 적극 지원하고 연구 활성화를 위해 노력하겠다”고 밝혔다.
백성주 기자 (
