국내 연구팀이 인간 뇌처럼 예측이 틀려도 다시 생각하도록 하는 기술 개발에 성공했다.

한국과학기술원(KAIST)은 뇌인지과학과 이상완 교수 연구팀이 인간 뇌(腦) 학습 원리인 ‘예측 부호화(predictive coding)’를 인공지능(AI) 학습에 적용해 깊은 신경망에서도 학습이 멈추지 않도록 안정성을 높인 새로운 학습 기법을 제시했다고 지난 2일 밝혔다.

예측 부호화는 뇌가 현재 정보를 ‘받아들이는’ 데 그치지 않고, 다음 상황을 먼저 예측한 뒤 실제 결과와의 차이(오차)를 줄이는 방향으로 스스로를 업데이트하는 정보처리 방식이다.

다만 이를 딥러닝 모델로 구현하려 할 때 네트워크가 깊어질수록 예측 오차가 특정 층에 집중되거나(쏠림) 반대로 거의 사라지는(소실) 현상이 나타나 성능이 떨어지는 문제가 반복돼 왔다.

연구팀이 제시한 해법은 AI가 ‘결과’만 예측하는 것이 아니라 ‘예측 오차가 앞으로 어떻게 변할지’까지 한 번 더 예측하도록 설계를 바꾼 점이다.

연구팀은 이를 ‘메타 예측(meta prediction)’으로 설명하며, 예측 부호화 신경망(PCN)의 고질적 불안정성을 줄이기 위해 오차의 오차(meta-prediction error)를 최소화하는 손실 설계와 가중치 분산을 제어하는 정규화(규제) 기법을 결합했다.

성능 검증에서도 개선 폭이 확인됐다. KAIST에 따르면 총 30개 실험 중 29개에서 현재 표준 학습법으로 통하는 ‘역전파(backpropagation)’보다 높은 정확도를 기록했다.

연구팀은 CIFAR-10/100, TinyImageNet 등 대표 벤치마크에서도 통계적으로 유의미한 향상을 보였다고 설명했다.

이번 접근 의미는 ‘학습 방식’ 구조적 차이에 있다. 역전파가 모든 층을 촘촘히 연결해 전체 네트워크를 한 번에 계산·수정하는 경향이 강한 반면, 예측 부호화 기반 학습은 뇌처럼 국소(local) 규칙에 기반한 분산 학습을 지향한다.

연구팀은 메타 예측을 통해 “깊은 모델에서도 분산·부분 학습만으로 안정적으로 학습이 가능함을 보였다”고 밝혔다.

KAIST는 해당 기술이 전력 효율이 중요한 뉴로모픽 컴퓨팅, 환경 적응형 로봇 인공지능(AI), 기기 내부에서 추론이 이뤄지는 엣지 AI 등으로 확장될 수 있을 것으로 기대했다.

의료 분야로 넓혀보면, 병원 내 장비·웨어러블 등에서 ‘온디바이스’로 작동하는 의료AI 전력·지연(레이턴시) 이슈가 커지는 만큼 학습·구현 효율을 함께 노리는 뇌영감형 학습법이 응용 여지를 가질 수 있다는 관측도 가능하다(다만 실제 의료 적용은 별도 검증이 필요하다).

이상완 석좌교수는 “뇌 구조를 단순히 모방한 것이 아니라 뇌 학습 원리 자체를 AI가 따르도록 만든 것이 핵심”이라며 “뇌처럼 효율적으로 배우는 인공지능 가능성을 열었다”고 밝혔다.

한편, 이번 연구에는 하명훈 박사가 제1저자, 이상완 교수가 교신저자로 참여했고 논문은 ‘Stable and Scalable Deep Predictive Coding Networks with Meta-Prediction Errors’라는 제목으로 ICLR 2026에 채택(포스터)돼 2026년 1월 26일 공개됐다.