27/04/2026
[BCS 연구성과✨]
KAIST 백세범 연구팀이 인공지능(AI)의 ‘과신(overconfidence)’ 문제를 줄일 수 있는 새로운 학습 방법을 제시했습니다. 연구팀은 기존 딥러닝에서 사용하는 무작위 가중치 초기화가 AI가 잘못된 예측에도 높은 확신을 보이게 만드는 원인일 수 있음을 밝혔고, 이를 해결하기 위해 실제 데이터 학습 전에 무작위 노이즈로 짧게 학습하는 ‘예열(warm-up)’ 전략을 제안했습니다. 이 과정을 거친 AI는 스스로 확신을 낮추고 모르는 상황을 인식하는 능력이 향상되어, 정확도와 확신도가 더 잘 일치하는 신뢰성 높은 판단을 수행할 수 있습니다. 특히 처음 보는 데이터에서도 무리하게 답을 내리기보다 ‘모른다’고 판단하는 경향이 강화되어, 자율주행이나 의료 AI처럼 높은 신뢰성이 요구되는 분야에서 활용 가능성이 큽니다. 해당 연구는 국제 학술지 Nature Machine Intelligence에 2026년 4월 9일자로 온라인 게재되었습니다.